研究の考え方も身に付ける

今日も朝から家の壁紙を貼り替える業者の人が入れ替わり立ち替わり。今日で終わらなかった部分はあとは年度末になるのだが、結局は1部屋（と収納）を残して全部終わらせてもらった。全体を終えるには想定よりも2倍くらいの時間が必要かもしれないが、一応見えるところは全部やってもらったので、満足である。

11月以降の生活について色々準備したり考えたりするのだが、結局案ずるより産むが易しかなと思ったりする。

ざっと「ゼロから作る Deep Learning」を読んでみた。

ゼロから作るDeep Learning ―Pythonで学ぶディープラーニングの理論と実装

この本の前半部分をざっくりまとめたのが「ゼロから作る Deep Learning 2」の第1章のようだが、「ゼロから作る Deep Learning 2」の第1章ですらかなり丁寧だと思ったし、それに対してこちらは同じ内容を6章くらい使ってやってい（このレベルの丁寧さで書かれた本は確かに他にないので、これはこれで意味があると思うが、人によっては冗長だと思いそうなくらい親切）。後半は画像の話になって、そちらは自分でも「なるほど」と思うところがあったので、どちらの本も前半部分と後半部分はそれぞれ価値があると感じる。

とはいえ研究室内の基礎勉強会でこの「ゼロから作る」シリーズをやるかというと微妙なところで、B2/B3 向けならいいと思うけど、自然言語処理の研究をスタートしようとしている B4/M1 向けだと思うとやはり「深層学習による自然言語処理」なのかなあ、と思ったりする。というのも、「ゼロつく」は数式とコードを対応づける、という部分はいいのだが（深層学習のコードを書くトレーニングにはなる）、その数式が何を意味しているのかはあまり解説してくれておらず（誤解のないように補足すると、何をしているのか、どういう目的に何を使えばいいのかはかなり詳しく説明されているのだけど、どういう背景でそうしているのかが書かれていない）、これを読んでも論文が読めたり書けたりするようにならなさそうな気がするのである。「深層学習による自然言語処理」は、内容は2019年現在古くなってしまっているところは2割くらいあるものの、研究をするときの思考回路が随所に見え隠れするので、こういう発想をすれば研究ネタが生まれるんだな、というトレーニングも一緒にできるのである。

深層学習による自然言語処理 (機械学習プロフェッショナルシリーズ)

一方、「深層学習による自然言語処理」を読んでも、別に深層学習のコードが書けるようになる訳ではないのであるが、この部分は研究室的には新入生にはメンターをつけて OJT のような形でコーディングしてもらうので、大きな問題にはならないという事情もある（ので、独習するとなると確かに「深層学習による自然言語処理」ではなく「ゼロから作る Deep Learning」シリーズの方がいいのかもしれない）。あと、そもそも論文は読むだけで、書く可能性はゼロという人であれば、確かに「深層学習による自然言語処理」より「ゼロから作る～」の方がいいのかもしれない。個人的には「自然言語処理のための深層学習」も一度読んでみた方がいいかなと思っている。