恩返しして次世代につないでく

午前中は企業との共同研究のミーティング。(自分的には割と想定内なのだが)結果が芳しくない実験と、一応動いているけど期待する動作をしていない実験があり、今後の方針を立てるのが難しい。まあ、まだ時間はあるのでなんとか軟着陸する場所を探すのが、プロの仕事なのであるが……。

お昼は茨城大学から学生さんが研究室見学に来ていたので、ランチをご一緒する。研究室の中で(ニューラル)機械翻訳の研究をしている人がいないので、色々細かいところで躓いてしまう、ということで、最初は自分がメールでやり取りしていたのだが、ほとんど Slack で学生同士で話し合えば解決しそうな内容だったので、それなら一度来て話をしてもらえれば、と思ったのである。

思えば、うちの研究室も首都大に来てからすぐは機械翻訳の研究はほとんどしておらず、用例翻訳にニューラル手法を適用すればうまく行くのでは?と思って、当時 M1 で機械翻訳をやりたいという学生に京大黒橋研に出張して研究室見学させてもらい、そこでニューラル機械翻訳の洗礼(?)を受け、それ以降はニューラル機械翻訳で行くことになった、という歴史がある。何事も、百聞は一見にしかずで、詳しい人に少しつながって話を聞くだけでも全然違うし、そこで聞いた話を持ち帰って種を撒くと大きく花開いたりするので、こうやって研究室に来てもらう、というのも、ご恩返しの一つである(黒橋研時代には返すことができないが、他の研究室に返すことで、バトンをつなぐという意味で)。

昼からは論文紹介で以下の論文を紹介してもらう。

  • Yoon Kim, Alexander Rush, Lei Yu, Adhiguna Kuncoro, Chris Dyer, Gábor Melis. Unsupervised Recurrent Neural Network Grammars. NAACL 2019.

Recurrent Neural Network Grammar という用語を初めて知ったのだが、RNN を使ってスタックを実現するような形の構文解析のことを指すようで、なるほど~と思う。@neubig さんの資料を見ると発展が分かりやすい。構文解析のような記号処理はあまりニューラルっぽくないかと思っていたが、色々進歩している。

研究会では B4 メンバーおよび B3 メンバーに、言語処理学会年次大会の目次発表をしてもらう。例年11月の下旬に、A4 で2ページほど、章立てとそれぞれの章で何を書くか、という程度のことを報告してもらっているのである。この時点でちゃんと章立てや内容が書けない人の場合、発表を見送ってもらっている。ちなみに、実験結果が芳しくない、というので見送ってもらうことはなく、そもそもやるべき実験がよく分からない、あるいは工数を見積もってもたら実験ができなさそう、というケースが該当。実験結果がよくなくても何らかの(バグではない)結果が得られていて改善の可能性がある場合や、あるいは実験結果が揃っていなくてもどの実験をすればいいか見通しが立っている場合は、本人の希望次第で継続してもらっている。

B3/B4 メンバーを見ていて、大体はちゃんと言語処理学会年次大会で発表できていて、発表した人のうち半数程度は国際会議でも発表することを考えると、大学院からの新入生もとにかくまず研究をやってもらうのが第一で、授業(単位取得)は後回しでもいいのではないかな、と思ったりする。積み重ねないといけない研究と違い、単位は M2 になってから取ってもいいし(本学の大学院の授業は、あまり研究と関係ない内容をやっている、というせいでもあり、たとえば NAIST のように基礎知識をみっちりと叩き込むような授業なら、研究がスタートする前にしっかり学んでおくことに意味があると思うのだけど)。