午前中は最先端論文紹介でまず以下の論文を紹介してもらう。
- Xiangwen Zhang, Jinsong Su, Yue Qin, Yang Liu, Rongrong Ji, Hongji Wang. Asynchronous Bidirectional Decoding for Neural Machine Translation. AAAI 2018.
これはニューラル機械翻訳で出力を出すとき、先頭から順番に単語を出していると後ろの方が見られないので、後ろの方からデコードした結果にアテンションを張りながらデコードする、という話。コメントでアテンションの可視化を見せてほしい（本当に文末の情報を見ることで翻訳ができるようになったのか不明）、という意見があったり、将来の翻訳結果が知りたいならこんなことするより強化学習でやったほうがいいのでは、という意見があったり、それぞれごもっともな意見だと思うが、ちゃんとこういうしっかりしたコメントが出てくるというのは、論文読み会をみんなでやっている甲斐があってよかった。 研究の内容にまっとうなコメントをする能力、どの環境でも身につけられるものではなく、自分は NAIST 松本研にいたので鍛えられたと思っているし、うちの研究室でもちゃんと提供できているな、と思うのである。
もう一つ紹介してもらったのは以下。
- Romain Paulus, Caiming Xiong, Richard Socher. A Deep Reinforce Model for Abstractive Summarization. ICRL 2018.
なんかそんなに新しい感じのしない論文だったが、2017年の5月に arXiv に投稿されたものだったようで、納得。というか、1年前の論文で古く感じるというのはどういう感覚なんだ、と自分で自分にツッコミを入れたいのだが、それくらい流れが速いので、なんか異常な分野であるという感想しかない。こんな分野で業績を残すのは、ほとんど不可能ではなかろうか……。というか、自分がいま B4 で、大学院では人文系から自然言語処理に専門を変えようとして研究室を探していたら、たぶん大学院には進学しないのが局所的な最適解ではないかと思うのだが、かといって就職活動をして就職しても人文系の高度な知識は将来的に自動化が進む領域でもあるので、大域的な最適解がどこにあるのかは分からない。
強化学習、大学院の授業で実装した記憶があるのだが、研究で使ったことがないので、一度使ってみたいのだが、なかなか機会がない。深層学習がもはやツールとなったように、強化学習もすぐツールの一つになるのではないかと思うのだけど。
お昼からは受託研究のミーティング。共同研究と違い、受託研究は着地点を最初にしっかりと決めておけばスムーズなので、自分は割と好きである。共同研究の方が、共同研究ごとに違う部分がありすぎて（あと、同じ共同研究でも年度によって進め方が全然違うこともあって）難しい場合が多い。まあ、共同研究の方が圧倒的に数が多いので、良い点も悪い点も経験が多いせいもあるが……。
午後は南大沢キャンパスに移動して全学の教務委員会、そして全学の基礎教育部会、そして全学の基盤・教養科目群検討部会。3つも会議があって委員会に出席するだけで3時間なくなってしまった。
夕方は日野キャンパスに戻ってきて社会人博士の学生とのグループミーティング。今年度は社会人博士が複数人いるので、隔週くらいで定期的に（Skype および現地で）集まってミーティングをすることにしたのである（これまでは不定期の 1:1 ミーティングで、ミーティングの都度次回の日程調整をしていた）。人数が増えてきたら本格的に定例化できるかなと思っている。
夜は八王子に移動して新学科の新任教員の歓迎会。今年度は3人の教員（教授、准教授、助教）が増えたので、ファーストインプレッションをお伺いしたりするが、自分が着任して感じたのと全く同じようなことをみなさん感じてらっしゃるようで、「ですよね〜」と激しく同意。とはいえ、現在の情報科学科の教員は自分以降に着任した人が1/3いるので、少しずつ変えられるところは合理的に変えていければなと思っている（変だなと思うところはみんな変だなと思っていて、なんでそうなっているのかにはだいたい理由があるのだが……）。
