確認をしてもそこそこ間違える

今日は9時から呼び出されているので7時台の電車に乗ったが、郊外向きの中央線でこんなに混んでいるのは無理……。2限以降の授業でないと厳しい。

朝のヒアリングは南大沢からわざわざ何人かいらしていただき、これまでも同じ内容を違う人に4回説明しているのだが、今日は5回目の説明をすることに（そしてまださらにあと1回あることを教えていただく）。

しかしこのヒアリングで分かったのは、学内のルールを把握しているのは職員の人だけで、教員の人はほぼ例外なく全員ルールには無頓着で、俺のルールでやっている、ということであった（自分はルールが明示されている場合は割とルールを確認するのだけど）。確かに、手を抜くべきところは手を抜くのが大学教員の立場では局所最適解になりがちなので、仕方ないかと思う点もないわけではないのだが、なんとかならないかと思ったりする。なんでこういう仕組みになっているのかはなんとなく想像がつくので、これはこれで制度としては局所最適解なのだろうけど（本学のルールは南大沢の職員の直感に合っていて、逆に日野の教員の直感に反したルールになっていることが多いので、日野の教員的にはルールを確認しないと大体間違えるのである）。

これに限らず、本学の大学運営の仕事は、毎年ローテーションで1人の人が1つの仕事をやる（任期は原則的に1年または2年で、長くとも2年経ったら次の仕事になる）という形になっているのがよくなくて、複数人のグループで複数年にわたって仕事をする、というような形になっていた方がよいと思うのだけど。ローテーション形式の利点は全員が全ての仕事を一通り体験して全体が分かるという点だが、その制度を維持するオーバーヘッドも大きいし、どうせ1年経ったら次の仕事に行くことが分かっていると、ルールを覚えるインセンティブも特にないだろうし、少人数の教員で回さないといけない本学には合っていないと思うのである。（グループ外の人には経緯が理解できなくなったり、1人抜けると打撃が大きいというデメリットはあるが、教員の出入りは少ないし、一応グループを組むので冗長性はあるかなと）

午前中はオフィスアワーだが、今回は Google Hangouts Meet によるオフィスアワー。複数人でディスカッションするときや、ホワイトボードを使って説明したいようなときはリモートだとちょっとやりにくいが、そうではない場合は特に問題なく、直接会ってやる場合の8割くらいの伝達量だろうか。リモートでできる（ので回数が増やせる）、という利点と2割くらいの情報の欠損をどう考えるかというバランスの問題だが、うちの研究室的にはちょこちょこ話せる利点の方が大きいと思った（ビッグラボだと恐らくリモートでできる利点より直接会ってミーティングをする利点の方が大きい）。

昼からは論文紹介。2本紹介してもらったが、以下の論文の方が若干おもしろかったかな（スライド）。

  • Kawin Ethayarajh. How Contextual are Contextualized Word Representations? EMNLP 2019 (to appear).

これは ELMo と BERT と GPT-2 がどのような情報をどのようにエンコードしているのか、という比較をした研究で、2019年現時点的には ELMo はもういいかと思うので BERT と GPT-2 の比較に焦点を当てると、同じく Transformer を使って文脈情報を埋め込んでいるが、ざっくり言うと BERT がエンコーダで埋め込むのに対し GPT-2 はデコーダで埋め込んでいて、そのせいでかなり違う埋め込みになっている、という話（その理由はよく分からないが）。言語生成をしようと思うと、学習される空間的にはかなり特殊な構造をしていないといけないのかなぁ。

午後は研究会で、共同研究の紹介をしてもらう。研究室メンバーではない学部3年生もいるので、データは見せられなかったりするのだけど、雰囲気は分かってもらえたかなと思う。共同研究のアピールを各人がしてくれたのだが、へー、これって学生目線ではこういうメリットがあるのかぁ、と参考になったりする。自分も大学院生のとき共同研究に携わっていたので、できるだけそのときにやってよかったと思うところを残して、これは学生的には避けたいと思うところは削っているのだが、まだまだ発展途上である。あと、松本先生や乾先生、飯田さん等が共同研究関係で自分にしてくれて、これは助かった、勉強になった、と思うことはできるだけうちの学生にもしてあげているつもり（進捗がほとんどなくてもかばってくれたり、あるいは変わりに何か話してくれたり。）。

あと先週末にベトナムのハノイで開催された PACLING の参加報告をしてもらう。自分が初めて査読あり国際会議で発表したのは（修士の総代に選ばれておきながら徹夜で書いて学位記授与式を寝過ごして投稿したものの、リジェクトされた EMNLP 原稿を再投稿して採択された）D1 のときの PACLING なので、思い入れがあるのであった。大体アジア開催の国際会議は日本人的にはご飯がおいしくて楽しいイメージなのであるが、実際参加報告を聞くと満喫できたようで何よりである。自分の知り合いもうちの学生たちによくしてくれたようで、ありがたいことである。ちなみに、うちの（元）学生が Best Student Paper Award を受賞したらしく（発表時に学生ではないのは微妙な気がするが、国際会議ごとにポリシーが違うみたい）、地元のメディアから取材を受けていたそうだ。

夕方は博士の学生の進捗報告を聞く。みんなしっかり実験をしていてよいことである。