今日は出勤日。
午前中は EMNLP 2020 読み会。3本ともそれなりにおもしろかったが、最近の自分の興味に合っているのは以下の論文かな。 - Duffer et al. Identifying Elements Essential for BERT's Multilinguality. EMNLP 2020. これは BERT を多言語で学習させたときに、何が学習されているのか、ということを分析した論文で、擬似的な言語を作って学習させて分析したりしている。興味を引いたのは語順を逆にして入れた言語との比較で、語順を逆にするだけでちゃんと学習できないというのは、少なくとも絶対的な位置を表現している positional encoding は表現能力が足りていないということだろうが（相対的な位置をエンコードすればいい、という知見はこの論文以外にも色々ある）、文とは何か、という話がここに入っているような気がしている。
午後は4限の時間から NLP 応用グループのミーティング。これまでは13時開始にしていたが、午前の論文紹介が大体12:30くらいまでかかっているということと、参加者の1人が3時間目（13:00-14:30）に授業があると言うことで、授業が終わってから参加できる時間に繰り下げたのである。結局このグループは人数が多いので3時間ほどミーティングするのであるが、ちょうどいいくらいの時間かな。
夕方は計算機の受け取りのためにインターンシップ研修生の学生が来学。本当は郵送でなんとかなればよかったのだが、こちらから送った MacBook Pro と電源アダプタが、充電できない組み合わせであったようで、結局動く組み合わせで持って帰ってほしい、ということで来てもらったのである。もっとも、純正ではない互換の電源アダプタを購入してみたら、それで充電できるようだったので、それを持って帰ったので、それならうちから直接送ればよかったかもしれない、と思ったり……（検収を受けることができないので、自分のポケットマネーから支払うことになるのだが）。
ただ、この MacBook Pro もほとんど減価償却していて、動かなくなったらそのまま廃棄したいと思っている（今回は学外のインターンシップ研修生という身分なので、余剰機を割り当てている）ので、あまりこれ以上お金をかけたいわけではなく、動くなら使うか、くらいの気持ちである。今年度は昨年度更新しなかった分も合わせて8台入れ替える予定だが、来年度は定例の更新で4台くらい Mac を入れ替えたい。
