人工知能学会誌2010年7月号:転移学習のサーベイ

人工知能学会誌に@shima__shimaさんが書いた転移学習のサーベイが載っている。

  • 神嶌 敏弘, "転移学習", 人工知能学会誌, vol.25, no.4, pp.572-580 (2010)

転移学習とは、あるタスクのデータやそれから学習したモデルを別のタスクに流用する学習の枠組みのことで、たとえば自然言語処理では「分野適応」と呼ばれていたりいろんな呼び方があるようなのだが、入手が困難なラベル付きデータ(人手の作業が必要なので、クロールだけすれば大量に手に入るデータとは違う)をいかに活用して使えるものを作るか、というのは実用上も大きな問題なので、注目されているのである。

上記記事、実は内容的には転移学習のサーベイをベースに整えて少し新しい話が加わっているので、人工知能学会誌の記事が手に入る人はそちらを参照されるとよいと思う。

あと研究者インタビューでは @niamさんたちが植田先生にインタビューした記事が載っていて参考になる。慶応の経済に入ってから経済学に疑問を持って東大文3に入り直し、数理的な言語工学に興味を持って理転するために教養学部の基礎科学科第二(現在の教養学部後期課程広域科学科。ちなみに自分のいた科学史・科学哲学は教養学部教養学科第一だったようだ)に進学、研究の道に進むことにしたという。

研究を志してからの道のりも平坦ではなく、「こんなテーマで研究するのか!」とびっくりする。将来の就職がかかっていたら、学生にせよポスドク助教にせよもっと成果が出そう(=メジャーな国際会議に通りそう)なテーマで書きたがるのかなと最近思うのだが、全く漸進的ではなく関心も幅広くて舌を巻くのである。最後以下のように言及がある。

若手へのメッセージを伺ったところ,「自由にやってほしい」というご回答が返ってきた.氏の時代には,研究者を目指すにしても今の若い世代ほど成果を出すことに切羽詰まらなくてもよかったというが,今の時代は厳しくなっており,「かわいそう」と言ってくださった.ただ,厳しいあまり,しっかりした内容をもっているものの,こぢんまりとしているように見える研究が,ときどきあるように思えるという.
 今の若手は,自分の領域についてはしっかりした基盤をもっている人が多く,それ自体はとても良いことなのだが,自分の領域に閉じてしまわないようにしてほしい.そういう研究をやりながら,もう少しいろいろな方向に目を向けて,視野の広い研究にトライしてもらえるとよいという.(p.606)

確かに最近は学生でも「◯◯(トップカンファレンスの内容)に通したい」などと言う人がいたり、世界レベルで仕事をしたいという人が増えてきて喜ばしいことではあるし、しっかりした研究をして実際通す学生も多いのですばらしいことなのだが、タコツボ型の人が多いなという印象は受ける。「大風呂敷を広げるよりしっかりした研究をしたい。ちゃんと納得してひとつひとつ理解しながら進めたい」というのは立派なことだし、ひとそれぞれ性格次第なのでそれもよいことだと思うのだが、目先の会議がどうだとかいうより、もっと先を見据えてやるべきことを考える必要があるのではなかろうか(最初はやってみないとペースもつかめないので、感覚を掴むために会議ドリブンでやるのもいいと思うけど)。就職なんかがチラついてしまうと、そうも言っていられないのは分かるが……。