お昼、そういえば今日はなにやら忙しいような気がしていたのだけど、と思っていたら、午後イチで副指導教員になっている人たちの中間発表があるんだった。むむ。
中間発表のあと、意味談話解析勉強会。今日は@jhirwin くんが
- Aria Haghighi and Dan Klein. Coreference resolution in a modular, entity-centered model. HLT/NAACL-2010.
を紹介してくれる。先週@Wildkatzeくんが紹介してくれた共参照解析(文書中に出てくる「オバマ大統領」と「現大統領」が同じ実体を指すかどうか当てる問題)に関する論文
- Raghunathan, Karthik and Lee, Heeyoung and Rangarajan, Sudarshan and Chambers, Nate and Surdeanu, Mihai and Jurafsky, Dan and Manning, Christopher. A Multi-Pass Sieve for Coreference Resolution. EMNLP-2010.
の前に書かれた論文のようで、お互いそれぞれの論文は参照し合っていないが、手法の違いがあって勉強になった。"in a modular model" と言っている割にはあまりモジュラリティが高くないが、毎年こうやって手を変え品を変えシステムを向上させているというのは特筆すべきことであろう。タスクを決めて手法をいろいろ試すか、手法を決めてタスクをいろいろ試すかという2つの選択肢があったとして、彼らは前者の道を選んだ、ということで。
人工知能学会誌の2010年11月号が届いた。特集「大規模画像データ処理」を見ると最近の画像処理のサーベイがまとまっていて勉強になる。自然言語処理でよく用いられる bag of words (どの位置に単語が出現したかは気にせず、どの単語が何回出現したかを特徴として用いる)との類比で bag of features (どの位置に特徴量が出現したのかは気にせず、どの特徴量が何回出てきたのかを特徴に用いる)というのが画像処理で最近使われているらしいのだが、そのあたりの最近のトピックがいろいろ。
類似画像検索や物体認識では高速にデータ同士の類似度を計算しないといけないのだが、高次元空間でこれを高速に行なうための近似最近傍探索に関する記事も勉強になった。画像処理というとあまり特徴量の次元は高くない印象があったのだが、bag of features なんかを使うようになって、自然言語処理と同じく高次元空間における学習の問題(次元の呪い)が出てくるようになったと。単純な最近傍探索はデータを全探索することになるが、効率的な最近傍探索は基本的に A* 探索の亜種である、という話もいまさらながら気づいていなかったのでなるほどと納得。
と、それはさておき、冒頭の話と関連して紹介しておきたいのは@shudoさんのインタビュー。@shudo さんは自分が「大学に残るか企業に行くか」と悩んでいたとき、「企業に行ったら研究できないなんてことはないよ、そんな0/1ではないんじゃないかな。実際自分はベンチャーで働きながら論文書いたし、いまは准教授になって東工大にいるし」という話をしてくださって、そんなことができるのか、と衝撃的だった。
思えばこのときそういう話を聞いたのが自分も大学と企業の狭間で仕事をするきっかけになったのかなと思う。大学か企業か、ではなく、大学でも企業でも、という選択である。(その代わり、@shudo さんがおっしゃっていたように、自分の自由時間を余分に使う必要があるが)
氏は，博士課程を卒業後，国立の研究機関(引用者注: 産総研)で職を得たのちにベンチャー企業(引用者注: ウタゴエ)に転職し，そこから大学の教員になったという，現在の日本の学術界において珍しい経歴の持ち主である．この経歴は，ハイテクスタートアップを志す学生や研究者，または，ハイテクスタートアップを経験した人のロールモデルたり得ると評価されることがあり，嬉しいこと，と氏は語る．(p.908)
と書かれているように、自分の研究者としてのロールモデルの一つに @shudo さんがいるのは間違いない。
まだ自分も今後のキャリアをどうするか迷っているところだが、次のくだりも考えさせられる。
産総研では順調に研究開発を進めていた首藤氏であったが，5年目は大きな一年になった．まず，5年の任期終了後に任期なしの研究員として採用されるか否かの審査が春先に行われた．審査に合格し，任期なしで研究員として採用されることが決まったのは5月頃だったそうだ．[中略]
そうして順調に進んでいた5年目の秋頃，大学時代の後輩である園田智也氏が起業したウタゴエ株式会社から，一緒に働かないかと誘われた．[中略] 富や名声，世の中にインパクトを与えること，自由に活動できる環境などさまざまな観点から転職と産総研を比較した．そうして論理的に考えた結果，転職せずに産総研に勤めることを選び，誘いを断った．
自分もこういう話があったら考えて大学なり研究所なりに残ることを選びそうだが、自分は @shudo さんが残らない選択肢を選んだことを知っていたので、「あれ、そうだったんだ?」と思って次の段落を見ると-
ところが，一度ベンチャー企業へ転職の誘いを断ってから，2,3日経ったある日，氏は，「やらないと後悔する」と気づいたそうだ．[中略] 理詰めで考えたときは産総研が良いという結論が出ていたにもかかわらず，それ以外の部分で転職を選んだのは感慨深いと氏は言う．後悔を最小化して幸せに死ぬためには転職せざるを得なかったそうだ．[中略] もし転職していなければどうなっていたのかと考えることもあるそうだが，後悔は一度もしていないそうだ．(p.907)
とあり、なるほど、直感を信じて進んできたのだな、と納得。
自分も任期は5年なので、似たような感じかもしれない(任期なしの准教授に昇進する試験が存在しないことは違うが)。ロジカルには(≒自分と同じ境遇に他の人が立ったら)企業に行かず大学・研究所に勤めて研究を続けることが妥当な気がするし、それがよいとも思う。博士号を取った直後に NAIST で助教になるのは実は想定外だった(ポストが空くのはもっと先だと思っていた)のだが、いまはこのポジションに満足している。そういう意味では、自分もいまの選択に対する後悔はしていない。
自分が「将来やらないと後悔するだろう」と思うのは、もう一度ベイエリアで働くことかな。2012年3月までは奈良でしっかり働こう、と決めているので、1年以上先のことを考えていてもこんな流れの速い業界であまり意味ないのかもしれないが……。
最後まで書いて気がついたが、「後悔の最小化」
というと@hillbigくんのオンライン最適化と Regret 最小化のような話もあったが、自分も人生のオンライン最適化(収束が速いと嬉しい?)をしたいものである。
