大規模データからの機械学習と自然言語処理への応用 - 人工知能学会基本問題研究会

人工知能学会基本問題研究会というのに参加してきた(リンク先、next.html なんて名前なので、将来的に切れると思うが……)。この研究会、毎年1月は情報処理学会の自然言語処理研究会(通称 NL 研)と共催される研究会で、自然言語処理の中でも機械学習っぽいのはここでも発表されるようなのだが、参加したのは初めて。このあたりの国内の自然言語処理関係の学会については shimpei-m くんがまとめているので、そちらを参照されたい。

さて研究会のほうなのだが、特集が「大規模データからの機械学習と自然言語処理への応用」ということで、招待講演が

  • 鍜治伸裕氏(東京大学生産技術研究所)「テキストからの評判分析と機械学習」
    • 近年のCGMの爆発的な普及に伴って，テキストデータから特定の製品に関する評判を自動的に抽出して集約するための技術が注目を集めている．こうした技術は評判分析と呼ばれ，特に自然言語処理などの分野において盛んに研究が行 われている．本講演では，機械学習を応用したアプローチを中心として，最近の評判分析の研究動向の紹介を行う． CGM: Consumer Generated Mediaのこと．ここではアマゾンなどのレビューデータやブログデータのことを指している．
  • 岡野原大輔氏(東京大学大学院情報理工学系研究科)「大規模データを基にした自然言語処理」
    • 大規模データが利用可能となるにつれ，機械学習を利用した自然言語処理の精度は 大幅に向上する一方，計算量，空間領域量の増大が深刻な問題となってきている．本発表では適切なデータ構造（拡張接尾辞配列，転置ファイルなど），アルゴリズム（確率的勾配降下法など），モデル化（L1正則化など）を利用することで，これらの 問題がいかに解決されるかを述べるとともに，これからの課題を述べる．

ということで、ゴージャスな顔ぶれ。これに加えて自分は

  • 鹿島久嗣(日本IBM)、加藤毅(お茶大)、山西芳裕(Mines ParisTech)、杉山将(東工大)、津田宏治(MPI)「リンク伝播：リンク予測のための半教師付き学習法」

も聞きたかったので、まさにピンポイントである。

聞きに来た人によるまとめがたくさんある

ので、被るところはそちらにお譲りするとして、kashi_pong さんのリンク伝播の話なのだが、グラフ(テンソル)ベースのリンク予測タスク、ということで聞いていて非常におもしろかった。最初ノードにラベルをつけるマルチクラスの問題とどういう関係かなと思っていたのだが、エッジにラベルをつけるという話ということか。(よくある設定、というか自分がよくやる設定はノードにラベルをつける話)　しかし計算量多いのはどうしているのかなと思ったら、いくつも計算量を減らす工夫をして、それでいてなおかつ予測する対象の次元は数千ということで、やっぱりどこも大変なのは同じかぁ、と思ったり。

あと O 野原くんと自分は同じ D2 だけど彼は招待講演にもよく呼ばれていてすごいなぁとしみじみ思ったりしつつ、やっぱり一つのことをコツコツとやり続けるのが大事なのかなと思った。先日の Key-Value Store 勉強会でも彼は自分の発表のとき「どうも昔からぼくは大規模データがあると興奮するようです」と言っていたが、そういうように自分が興奮するツボを心得ておいて、そこからぶれないのが大事なんだろうな、と思う(特に興味が発散しがちな自分としては……)。

などと思いつつ、懇親会に行く途中で鍛治さんと喜連川研どうですかという話をしたりしつつ、鍛治さんが実は自分と同い年であることを知ったり(笑)　あと喜連川研の M2 の人が相談員つながりで自分のことを知っているらしい。世界は狭いなぁ。

懇親会ではカーネギーメロン大学日本校の卒業生で、現在日本でインターンシップをしていて、7月からは北京に戻るという人と(研究会の前の時間道を聞かれて案内したりしていて知り合いになっていたので)隣に坐っていろいろ喋る。北京っ子らしいので北京の習慣について聞いてみたり、北京に来たら電話してね！　と言われて連絡先交換したり。たまたま彼の家(と学部のとき通っていた大学)は MSRA のすぐ近く(徒歩圏内)らしく、ピンポイントでそのあたりのことをいろいろ教えてくれた。こういう偶然ってのもあるもんだ(笑)

偶然といえば、去年の9月から今年の1月まで近畿大学で非常勤講師をしていたのだが、その非常勤先の教員の方で、松本研に「非常勤で授業手伝ってくれる人いませんか」と声をかけてくれた方がたまたま(実際この研究会に来たのは初めてだったそうで)いらしていて、お互い「奇遇ですね」とびっくりした。人工知能という(自然言語処理より)少し大きな枠で動いているとそういうこともあるのかなー、と思った次第。

帰ってくるときちょっと風邪気味っぽかったのだが、案の定夜11時くらいから異常発熱・発汗し、下半身の関節が痛んでのたうち回る。インフルエンザじゃなかったようなのでよかったけど、ちょっと今週は疲労がたまっていたのかも……