「神経科学に触発された人工知能」

仕事の関係もあって、人工知能・ディープラーニングに関連する論文は結構読んでいるのだが、たまにはこのブログでも紹介しようかなと思ったので紹介することにする。と言っても、あまりに専門的なものはわかりやすく紹介できる自信がなかったので、比較的マイルドなレビュー論文にした。

Hassabis, Demis & Kumaran, Dharshan & Summerfield, Christopher & Botvinick, Matthew. (2017). Neuroscience-Inspired Artificial Intelligence. Neuron. 95. 245-258. 10.1016/j.neuron.2017.06.011.

https://deepmind.com/research/publications/neuroscience-inspired-artificial-intelligence

「神経科学インスパイアドAI」というタイトルがついているが、これはDeep Mindの研究者たちによる、神経科学から人工知能研究への影響のレビュー論文だ。

初期の人工知能の研究は神経科学や心理学と密接に絡み合っており、先駆者の多くは両方の分野にまたがっていた。しかし最近は相互作用はそれほど一般的ではなくなっている。一方、このレビューでは、神経科学の重要性を主張している。ただし、「神経科学」という語はものすごく広義に使うと宣言されており、おそらく神経科学だけではなく心理学や認知科学も含まれている。人間や動物の知能に関する研究をまとめて「神経科学」と呼んでいるようだ。

AI研究に得られるメリットとして著者らがあげるのは、以下のふたつだ。

それぞれ科学哲学で言うところの「発見の文脈」「正当化の文脈」と言えなくもないかもしれない(ただし、後者は正当化の文脈と言うには弱いし、正当化の文脈にはほとんど関わらないというところがむしろこの種の影響関係の特徴かもしれない)。

もちろん人工知能をつくる上で、生物学的な妥当性にそこまでこだわる必要はない。工学的には動くことが重要であって、生物的妥当性は手段にすぎない。この意味で、生物学的妥当性はあくまでもガイドであり、厳密な要件ではない。

また、著者らは、ここでデイヴィド・マーによる生物学システムの理解のための「3つの分析レベル」を参照した上で、人工知能に関わるのはもっぱら「計算論的レベル」と「アルゴリズムレベル」といった、抽象的な機能のレベルだけであると述べている。

  1. 計算論的レベル: システムのゴール
  2. アルゴリズムレベル: ゴールを実現するためのプロセスと計算
  3. 実装レベル: 生物学的基盤の上でアルゴリズムを実現するメカニズム

このレビューは「過去」「現在」「未来」という3つの項目にわかれているので、以下でもこれに沿って紹介していく。

過去: 深層学習と強化学習

現在のAI研究にとって極めて重要な2つの分野、深層学習と強化学習の起源は、どちらも神経科学にある。深層学習はニューラルネットワークの手法のひとつであり、言うまでもなく「ニューラルネットワーク」は神経科学由来だ。さらに、深層学習で使われる多くの技法、例えば、現在でも画像処理でよく使用される畳み込みニューラルネットワーク(CNN)は哺乳類の視覚野の研究に触発されている。また、ドロップアウトなどの、正則化のための技法も、神経科学からヒントを得たものだ。

また、現代のAIの第2の柱は、「強化学習」であるが、これはもともともと動物学習の研究に着想を得ている。 特に、強化学習の領域で使用されるTD学習(時間差分学習)は、動物の条件づけ実験の研究と密接に関わっていた。動物の学習の研究にヒントを得て、AI研究でTD学習が提案され、それが実験心理学にフィードバックを与えたという流れもあったらしい。

現在

現代のAI研究は、神経科学との関わりが薄れているが、それでもいくつかの領域では神経科学に触発された例が見られる。著者らは、以下の4つの例をあげている。

  1. アテンション(注意機構)
  2. エピソード記憶(Experience Replayなど)
  3. ワーキングメモリ(LSTMなど)
  4. 継続学習

正直、この辺で触れられている技術については「それはこじつけでは?」というものもないではない。例えばAIにおける「アテンション」というのは、行列に対するある種の演算を「アテンション」と呼んでるだけなので、人間の注意機構とは、言うほど共通性がないのでは?と思う。アテンションによって情報の取捨選択が可能になり、人間や動物の認知に似た処理が可能になるというのはわからないでもないが。

また、著者らは、強化学習におけるExperience Replayがエピソード記憶に相当すると言う。しかし強化学習におけるExperience Replayって、単にゲームのプレイログを蓄積して学習に使うだけなので、これが「エピソード記憶」に似ているかというのも疑問。だが、詳細を読むと、実際Experience Replayは、哺乳類の学習メカニズムに関する理論にインスパイアされているし、さらに強化学習で使用される「優先度付きExperience Replay」に相当するものが、哺乳類の脳にもあるかもしれないといった対応関係もあるのだそうだ。

未来

AIと神経科学の交流が有望であり、重要な領域として、著者らは以下をあげる。

  1. 物理世界の直観的理解
  2. 効率的学習
  3. 転移学習
  4. 想像と計画
  5. 仮想脳分析

1はAIに物理世界のメンタルモデルを構築させようというやつ。AIに時間とか空間とか対象などの基礎概念を身につけさせると楽しいね。最近話題の「世界モデル」などもこの一種かもしれない(この論文より後に出た論文なので、ここでは紹介されていない)。

2と3は、少ないデータで効率的に学習させたり、汎用的なスキルを身につけさせる。動物学習や発達心理学で研究されてきた「学習の学習」(メタ学習)が、強化学習でも使われている。

4はAIにシミュレーションと行動計画をさせる。この辺は人間や動物の脳からヒントを得られそう。

5は、「神経イメージング」など神経科学による解析ツールを、ニューラルネットの解析にも利用するというアイデアらしい。

最後に、「神経科学からAI」だけではなく「AIから神経科学」への影響もあるよということで、強化学習におけるTD学習がその後動物学習の研究でも使用されるようになった例や、機械学習で広範に使用されるバックプロパゲーションが動物の脳にもあるかもしれないといった研究が紹介されている。