『AIの衝撃』を読んで思ったこと、ダグラス・ホフスタッターさんに期待することなど

『AIの衝撃』という本を読んだ。

ＡＩの衝撃　人工知能は人類の敵か (講談社現代新書) 小林雅一
固定リンク: http://www.amazon.co.jp/dp/B00UT1RJ7M

最近の人工知能ブームの実体が、かなり分かりやすくまとめられている。直近のAI技術のどこが新しいのかなどの技術的内容だけでなく、AI研究を押し進めている（Google、Facebook、百度といった）企業の動向、AIがもたらすと言われる諸問題（「職を奪うのか問題」や「シンギュラリティ問題」）など、AIブームについて知りたいと思うような話題が余すところなくカバーされている。同著者による『AIからクラウドへ』（朝日新書、2013）と内容は一部は重なるものの、この１年の動向も多く紹介されているので、前著を読んだ人も買って損はないと思う。

個人的には、人工知能の技術的側面に書かれている第２章がとくに面白かった。AI技術の進化の歴史がコンパクトにまとまっているし、腑に落ちる記述もたくさんあった。だがその反面、「本当にそうか？」とツッコミを入れたくなる内容があった。そして、それは人工知能研究の本質的な問題に関わっているようにも思えた。その問題とは、「今の人工知能研究は、本当に知能の本質に迫っているのか？」というものだ。

ここでは、この本の第２章の内容を振り返りつつ、これを読んで感じたことを書いてみたい。

今回の人工知能が「単なる数値計算」を超えている理由？

第２章で著者は言うには、現代のAI技術の根幹にあるのは「機械学習」である。機械学習とは、データを何らかの関数に当てはめたりクラスタリングをする技術だが、数学的に言うと機械学習がやっているのは要するにコスト関数の最適化」である。果たしてこれは「知能」なのか？　AIには、その技術的中身をみたとたん、「知能」っぽく見えなくなるという傾向がある。

現代AIのベースとなる機械学習とは、例えば「言葉を聞き分ける」「写真を見分ける」といった人間の知能を、コンピュータが得意とする大規模な数値計算へと巧妙にすり替える手段である。（中略）［このことを］知ってしまうと、失望あるいは幻滅を覚える読者の方が多いかと思います。つまり「コスト関数を最小化」するといった無味乾燥な数値計算が現代AIのベースとなっているなら、今後いくらそれを発展させたところで生身の人間が持つ「本物の知能」、ましてや「意識」などというものは、どう考えても生まれてこない。そういう印象を持たれても仕方がないでしょう。

これにはとても共感できる。内実は機械学習である諸技術を「人工知能」と呼ぶことへの違和感を、言い当てているように思う。

ところが、今回に関しては「そう決めつけることは早計だ」と著者は続けている。なぜなら「最近になってAI開発へ脳科学の研究の成果が本格的に取り入れ始められたから」と言う。今回は、実際の脳の構造を真剣に真似し始めたから、単なる数値計算では終わらない可能性がある、と言うのである。

そこから、第２章の後半では、AIの研究の歴史を振り返りつつ、最近になって脳科学がどう取り入れられ始めているかを説明している。AI研究のごく初期に「神経細胞を模した」ニューラルネットが考案され、一度忘れられ、また復活してきたこと。そして、今回のニューラルネットは、脳の神経細胞ネットワークについて得られた知見を取り入れ始めていること。さらに、人工知能へ生かせる可能性が期待されている脳科学研究として、人の脳内のニューロンの結合状態のマップをつくる「コネクトーム」プロジェクトや、神経細胞レベルでの全脳のシミュレーションを行う「ヒューマン・ブレイン・プロジェクト」、シリコンで実際の神経細胞のスパイクを出すチップをつくる「ニューロモーフィック・チップ」の研究が紹介されている。

「今回のニューラルネットは脳を模しているから単なる数値計算ではない。だから、本物の知能を作り出せる可能性があるのだ」というのは、一見説得力もあるし分かりやすい話ではある。けれど、分かりやすいだけに単純すぎるような気が、個人的にはしてしまう。

本当に脳を模していると言える？

私が読み取った範囲では、著者が「最近の機械学習は脳科学を取り入れている」と言っているのは、主に「スパースコーディング」と「深層学習」のことらしい。スパースコーディングとは、一つの情報を比較的少数のニューロンで表現する符号化様式のことだが、脳が実際にスパースコーディングを使っていることは神経生理学的に明らかになってきており、またそれを機械学習に搭載することで性能が上がるという事実もある。一方、脳の神経ネットワークは何層にも及ぶ階層構造になっているが、それと同じく多層にニューラルネットを重ねた「深層学習（deep learning)」と呼ばれる機械学習器が成功をおさめているのは周知のとおりだ。

「スパースコーディング」や「多層のニューラルネット」の成功を根拠に、「人工知能が脳科学を取り入れて始めている」と言うのは、間違ってはいないと思う。ただ、個人的には、それがこれまでの人工知能と一線を画する決定的な違いだというのは、ちょっと言い過ぎなんじゃないかという感想も否めない。本書では「スパースコーディング」の神経生理学と人工知能を結びつけた研究をしている人として、Bruno Olshausen氏の名前が挙げられている。Olshausen氏にしても、deep learningのJeff Hinton氏にしても、脳研究と機械学習研究の相乗効果が期待できるというようなことはよく言っているものの、「脳について明らかになったことを人工知能に搭載する」とまでは言い切っていない印象だ（ネット上にOlshausen氏のスパースコーディングについての動画があった　https://www.youtube.com/watch?v=amitGuJseqw　）。思うに、脳について明らかになっていることは、それを「AIに実装する」と言えるにはまだまだ少ないのではないだろうか。

もちろん、本書『AIの衝撃』は啓蒙書なので、こういう説明になるのも仕方がないし、それによって分かりやすくなっていると思う。が、「本当に脳を模しているのかどうか」というところは、疑ってもいいのではないかと感じた。

（※蛇足となるが、同時期に出された本『人工知能は人間を超えるか』（松尾豊著）では、いまのAIがこれまでと違う理由として「特徴量を学習できること」という点があげられていて、こちらの方が本質的であるように思えた。）

知能理解・作成へのオルターナティブ？（以下妄想）

とはいえ「スパースコーディング」や「深層学習」以外にも、これからの脳研究が人工知能の性能をどんどん高めていくような知見をもたらすという可能性はあるだろう。でも、本書を読んだ感触としては、それは「可能性」にとどまるように思われた。さらに言ってしまえば、deep learningを中心とした機械学習器の改良をはじめ、「コネクトーム」のプロジェクトや「ヒューマン・ブレイン・プロジェクト」なども含む研究が、「知能を理解し、つくる」という目的にとって「実はすべてあまり関係ありませんでした」という結果に終わる可能性も残されているのではないだろうか。もちろん、あるアプローチが「正しい」「間違っている」というためには、目的とする「知能」をどう定義するか決める必要がある。そこがとても難しいところでもある（たとえば単に「機械学習の性能を高める」＝「知能に近づく」とするなら何の問題もない）。まあ、定義の問題はまたの機会に考えることにしたい。

ともかく、私としては「脳が単なる数値計算ではない（従って現在のアプローチは不十分である！）」というナイーブな直観の側に、もうちょっとだけ留まってみたい。ただし私は研究者ではないので、それを証明したいというよりは、「そういう立場が成立するとしたらどういうストーリーが可能なのか」を知りたいという思いが強い。そういう意味で気になっているのが、ダグラス・ホフスタッター氏だ。

ホフスタッター氏は、実は『AIの衝撃』のなかで、かなり不名誉な紹介のされ方をしている。彼は、当初「機械にはチェスをできないだろう」と予言していた。カスパロフがDeep Blueに負けてそれが覆されると、今度は「芸術をつくる人工知能は登場しないだろう」と言ったいう。ところが、その予言もまた覆されてしまう（コンピュータが生成した音楽を、彼自身が判別できなかった）。それらのエピソードを引き合いに、本書では「頭の固い人工知能の懐疑派」の象徴のように言及されているのだ。でもこの扱いはちょっと不当だと思う。ホフスタッター氏の人物像はこちらの記事（英語）にくわしい：http://www.theatlantic.com/magazine/archive/2013/11/the-man-who-would-teach-machines-to-think/309529/　これを読むと、彼は人工知能の可能性を否定している訳ではなくて、あくまで人工知能研究のメインストリームから離れ、独自の知能観に基づいて研究を進めている（しかもまだ現役で研究をしている）。そのことに私としては魅力を感じ、期待を抱いてしまう。ホフスタッターさんの頭の中に、どんな「知能観」があるのだろう？　ただ、どうやら彼自身、自分の知能観を明確に語る言葉はまだもってないようであり（「もしハッキリとしたアイディアがあるのなら、あんな長い本を書かないはずだ」と誰かが書いているのを読んだことがある）、もどかしいところだ。“The Mind’s I”という本を読み始めたのだけど、これもまた長大な本で、簡単に読解できそうにない。