「ひとり暮らしの40代が増えると日本は滅ぶ」←“社会が悪くなっているから40代一人暮らしが増えている” の間違いでは？ NHKのAIの信憑性に言及
AIの歴史――ELIZAからディープラーニングまで
山路：
なんですけれども、普通の人にわかるような形でAIが社会制度を良くしていこうと思った時に、NHKの番組でやったような形で結局アウトプットは出てくるようにはならない。
小飼：
それって一昔前はそもそもコンピューターを使って集計したっていうだけでだいぶ信用度が上がっていた。あるいは実はそのコンピューターのプログラムでは中に入れていたプログラムが正しいかをいちいち問わすに、コンピューターを使っていることそのものが権威付けにされてたっていう時代はありましたよね。
その頃よりはコンピューターはすっちゃらかなものだっていうのは学んでいるわけですよ。それに代わる、というかそれを継ぐ存在になりつつありますね、AIが。
山路：
バズワードっていうんですかね、変な感じでAIっていう言葉が使われてる感じはありますけどね。
小飼：
一応AIの歴史に関してはそれぞれの世代があったというのはおさらいしておきたいと思います。AIという言葉だけでは、あくまでもartificial intelligence、我々が自然に生まれたんではなく作った知能であると。最初はプログラムを書きまくれば知性的な判断、判定ができるようになるんじゃないか……。
山路：
人工知能プログラムのELIZA（イライザ）とかあの辺の世代ですかね。
小飼：
要は特定の入力があったら特定の出力があると。要は昔のロールプレイングゲームのNPC、ノンプレイキャラクターみたいなもので、必ず出てきたら「いらっしゃいませ」と。全く同じ口調、全く同じトーンで言うと。
山路：
簡単なif文だけで書いてあるみたいな。
小飼：
この程度のAIだと人間は感心させられないわけですよね。自然なAIを目指そうと思うとプログラムをいくら書いても足りないと。どういう風にしていけばいいのか。
山路：
日本で第5世代コンピューターとかやったけど結局うまくいかなかったみたいな。
小飼：
まあ、そういうことです。で、次に出てきたのがいわゆるエキスパートシステムというやつですね。出たての頃のSiriとかそんな感じですね。基本的に仕組みというのはプログラムなんですけれども、よりデータドリブンにした。
よりデータドリブンにしたというのはどういうことかというと、「貴社の記者が汽車で帰社した」という文章が与えられた時、最初の貴社のは、これはこれにかかっているから、あなたの社というのが一番重要だと。要はデータの重みづけをより重視するようになった。だから、ただのかな漢字変換というのも、この文脈では立派なAIなんですよね。
山路：
一時期AI変換とかめちゃめちゃ売りになってましたね。
小飼：
それは全く間違ってないんですよ。今やそのデータというのはソーシャルなので、ネットでよく使われている言葉というのはすぐに変換できるようになるんですね。変な言葉でも。最初の頃というのは「キュゥべえ」って打ち直してましたけど、今や一発で出てきます。
山路：
まどマギの（笑）。それが第3世代とかになってくるとまた状況が……。
小飼：
今はディープラーニングと呼ばれているものですよね。ディープラーニングはもっとデータドリブンなんですけれども、実はもっと人間の脳に、人間の神経に近い仕組みを使っているんですよ。ニューラルネットワークっていうのは、神経みたいに繋がっていて、神経みたいな反応をするからです。
ディープラーニングベースのAIは、本当に育てるのに近い
山路：
でもあくまでもそれはコンピューターのメモリ上というか、実際はその脳を再現したわけではない。
小飼：
ないわけです。でも人間の脳はこういうことをやってるんじゃないのというのを、かなりの程度で真似ているんですよね。だからやっぱり学習させるんですけども、ここでいう学習っていうのはさっきは「あ」って言われて「愛」っていうのを出したから、次も「愛」っていうのを出すだろうっていうそういう素朴なレベルでなくて、もっと実際の経験に近いものを積ませるわけですよね。例えば。
山路：
猫っぽいものを付けるみたいな。
小飼：
そうそう。ひたすらこれは猫であるっていう画面を見せて、そうでないものを見せて、こん中から猫を見せてみろと。ていうのを繰り返すわけです。別の言い方をすると人間はそういったものを経験で学んでいきますけれども、今のディープラーニングベースもやってることは同じなんですよね。ただ人間と違って、もっと多くの経験を、もっと早く積めるだけであって。
山路：
AlphaGoとかそういう。
小飼：
そういうことです。ゆくゆくはそれだけでも足りなくて、別のAIと別のAIを双方的に学習させたりしてっていうことで……。別の言い方をすると、ものすごく経験を積んだそれでも人間と同じなんですよ。実は最初のAIというのはアルゴリズムで動いていたので、同じ入力があったら必ず同じようにベストな回答を出すんですよ。でもディープラーニングの場合というのはそうではないわけです。
山路：
データによって……データというかそれこそタイミングだったりとか。
小飼：
そうなんですよ。だから実は再現するのが難しいんですよ。
山路：
しかもよく言われるのが、ディープラーニングで行ったロジックっていうのが人間にはようわからんっていう話はありますよね。なんでこれをこう判断したのか。例えば、これをなんで猫だと思ったのかみたいな理由っていうのがよくわかんない。
小飼：
人間もなんでこれを猫と思ったんだろうっていうのは、なかなかきちっと言語化はできませんよね。別の言い方をすると、言語化できるものというのはプログラムで書けるんです。一番古典的なAIで実現できるんですよ。
山路：
言ってみたら、NHKのAIに聞こうみたいなものは、あれは回帰分析だとは思いますけど、この項目とこの項目がなんか関連してそうみたいなことっていうのがまだ見えるところはあるじゃないですか。
小飼：
そもそも40代独身とかっていうのは、その概念が自然に出てくるところから始めなければいけないですよね。
山路：
そうか、そもそも人間の分類みたいなものっていうのが全然違うやり方な。
小飼：
実はディープラーニングをまっとうに使えるようにするっていうのは大変なんですよ。
山路：
とにかくいい感じになるようなデータを持ってこないと。
小飼：
しかもそれで再教育もしないといけないですし。どっちかというと今のディープラーニングベースのAIというのは、本当に育てるのに近いですよね。プログラムしてるっていうのとは違うんですよね。プログラムしてるっていうのはあくまでも初期状態のニューロンの特性だけであって。
ディープラーニングベースのAIは神の手ではない
小飼：
でもNHKのAIってディープラーニングって言ってないわけでしょ。
山路：
言ってないし、おそらく違う。
小飼：
ディープラーニングに全然見えない、それは話を聞いてる限り。
山路：
仮にそういう風な分析にディープラーニングを使うようになってきた時に、今よりももっとわけのわからないことを言って、しかもどうしてそういう風な結論を出すんだってことがどんどん人間には理解しづらいものになってくんじゃないかっていう気はするんですけども。
小飼：
その可能性はありますけれども、さっきのロビタと火の鳥でもないですけども、火の鳥の方にも死ななくなっちゃった男の話が出てきますよね。あれくらい経験を積めば同じ様な境地にいたるという可能性はあります。
山路：
俺たちは寿命が短すぎるんだと。
小飼：
あと神経の速度が遅すぎると。それを精魂に置き換えて寿命をおもいっきし延ばせば、同じだけの経験が積める。同じだけの経験を積んだ結果、同じくらい精度の高い出力を出せるようになるんじゃないかという可能性は全く否定できません。
小飼：
というのも、アルゴリズムというのは、どんな方法でやっても同じようになるからアルゴリズムなんですよ。だから三目並べを解くやり方というのも人がやっても、全部機械でできた電気を使っていない電子部品を使っていない計算機で実現しても、あるいは普通のプログラムで書いても全く同じ結果になるんですよ。全く同じ結果になるのがアルゴリズムの由来のところなんです。
山路：
ディープラーニングの場合はそれがつまり結局データ次第だから全然出力結果が違うこともある。
小飼：
一つ言えることは神の手ではないということですよね。超熟練した……。
山路：
超熟練した人間かもしれない。
小飼：
超経験を積んだ知性体の一手ではあるんですけど、神の手ではないです。アルゴリズムこそ神の手なんですよ。たとえ神でも、あるいはたとえゴキブリでも同じアルゴリズムを適用したら同じ結果を出すわけですから。