前回の記事では、文字のやり取りで相手が人間か機械かを見分けられるかによって、機械の知能を考えるチューリングテストを扱いました。では、人間と見分けがつかない答えを返せれば、本当に理解していると言えるのでしょうか。
この疑問につながるのが「強いAI」と「弱いAI」です。名前だけを見ると性能の違いに思えますが、実際には、1980年に哲学者のジョン・サールがコンピュータについての考え方を2つの主張に分け、それぞれに付けた名前です。
分かれ目は一点だけです。プログラムを動かすこと自体から、本物の理解や心が生まれるのか。生まれると考えるのが強いAI、そこまでは認めず、コンピュータを心の研究に使う道具と見るのが弱いAIです。
しかもサールは、名前を付けた同じ論文の中で「中国語の部屋」という思考実験を示し、強いAIの主張に反論しました。
| 言葉 | 誰が・いつ | 何を表すか |
|---|---|---|
| 強いAI | ジョン・サール／1980年 | 適切にプログラムされたコンピュータは、それ自体が本当に心であり、文字どおり理解している、という主張 |
| 弱いAI | ジョン・サール／1980年 | コンピュータは心を調べるための強力な道具になる、という主張 |
| 中国語の部屋 | ジョン・サール／1980年 | 強いAIの主張に反論するため、同じ論文の中で示された思考実験 |
| 汎用人工知能(AGI)・特化型人工知能 | — | どれだけ広い範囲のことに使えるかを言う、別の軸の言葉 |
注意ポイント
なお、強いAI・弱いAIは、個々の製品やサービスを分類するための名称ではありません。サールが分けたのはAIの種類ではなく、コンピュータと心の関係についての2つの主張です。
サールが分けた2つの主張
弱いAIは、コンピュータは心を調べるための強力な道具になる、という主張です。人間の心の働きをコンピュータの上で再現してみれば、心について立てた仮説を、より厳密な形で確かめられる。コンピュータはそのための道具として役に立つ。ここまでが弱いAIです。
強いAIは、そこからもう一歩踏み込みます。適切にプログラムされたコンピュータは、心を調べるための道具であるだけではない。それ自体が本当に心なのだ。正しいプログラムを与えられたコンピュータは、文字どおり理解していると言ってよいし、心の状態を持っていると言ってよい。これが強いAIの主張です。
ポイント
違いは、プログラムを動かすこと自体から本物の理解や心が生まれると考えるかどうか、その一点です。
サール自身は、弱いAIの主張に異議はなく、この論文で相手にするのは強いAIのほうだと書いています。わざわざ名前をつけたのは、自分が否定したい主張をはっきりさせるためでした。
中国語の部屋とは
サールはどうやって強いAIを否定したのか。持ち出したのが中国語の部屋という思考実験です。実際に行った実験ではなく、頭の中で組み立てた設定のことをいいます。
中身はこうです。
- あなたは中国語をまったく知らない。読むことも話すこともできない
- そのあなたが部屋に閉じ込められ、大量の漢字と、一冊の手順書を渡される
- 手順書はあなたの分かる言葉で書かれていて、「こういう形の漢字が入ってきたら、こういう形の漢字を返しなさい」と指示している
- 書いてあるのは形と形の対応だけで、その漢字がどういう意味なのかは、どこにも出てこない
外から漢字を書いた紙が差し入れられます。あなたは手順書をたどって、返すべき漢字を選び、書き写して、外へ戻す。それを繰り返します。
手順書がよくできていれば、外にいる中国語の話者から見て、返ってくる答えは中国語を母語とする人の答えとまったく区別がつきません。返答だけを見ているかぎり、部屋の中の人が中国語をひと言も話せないとは、誰にも分かりません。
それでも、あなたは中国語を何ひとつ理解していません。形を見比べて、紙を動かしているだけです。
ここでサールは、コンピュータの処理も同じ構造だと考えました。プログラムは、入力された記号を、決められた規則に従って別の記号へ変換します。処理を正しく進めるだけなら、その記号が何を意味するかを理解している必要はありません。中国語の部屋は、その構造を人ひとりの手作業に置き換えて、見えるようにしたものです。
ここからサールが引き出した結論はこうです。決められた手順にしたがって記号を操作すること、それだけでは、理解が生まれるための十分な条件にはならない。だとすれば、正しいプログラムさえ走らせれば本物の理解が生まれる、という強いAIの主張は成り立たない。サールが退けようとしたのは、この強いAIの主張です。
中国語の部屋は何に反論したのか
サールが中国語の部屋を通して反論したのは、強いAIだけではありません。もう一つはチューリングテストです。文字のやり取りだけで相手が人間か機械かを見分けられるかどうかで、機械に知能があるかを判定しようという方法です。
中国語の部屋は、まさにその見分けがつかない状態を作ったうえで、それでも中の人は何も理解していない、と言っています。外から見える振る舞いが人間と区別できない。それを理由に、理解があるとみなしてよいのか。サール自身も、この例で問題にしているのは、チューリングテストが知能の判定方法として妥当かどうかだと述べています。
汎用人工知能(AGI)と特化型人工知能は、別の軸の話
心を持つコンピュータを想像すると、何でもできるコンピュータも一緒に思い浮かびます。ただ、どれだけ広い範囲のことに使えるかを表す言葉は、別にあります。
- 特化型人工知能：画像認識のように、決まった一つの領域に限って働くものを指す言い方
- 汎用人工知能（AGI）：分野を越えて学習し、応用できるものを指す言い方
ポイント
この2つが分けているのは、扱える範囲の広さです。サールの強いAIと弱いAIが分けているのは、本物の理解や心が生まれるかどうかでした。似た場面で使われる言葉ですが、見ているものが違います。
じゃあ、強いAIが汎用人工知能で、弱いAIが特化型人工知能ってこと？
そう対応させると、2つの軸が混ざってしまいます。強いAIと弱いAIが分けているのは本物の理解や心が生まれるかどうか、汎用と特化が分けているのは扱える範囲の広さです。
まとめ
強いAIと弱いAIは、1980年にジョン・サールが示した、コンピュータに対する2つの主張の区分です。分かれ目は、プログラムを動かすこと自体から本物の理解や心が生まれるかという一点で、性能の高低でも、扱える範囲の広さでもありません。
サールが退けたのは強いAIのほうで、そのために示したのが中国語の部屋でした。外から見れば完璧な対話をしながら、中の人は意味を何一つ理解していない。見分けがつかないことと理解していることは別だ、というチューリングテストへの反論でもあります。
次は、機械が現実の場面で動こうとしたときに出てくる難問、フレーム問題を取り上げます。
