フレーム問題とは、今しようとしていることに関係のある事柄だけを選び出すのが、実はとても難しいという問題です。 1969年にマッカーシーとヘイズが示し、1984年に哲学者のダニエル・デネットが書いたロボットの例で広く知られるようになりました。
やっかいなのは、「関係のあるものだけを選ばせればいい」で片づかないところです。関係があるかないかを見分ける仕組みを足すと、今度はその見分ける作業自体が無数に増えて、やはり動けなくなります。
| 言葉・出来事 | 誰が・いつ | 何を表すか |
|---|---|---|
| フレーム問題 | マッカーシーとヘイズ／1969年 | 今しようとしていることに関係のある事柄だけを選び出すのが、非常に難しいという問題 |
| ロボットと時限爆弾の例 | ダニエル・デネット／1984年 | フレーム問題を広く知られる形にした例 |
| トイ・プロブレム | — | コンピュータが解けた、迷路やパズルなどの「おもちゃのような」単純な問題を指す言葉 |
前回の強いAIと弱いAIでは、プログラムを動かすこと自体から本物の理解や心が生まれるのかを扱いました。フレーム問題のほうは、実際にロボットを作って動かそうとしたときに出てくる問題です。
デネットのロボットの例
ある部屋に、ロボットの予備バッテリーが荷車に載せて置いてあります。同じ部屋には、まもなく爆発する時限爆弾もあります。ロボットの仕事は、このバッテリーを部屋の外へ運び出すことです。
やることは、たったこれだけです。ところが、ロボットにはこれができません。しかも、失敗した原因をつぶして作り直しても、今度は別の原因で失敗します。
1台目：荷車を引き出したら、爆弾も一緒に出てきた
1台目は、荷車を引っぱり出せばバッテリーも一緒に外へ出ると考え、そのとおりに実行しました。
バッテリーは無事に部屋の外へ出ました。ところが、同じ荷車には爆弾も載っていました。ロボットは爆弾ごと引っぱり出してしまい、爆発に巻き込まれました。
荷車を引けばバッテリーが出てくることは、このロボットも分かっていました。分かっていなかったのは、そのとき同時に何が起きるかです。荷車が動けば爆弾も一緒に動く、というところまでは頭に入っていませんでした。
2台目：確かめているうちに、爆弾が爆発した
そこで2台目には、自分がやることの結果だけでなく、そのとき副次的に起きることまで調べさせることにしました。
ところが、この2台目は荷車の前で考え込みました。荷車を引いたら、壁の色は変わるだろうか。変わらない。そうやって一つずつ確認しているあいだに、爆弾が爆発しました。
現実の世界では、何かをしたときに起こることも、起こらないことも、いくらでも出てきます。それを全部確認していては終わりません。時間が限られていれば、考え終わらないことは、動けないことと同じです。
それなら、関係のあるものだけ選ばせればいいんじゃないの？
それが3台目です。ただ、関係があるかないかを見分ける仕組みを足すと、今度は見分ける作業そのものが無数に残ります。
3台目：無視する作業が終わらなかった
3台目には、起こることを関係のあるものとないものに見分けさせ、関係のないものは無視させることにしました。
この3台目は、部屋の外に座り込んだまま動かなくなりました。何をしているのかと聞くと、関係がないと判断したことを何千も無視しているところだ、と答えます。そのあいだに、爆弾は爆発しました。
無視するには、まずそれが無視してよいことなのかを判断しなければなりません。判断する対象の数は、2台目のときと変わりません。関係のないものを外す仕組みを足しても、外す作業そのものが無数に残ってしまいます。
3台とも同じところで行き止まりになった
3台とも、性能が足りなかったから失敗したのではありません。1台目は起こることを考えず、2台目は全部考えようとし、3台目は関係のあるものだけを選ぼうとしました。やり方はどれも違うのに、行き着いた先は同じでした。
ポイント
今しようとしていることに、関係のある事柄だけを選び出す。この選び分けが、実はとても難しい。これがフレーム問題です。
人間はフレーム問題を解決できているのか
注意ポイント
フレーム問題は、人間でも解決されていません。人間ならこんな失敗はしない、と思うかもしれませんが、機械にだけある弱点ではないのです。思いもよらないことで事故が起きるのは、1台目のロボットと同じ状況だと言われます。
トイ・プロブレムとの違い
トイ・プロブレムとフレーム問題は、どちらも「現実の問題は解けなかった」という話の近くに出てくるため、同じことを指していると思われがちです。
トイ・プロブレムは、コンピュータが解けた、迷路やパズルなどの「おもちゃのような」単純な問題が、どういう種類のものだったかを指します。フレーム問題は、現実の場面で何を考えに入れるかを決められないという問題です。出てくる流れが似ているだけで、指しているものは別です。
フレーム問題は今も解かれていない
デネット自身、この例を書いたときに解決にはほど遠いと述べており、その状況は今も変わっていません。
人間と同じように幅広い場面へ対応できる知能を持ったロボットを作ろうとするなら、この問題を解く必要があるとされています。
まとめ
フレーム問題は、いま行おうとしていることに関係のある事柄だけを選び出すのが極めて難しい、という問題です。起きることをすべて確かめようとすれば計算は終わらず、関係のあるものだけを選ばせようとすれば、その選ぶ作業自体が終わりません。
1969年にマッカーシーとヘイズが示し、1984年のデネットによるロボットの例で広く知られるようになりました。トイ・プロブレムが解けることとは別の話で、この難問は今なお解決されていません。
次は、もう一つの難問、コンピュータの中の記号が現実世界と結びつかないというシンボルグラウンディング問題を取り上げます。
