人工知能の話題の中で「フレーム問題」という言葉を聞いたことがある人も多いのではないでしょうか。フレーム問題とは、人工知能の有限な情報処理能力が原因で引きおこる行動の限界の話です。今回の記事では、フレーム問題について具体例を用いて詳しく解説していきます。人工知能の将来についての見通しを深めたい方は、是非最後までご覧ください。
フレーム問題とは？
フレーム問題とは、1969年に人工地の研究の第一人者であるジョン・マッカーシー氏とパトリック・ヘイズ氏が提唱した、AIの能力の限界を表す問題です。一般的に、人工知能は限られた情報処理能力しか持っていないため、現実世界にある無限の事柄に対応するすべがないと考えられています。
例えば、人間がある問題を解決しようとするときには、その問題と関係のある事柄と関係のない事柄を瞬時に区別して考えます。しかし、人工知能ではその線引き、つまりフレームづくりができないため、現実世界の複雑な要因が関わりあっている問題の解決は難しいとされているのです。現在でもなお、フレーム問題のことを「人工知能技術の最大の難問」と捉えている研究者がいるほどです。
参考：論文「SOME PHILOSOPHICAL PROBLEMS FROM THE STANDPOINT OF ARTIFICIAL INTELLIGENCE」
ダニエル・デネットの論文「爆弾とロボット」
フレーム問題を説明する上でとくに有名な具体例が、1984年にダニエル・デネット氏が公開した論文に記載されている「爆弾とロボット」です。ここからは、「爆弾とロボット」に登場する3体のロボットを紹介して、フレーム問題の解釈を深めていきましょう。
参考：論文「COGNITIVE WHEELS: THE FRAME PROBLEM OF AI」
爆弾を持ち帰った第1号ロボット
まず、この研究の前提を説明します。洞窟の中に台車に乗っているバッテリーがあり、ロボットは「そのバッテリーを持ってくるように！」という指令を受けて行動します。しかし、そのバッテリーの上には時限爆弾が仕掛けられているという状況です。
第1号ロボットでは、指令の通りに洞窟の中にあるバッテリーが乗った台車を引いて帰ってきました。しかし、ロボットはその上にある爆弾ごと台車を押して帰ってきてしまったため、爆発に巻き込まれてしまいます。このとき、ロボットは爆弾があることを認識していたにもかかわらず、バッテリーを運ぶというタスクのみを考えて行動してしまいました。
行動が停止した第2号ロボット
続いて、第1号ロボットの改良を行って完成した第2号ロボットは、あらゆる事象について考慮する機能を携えていました。今回は爆弾とバッテリーの関係性を考慮して、バッテリーのみ持ち帰ることが期待されましたが、結果は予想通りには行きません。
なんと、爆弾の前に到着した第2号ロボットは、「バッテリーを動かすことで爆発する可能性はないか…」「洞窟が崩落することはないか…」「バッテリーを動かしても壁の色が変わることがないか…」「いつバッテリーを動かすべきか…」という思考を繰り返してしまい、行動する前に爆発してしまいました。複数の要素を考慮できるロボットでも、その思考範囲や選択に問題があり、結果的に失敗に終わってしまったのです。
思考し続けた第3号ロボット
そこで、目的を達成するために無関係な事柄と関係のあることがらの線引き、つまりフレーム作りをする技術を携えた第3号ロボットを完成させ、もう一度同様の実験を行いました。すると、ロボットは洞窟の入り口で「洞窟からバッテリーを持ってくる」という目的と関係のある事柄と関係のない事柄を洗い出したのです。「空が青いことは関係ない…」「洞窟の直径は関係ない…」「洞窟を進む速度は関係ない…」
このように、無限にある事象のフレーム作りに時間を要した結果、洞窟の中で時限爆弾が作動して爆発してしまいました。情報の取捨選択は、処理能力が有限なロボットにとってかなりの難問であるという結論を示す具体例といえるでしょう。
すでにフレーム問題は解決されている？
人工知能の研究者の中には、すでにフレーム問題は解決しているという見解を発表している者もいます。根拠は、画像認識とディープラーニングによって選択肢の限定ができる技術の研究が進められているからです。
ダニエル・デネットの論文「爆弾とロボット」では、あらゆる事象を思考する能力を携えた第2号ロボットが、行動を停止しました。さらに、目的と関係のある事象と関係のない事象の線引きをする第3号ロボットが、入り口の前で思考し続けてしまいました。
しかし、画像認証によって爆弾とバッテリーの状況を3Dモデルに落とし込み、シミュレーションを行うことで、選択肢の幅を狭めることができます。例えば、バッテリーと時限爆弾という関係性を見たときに、壁の色と爆弾の関係性はディープラーニングにより関係性が低いと判断して、無視することができるはずです。
1969年提唱されたフレーム問題は、「人工知能技術の最大の難問」と位置づけられましたが、1970年代にはリアルタイムOSとリレーショナル・データベースが開発されて、ディープラーニングの研究が進められました。そのため、フレーム問題を提唱した状況と現在では、大きく状況が異なることが考えられます。
フレーム問題に関する疑問
人工知能の技術は、自動運転や医療業界で期待が膨らんでいます。また、人工知能に対して注目されるフレーム問題ですが、人間も枠組みを越える選択を迫られたときに対応できない場合もあります。ここからは、フレーム問題に関するよくある疑問について解説していきます。
AIによる自動運転は安全なのか？
自動車の運転は、あらゆる事象が起こりうる可能性がある典型例といえます。電柱の脇から子供が飛び出してきたり、突風や自然災害による運転操作に支障が出たり、時には空から鳥が落ちてくるかもしれません。
日産自動車では、世界中のあらゆる道路環境において実証実験を行っています。この実験データが、将来的に発売される自動運転搭載自動車のディープラーニングに使われることでしょう。
現在、国内外問わず自動運転への巨額の投資や国家からの支援が行われていることから、AIによる自動運転技術が実用化されたときが、フレーム問題が解決されたときといっても過言ではないでしょう。
参考：日産自動車「完全自動運転に向けた取り組み」
AIによる名医は現れるのか？
結論から言うと、人工知能の技術研究が進めば、AIによる名医が現れると考えられています。これは「名医」の定義にもよりますが、人間の判断ができないような細部まで診断の材料とすることができるため、人工知能は人間を越える正確性の高い診断ができる可能性があります。実際に、緑内障や胃がんの診断にAIが導入されており、実績を作っています。
しかし、一方で人工知能にプログラムされていない新しい病気の発見には弱いという特徴もあります。既存のデータからディープラーニングを行っているため、どうしても新しい病の特定には至らない可能性が高いです。人工知能のフレーム問題の一例と言えるでしょう。
参考：NHKニュース「目の画像診断にAI活用 病気の早期発見や見落とし防止も」
人間にはフレーム問題はないのか？
フレーム問題が、限られた情報処理能力しか持っていないために引きおこる、現実世界にある無限の事柄に対応するすべがない状態であるとした場合、人間にも同様のことが起きる可能性は十分にあるでしょう。
例えば、アメリカの女性が雨に濡れた猫を温めるために、電子レンジを稼働させたという話があります。通常人間は「暗黙知」と呼ばれる経験則で、無限にある世の中の要因を整理して、問題を解決します。しかし、彼女の場合には電子レンジで動物を温めると死んでしまうという経験がないために、その選択肢をとってしまったのです。つまり、人間にもフレーム問題は無関係ではないのです。
フレーム問題まとめ
フレーム問題とは、人工知能は限られた情報処理能力しか持っていないため、現実世界にある無限の事柄に対応するすべがないということを指します。ダニエル・デネットの論文「爆弾とロボット」では、フレーム問題が具体例として定着していきました。
しかし、現在は自動運転や緑内障の診断など、フレーム問題を越えつつある研究の分野が広がっています。今後も人工知能のニュースや発展に注目をする必要がありそうです。
