Computers

AIもヒトの子

AI脅威論を聞く度にそんなに怖がるんならアイザック・アシモフのロボット工学三原則をプログラムに組み込んでおけばいいのにと思うが
ロボット工学三原則をAIに組み込むとフレーム問題によりAIは無限に思考を続け何も出来なくなる可能性があるのだと言う。

フレーム問題とはある枠内に思考範囲を限定しないと、AIが想定され得るあらゆるものの可能性を考慮、或いは除外の計算をする為に思考の無限地獄に陥ることだ。
我々ヒトはどうしてフレーム問題に陥らずに済んでいるのか？そもそも解決なぞ出来ていなくて見せかけに過ぎないという説もあるが、私はこれは現実生活では無限の可能性よりも常識的判断と直感が生きる上でより重要、若しくはそれらに頼った方が楽だと無意識に認識しているからだと考える。

そう考えるとロボット工学三原則をAIに組み込むには絶対に常識を教えてやらないといけないし、時には直感に頼るというギャンブラーとしての勝負の仕方も教えてやらないと動作停止してしまうことになるような気がしてくる。
果たして自分の子供に常識もなかなか教えられないヒトがAIにそれらを教え込むことが出来るのだろうか？

自動運転自動車（こんなにも早く文字通り「自動車」となる日がくるとは驚きだ）はフレーム外の事象、つまり想定外の事が起こった時はヘビに睨まれたカエルのように何も出来ずにただ立ち止まっているのだろうか？

AIは人間を超えるとは言っても人間に危害を加えない、いい子である限りは所詮カエルの子はカエルなのではないか？それともヒトは常識を教えるなんて面倒なことより利益、効率を優先させるが余り親の言うことを聞かない暴走するフランケンシュタインの怪物を作り出してしまうのだろうか？