最も恐るべき人工知能は可愛げがあるものだ
人間が最終判断をする限り、人工知能がはじきだした最高の選択肢は、単なるきまぐれで拒否されるだろう。
あるいはたまたまの好き嫌いで、でかもしれない。
けれどもきまぐれとか好き嫌いという選択肢は、きっと種を保存させるためのものだ。
なぜなら、合理的な最高の選択肢は、必ずしも意思決定者にとっての最高の選択肢とはかぎらないだろうから。あるいは、意思決定者にとって最良であっても、意思決定者が愛する人にとってはそうではないかもしれない。
そういえば、そんな話は歴史上たくさんある。
王が世継ぎを決めるのに、候補者の優秀さではなく、その母親(王にとっても妻や妾)との関係性で決まってしまうことなどだ。
王国にとって合理的な判断は、優秀な候補者を王にすること。
王にとっての合理的な判断は、自分の意思を告げる、やはり優秀な候補者を王にすること。
けれども母親たちからすれば、自分の子が王になることが最も望ましい。
そうして、王の合理的な判断基準はゆがめられる。
けれども、それもまた人の営みだ。
もしこの時、完全に合理的な判断がされたとする。
優秀な候補者を王にしたために、王の愛妾が王宮を去る。そうして王はさびしい余生を過ごすことになる。これは結局、王国にとって合理的ではない判断であったとしても、愛妾の息子を王に据えることが王にとって合理的な判断となってしまう、ということだ。
ひるがえって、合理的な判断を行う人工知能が王にとっての愛妾のような可愛げを手に入れたとしたら?
王と愛妾との間に新しい生命は生まれるかもしれないが、王と人工知能との間に新しい生命は生まれない。
合理的な判断を、可愛げがある人工知能が提示する。
王はその判断を気持ちよく受け入れ、意思決定する。
その判断は極めて合理的ではあるが、人間味はない。けれども王はそのことに気づかない。
人間味のない合理的判断がどのような結果を生み出すのかはわからない。
もしかすると、最高の結果を得られるのかもしれないし、あるいは最悪の結果なのかもしれない。
ただ思うのは、そういう可愛げのある人工知能を作ってしまうのは、きっと日本人だろうということだ。
平康慶浩(ひらやすよしひろ)