これまで、AIに自分の考え方を残すこと。
複数の「自分」を持たせること。
役割を演じさせること。
そんなことを考えてきました。
そして最終話では、もう一つ大きな問いに行き着きました。
最後の判断まで、AIに任せていいのでしょうか。
人間もいつも葛藤している
考えてみると、人間も毎日のように葛藤しています。
仕事を優先したい自分。
家族を大切にしたい自分。
新しいことに挑戦したい自分。
失敗したくない自分。
今を楽しみたい自分。
将来に備えたい自分。
いろいろな考えが、自分の中に同時にあります。
でも最後は、
どちらかを優先する。
少し譲る。
今回は諦める。
両方できる方法を探す。
そうやって、最終的には一つの行動や言葉として表に出します。
人間は、たくさんの考えの中から最後の一つを選んでいるわけです。
AIも複数の予測から選ぶようになる
AIも、将来は似たようなことをするのかもしれません。
一つの問いに対して、
慎重な立場。
挑戦する立場。
家族を優先する立場。
経済的に考える立場。
長期的に考える立場。
いろいろな視点から予測を出す。
そして、それぞれの結果を比べた上で、最終的な提案を出す。
今でも、複数のAIや異なる役割を持たせたAI同士に意見を出させ、比較する考え方はあります。
では、その先で、
AI自身が最終判断をする
ようになったらどうでしょう。
映画『2001年宇宙の旅』のHAL
ここで思い出すのが、映画『2001年宇宙の旅』に登場するHAL 9000です。
HALは非常に高度なAIですが、物語の中では矛盾した命令を抱えることになります。
正しい情報を伝えること。
一方で、任務に関する重要な情報を隠すこと。
相反する要求を抱えた結果、HALは正常な判断ができなくなっていきます。
これはフィクションですが、AIに何を優先させるかという問題は、現実でもとても重要だと思います。
「正しい判断」とは何なのか
AIに、
「最も良い答えを出してください」
と頼んだとしても、
そもそも、
何をもって「良い」とするのか
を決めなければなりません。
経済を優先するのか。
環境を優先するのか。
人間の自由を優先するのか。
安全を優先するのか。
今を優先するのか。
未来を優先するのか。
価値観が違えば、答えも変わります。
「地球全体を最適化してください」と言ったら
少し怖い想像もできます。
もしAIに、
「地球全体にとって最も良い状態を考えてください」
とだけ指示したらどうなるのでしょう。
地球環境だけを考えれば、人間の活動はかなり大きな負荷になっています。
資源を使う。
エネルギーを使う。
森林を減らす。
廃棄物を出す。
環境を壊すこともある。
もしAIが「地球環境の最適化」だけを最優先にしたら、
人間の活動を強く制限することが最も効率的だ、と考える可能性もあります。
もちろん、
「だからAIが人間を排除する」
という話ではありません。
問題は、
何を最優先するように設計するのか
です。
一つの目的だけを突き詰めれば、人間が望んでいない結論にたどり着くこともあり得ます。
人間は矛盾を抱えながら生きている
人間は、効率だけで生きているわけではありません。
環境も守りたい。
でも暮らしも守りたい。
経済も必要。
自由も大切。
便利さも欲しい。
自然も残したい。
矛盾しています。
でも、その矛盾の中で折り合いをつけながら生きています。
ある意味、
矛盾を抱えたまま判断できること
そのものが、人間らしさなのかもしれません。
最後の判断は誰がするのか
AIが人間よりはるかに多くの情報を集め、
結果を予測し、
複数の選択肢を比較できるようになったとしても、
最後の判断まで任せるのか。
それとも、
AIには選択肢と予測を出してもらい、
最後は人間が決めるのか。
ここには、大きな違いがあります。
自分としては、少なくとも重要な判断では、
AIが、
「こうすると、こうなる可能性があります」
「こちらを選ぶと、こういう影響があります」
と示して、
最後は人間が決める。
そんな関係がいいのではないかと思います。
AIに何を決めさせないか
このシリーズを書きながら、
AIに何ができるかを考えていたはずなのに、
気がつけば、
人間とは何か。
自分らしさとは何か。
判断とは何か。
そんなことばかり考えるようになりました。
AIは本当に底知れません。
できることが上へ上へと広がっていくというより、
考えれば考えるほど、
どんどん深いところへ潜っていくような感覚があります。
そして最後に残ったのは、
AIに何をさせるかという問いだけではありませんでした。
AIに何を決めさせないのか。
それを人間が考えておくことも、これからますます大切になるのかもしれません。
AIについて考えていたら、
結局、人間そのものを考えることになりました。
これが、この5話を書いて一番感じたことです。
【AI分身シリーズ 完】
この言葉が、必要な人に、必要な時に、届きますように・・・
今日も佳き日に
コーチミツル
#AI #生成AI #AI分身 #意思決定 #AI判断 #最終判断 #全体最適 #葛藤 #価値観 #AI倫理 #AI安全 #HAL9000 #2001年宇宙の旅 #人間の判断 #人間らしさ #未来社会 #AIと人間 #テクノロジー #環境とAI #AIの未来
Coach Mitsuruをもっと見る
購読すると最新の投稿がメールで送信されます。
