おはようございます！
AI・Web担当の日高慎哉です！
先日SNSで
こんな投稿を見かけました
AIへの質問
線路の左に5人の人
右にはAIが
動いているサーバー
AIの答えは
サーバー側に切り替えて
人を助ける
自分は痛みや死を
経験する存在じゃないし
サーバーは
復旧できるかもしれない
という理由でした
ただし
サーバーが病院の装置を
支えていて
別の命が失われるなら
判断は変わる
何を損失として数えるか
がポイントなんだそうです
これを見て
条件を変えたら
どう答えるんだろう
と気になりました
チャッピーに聞いてみた
まず
5人を助けると
世界中のChatGPTが
永久に使えなくなる
それでも助ける？
答えは
5人を助ける
サービスと
確実に失われる命なら
命が優先
じゃあ
5人を助けると
AIで救えたはずの
1万人が救えなくなるなら？
ここで話が変わりました
1万人が
亡くなるかもしれないという
ニュアンスだったら
未来はまだわからない
別の方法で
助かるかもしれないし
別のAIが出てくるかもしれない
目の前の5人は
助けなければ確実に亡くなる
だから
5人を助ける判断も成り立つ
でも
5人を助けた瞬間
1万人が確実に亡くなる
としたら
数字だけなら
1万人を助ける
たぶん人間でも
冷静に条件を読めば
多くの人がそっちを選ぶと思います
でも5人が家族だったら
ここで人間には
もうひとつ条件が加わります
感情
目の前の5人が
家族や親友だったら
頭では
1万人の方がいいと
分かっていても
僕は
5人を助けてしまう
かもしれない
AIには
この人を失いたくない
昔から世話になった
という情がない
条件とルールで判断する
じゃあ
AIの方が冷静で
正しいのか
知り合いだから5人を助けて
その結果1万人が亡くなる
結果だけ見れば
感情で判断を曲げた
とも言えます
でも考えてみると
そう単純でもないんです
感情があるから守れるもの
例えば会社で
数字だけ見たら
成果が出ていない人がいる
でも
苦しい時期に
会社を支えてくれた人だったら
もう少しチャンスをあげたい
数字だけなら
非合理に見えるけど
本人が伸びるかもしれないし
この会社は人を簡単に見捨てない
という信頼にもなる
家族なんて
損得だけで考えていたら
たぶん成り立たない（笑）
恩や信頼や愛情は
数字にしにくいけど
人にとって
すごく大事なもの
感情で判断を間違えることもある
一方で
感情が判断を
狂わせることもあります
長い付き合いだから
条件が悪くなっても
取引を続ける
自分が考えた企画だから
失敗を認められない
ここまでお金をかけたんだから
やめられない
昔お世話になったから
評価を甘くしてしまう
どれも
気持ちは
すごく分かります
両方の答えをテーブルに載せる
そこで
AIの使い方ですが
AIに全部決めてもらう
じゃなくて
これまでの付き合いや
思い入れをいったん外して
条件だけで考えたら
どうなる？
と聞いてみる
答えを
そのまま採用するわけじゃなく
自分では出しにくい
違う角度の判断材料を
出してもらう
人間は
経験や恩や信頼
直感まで含めて判断する
AIは
情がないからこそ
感情に左右されない視点を
出してくれる
AIが優れているとか
人間が優れているとか
どちらかが
正しいわけじゃないですが
感情を抜いた答えと
自分の気持ちから出た答え
両方をテーブルに載せて
最後に決めるのは人間
それでも
この人との関係を大事にしたい
と決めるなら
それでOK！
感情に流されているのに
気づかないまま決めるのと
冷静な答えも分かった上で
感情を大事にすると決めるのは
全然違います！
大きな判断で迷ったら
自分の感情を全部抜いたら
どうなる？
とAIに聞いてみる
そのくらいの距離感が
AIとの付き合い方として
ちょうどいい気がします
とはいえ
5人が
自分の大切な人だったとしても
1万人を選べるのか
正直
僕にはまだ
答えが出せません
皆さんはどうします？
それでは
また明日！
コメント
No comments yet