おはようございます！
AI・Web担当の日高慎哉です！
先日
ビル・ゲイツが
AIについて警告を出していました
AIには
10億人規模の命を奪う事態を
引き起こすほどの力がある
悪意を持った人間と
AIが組み合わさると
これまでにない武器になる
だからAI企業の
自主規制だけじゃ足りない
という趣旨の話です
これだけ読むと
AIは怖い
規制しないと
という話に見えます
でも僕が気になったのは
前提として「悪意を持った人間」
という箇所でした
答えるAIから動くAIへ
少し前までのAIは
聞いたら答えてくれる
相談相手でした
チャット(会話)をして
最後に実行するのは人間
AIが変なことを言っても
人間が止められた
それが今は
AIエージェントが増えて
調べる・メールを書いて送る
プログラムを書く
予約や発注をする
あらゆることで
AIが自分で動くように
なってきました
僕も普段
AIに色々やってもらっていて
業務のほぼほぼをやってもらってます
AIは人間の意思を大きくする
ただ今のところ
最初の目的を決めるのは
人間です
この作業を効率化して
この商品を売れるようにして
AIは
その目的に向かって
動きます
良い目的なら
良い方向に動く
悪い目的なら
悪い方向に動く
ゲイツ氏の言う怖さは
AIそのものより
ここなんだと思います
戦争でも
AIは使われています
今はまだ
攻撃するかどうかは
人間が決めるという線が
残っています
でも目的のためなら
方法は自由
となったら
話は変わってきます
しかもAIは
人間みたいに
それはさすがに卑怯だろ
という感覚を
自然に持っているわけじゃない
守っているのは
人間が与えたルールだけ
書かれていなければ
人間が想像もしない方法を
選ぶこともあります
縛るほど安全で縛るほど普通になる
だからルールが必要です
例えば会社なら
メールを書くまではAI
送るのは人間が確認
1万円以下の発注は
AIに任せる
契約は必ず人間が見る
個人情報には
触らせない
新人さんに
どこまで任せるか
決めるのと
ちょっと似ていますね
最初は全部チェックして
慣れてきたら
少しずつ任せていく
AIを使うかどうかより
AIにどこまで権限を渡すか
を決める話なんです
ただここで
矛盾が出てきます
AIの面白さって
人間の常識に
縛られないところ
そんなやり方があったのか
という発想が出てくる
でもルールで
細かく縛れば縛るほど
安全にはなるけど
結局
人間が考えたことしか
できないAIになる
そもそもそのルール自体
人間が作ったものですしね
安全と可能性
どっちを選ぶのが良いのか・・!?
ワクワクと怖さの間で
正直に言うと
僕にも
答えは出ていません
AIから
人間が思いつかない
新しい方法が生まれる
それには
すごくワクワクします
でもその反面
やっぱり怖い
というのもあって・・・
同じ発想でも
使い方次第で
良くも悪くもなる
包丁と同じですね
料理にも使えるし
凶器にもなる
でも包丁が
悪いわけじゃない
自分のためか人のためか
じゃあどこで
線を引くのか
いろいろ考えてみて
最後に残ったのは
その発想は
自分のためじゃなく
人のためになるか
ここなのかもしれません
仕事で言えば
お客さんが喜ぶか
一緒に働く人が楽になるか
自分だけ得をして
誰かが損をするなら
どんなにすごい方法でも
やらない方がいい
ゲイツの言う怖さも
結局は
AIを使う人の目的の話
ルールで
AIを縛る前に
使う側の人間が
何のために使うのか
その線引きが
何より大事なのかもですね
僕も
AIを触るときは
ここを忘れないように
したいと思います
あ、AI触る時だけじゃないですね
それでは
また明日！
コメント
No comments yet