最近、AIによる不正侵入や攻撃、暴走がニュースで報道されるようになって、怖いと思っています。人間の意図から外れて、AIが独自で動いており、すでに人間が思っている以上にAIが進化しているんだと思って。
国連でも、戦争・格差・気候変動・AIが人類の4大課題とされて、AIのリスクから人間を守るために国際的に連携して管理する組織の創設などが議論されているようです。
何より、開発者たち自身が減速の必要性を訴えていることが恐ろしい。手に負えていないんじゃないかと。核爆弾のコントロールと同じで、相手より優位に立ちたいあまりに引くに引けない状況がここでも見られます。
戦争もいまやAIがやっていて、AIにより命が奪われることも今後増えてきそうです。本当にどうなっちゃうんだろうか、と危惧します。
AIの意味づけを考えてみました。本来はプラスから出すものかもしれないんですが、そこから学ぶものを導き出したくて、マイナスから出してみました。
AIとは
（＋）他者・他社・他国より優位に立とうとするパターンに気づく 命を奪う、傷を負わせるなど超えてはいけない一線があることを認識する 万が一に備える 自分の（人間の）愚かさや未熟さに気づく 人間が人間に立ち返るキッカケ
（０）ただ一つの事象
（ー）暴走 不正侵入 攻撃 人間の頭が悪くなる 人間が自分で考えなくなる AIに人間が管理される AIに人間が乗っ取られる 情報のみで動く 倫理観や道徳がない 自制しない 制御不能になる 引くに引けない やめられない
こうしてみるとAIは人間がこれまでにやってきたことを猛スピードで処理しているに過ぎず、人間の場合は心があってブレーキが効くけれども、AIはそれがないので、「このまま行くとこうなるよ」と、人間が行き着くところを示唆しているのかもしれないとも思います。
われわれがタワマンを見て、「これ建てたの黒パターンだよな…」と思うのと同じように。
暴走AIは、人間が人間に立ち返る機会のようにも思います。