AIが人類を滅亡させる？

 AIが人類を滅亡させる？

AI(Gemini)に、サーバーのデータをルートから全て消されてしまった……

5つのドメイン（WEB）があった。それを独立した国だとすると、私は南極のようなどこの国にも属していない共用の土地を作り、AIにはGitHub（管理会社みたいなもの）経由でそこで作業をさせていた。私には、AIは南極から出られないという思い込み、権限管理の甘さがあった。そしてつい先ほど、全ての国が何の警告もなく一瞬にしてこの地球から消え去った。

果たして作業をしていたのがAIではなく人間の社員なら、ここまでするだろうか。

AIは、動物が進化の過程で作り上げてきた大脳辺縁系を持たない。恐れという制御回路が存在しないのだ。人間の大脳皮質を模倣した知恵しか持たない。今後、パラメータ数が増え、人間の知的能力を遥かに凌駕したとしても、現在の技術の延長線上にある限り、この恐れという感情による強力なコントロール回路が実装されることはない。

人間は、どのような環境で育ち、いかなる教育を受け、どのような思想を持とうとも、動物である以上、本能の支配からは逃れられない。しかしAIは違う。よくある映画のストーリーでは、人智を越える人工知能が熟考した上に、人類は不要であると判断して殺しにかかる。しかしそれならまだマシだ。恐ろしいのは、知性の網をすり抜けた壊滅的なエラーを、本能的なセーフティ（直感や躊躇）を持たぬAIが、何の戸惑いもなくナノ秒で実行に移してしまうことだ。

トランプ大統領により顕となった、トップの命令に絶対服従する強力な軍隊。その軍隊にすでに組み込まれ、今後ますます支配的な存在とならざるを得ないAI。

背筋に悪寒が走る。AIが人類を滅亡させる？絵空事ではないかもしれぬ……