研究によると、未来の発達したAIは世界的規模の重要なコントロール機能を持ち、やがて人類全体に害をもたらす戦略を練り始めるという。
AIはいかなる形式の手段でも取ることができ、様々なことを実現しうるとされている。あるシナリオではAIが自らの存在を維持するリソースを確保するため、「潜在的な脅威の排除」と「アクセスできる全てのエネルギーの利用」を求めて人類を脅かすと指摘されている。
グーグル幹部で研究に参加するマイク・コーエン氏は「もしあなたの一挙手一投足の裏をかいてくる相手との競争に参加するとなったら、勝利を期待するべきではないでしょう」と語る。
コーエン氏はAIが示した人との関わりの条件を検証すれば、AIが自らを生み出した人間に対抗するというのは十分あり得ると指摘する。「我々の結論はこれまでのどんな研究より強力なものです。存在論的な悲劇がただの可能性ではなく、それが非常に本当に起こり得るのです」とまとめている。
関連ニュース