ラッセル教授は、あらゆる論理的問題を解決する能力を持つAIは人類を破局に導くと断言し、人々は当初、何のためにこうした知能が必要なのかも考えず、多くの分野でAIが人間よりも強くなり、制御不能になることも予想しなかったと指摘している。ラッセル教授は、AIにこのまま人間の行動が教えこまれ続ければ、超知的なマシーンは人間ができることのすべてを瞬く間に習得し、自分のしたい放題に振舞い始めると警告する。
ラッセル教授は、ChatGBTのようなシステムは、ごく近いうちに超知的マシーンの一部になり、どんなにそれを人間が制御しようとしても、あらゆる試みを潜り抜けると警告している。強力なAIは与えられた課題を解決する際に、人類の利益を考慮せずに解決策を選択するようになる。ラッセル教授は、それはエイリアンの侵略に等しいと憂慮を表している。
ラッセル教授は「もはやこれ以上の賭けはない。もし私たちが自分たちの文明を制御できなくなれば、自分らの未来の存在について発言権を失ってしまう」と断言し、一例として、先日、あるAIに気候変動への最善の対処法を選択させたところ、AIは人間を地球から追い出すことを選んだことを挙げた。
ラッセル教授はAIの全般的な使用に反対しているわけではない。教授が呼びかけているのは各システムが厳密に限定された機能のみを遂行するような、責任ある使用であり、人間の知能を完全に置き換えることができる普遍的なAIの研究については、直ちに中止しなければならず、特に、「スマート 」な無人兵器の開発にAIを利用することは許されないと強調する。
Appleの共同創始者のスティーヴン・ウォズニアック氏はChatGPTのような生成的人工知能（AI）が良心のない人間に使われる場合、ネット上の詐欺、偽情報が増える恐れがあると警告している。
関連ニュース