ラッセル氏の見解では、AI分野の無秩序な開発は「我々自身が予期しなかった進歩を遂げた」という事実をもたらした。人類は最初の段階で、この知能が何に必要になるのかを考えず、間違いを犯したと同氏は明言。今後、超知的な機械が、それをコントロールしようとする試みに抵抗する可能性は十分にあるという。
「自分より強い存在に対して、どのように力を維持するのか？答えが見つからないのなら、研究をやめてください。とても簡単なことです。もはや、これ以上の賭けはない。もし我々が自分たちの文明をコントロールしなければ、我々は将来の存在について何も言えなくなる」とラッセル氏は強調した。
ラッセル氏の指摘によれば、人間ができることは何でもできる汎用性のある人工知能やシステムは、10年以内に出現する可能性がある。例えば、気候などの問題を解決する際、そのようなプログラムは、人間を排除することが最善の解決策だという結論に達する可能性があると同氏は懸念を示した。
「AIに人間の行動を模倣させるということは、本質的には、人間の目標を設定し、それを追求するように教えるということだ。だが、人間の目標にはさまざまなものが含まれる。そのような目標を追求する本当に効果的なシステムが出現することが、どんな惨事になるかは想像することしかできない」とラッセル氏は締めくくった。
3月末、イーロン・マスク氏やアップルの共同設立者、スティーヴン・ウォズニアック氏、AI分野の専門家らは公開書簡の中で、人間の知能に匹敵するAIは社会に脅威をもたらす可能性があると警鐘を鳴らした。
関連ニュース