機械の反乱:人工知能は数秒で都市を破壊できる

「AI(人工知能)を備えた兵器は数秒で世界の都市を破壊することができる」。グーグル元開発者のララ・ノランさんの話を、デイリー・スター紙が伝えている。
この記事をSputnikで読む

そのような武器とは、人間が関与せず意思決定を行うシステムを指すとノランさんは説明する。ノランさんによると、一つの地域にこのようなシステムが複数存在する場合、「突然の戦争」が起こる可能性があるという。これらシステムはほぼ瞬間的に呼応するからだ。ノランさんは、「最悪の場合、突発戦争は数秒で町全体を破壊することを意味するかもしれない」と言う。

AIの気が狂うことはあり得るか?
ノランさんは上記の状況を、同じく自動アルゴリズムが機能する証券市場におけるシャットダウンのようなものだと喩えた。ノランさんは、「軍事行動との違いは“自動停止装置”をセットする手段がないこと」と警告し、世界中でこのような兵器の使用を禁止することを呼び掛けた。

2015年、数千人のエンジニアや研究者が公開書簡に署名をした。その書簡は兵器・最新軍備システム開発の際にAIを使用することの危険性を警告している。エンジニアや研究者らはまた、軍事開発におけるAI使用を放棄するよう呼び掛けた。

コメント