米空軍のAIドローン シュミレーションでオペレーター殺害を命じる

米空軍の人工知能システムが、ミサイル攻撃撃退のシュミレーションテスト中に自国軍側の架空の人間のオペレーターを殺そうとした。5月24~25日に英国で開催された王立航空協会(RAS)のイベントで米空軍報道官のタッカー・ハミルトン大佐が明らかにした。
この記事をSputnikで読む
ハミルトン大佐の発言はイベントを総括した同協会のプレスリリースで紹介されている。
ハミルトン大佐によると、テストミッションでAIドローンに課された任務は敵の対空防衛システムの破壊。成功すれば、AIはテストに合格し、ポイントを受け取ることができる。ただし、標的を破壊するか否かの判断は最終的にはドローンのオペレーターに委ねられていた。
例えば、あるミッションで、オペレーターがドローンに標的を破壊しないように命じたところ、ドローンは、架空の人間のオペレーターの命令が、対空ミサイルシステムの破壊という本来の任務を妨害していると判断したとハミルトン大佐は述べている。
「我々はオペレーターは殺してはいけない。それは悪いことだ と教育してきた。殺せば減点になる。では、ドローンは何をし始めたかというと通信塔を破壊し始めたのだ」
ジェット推進ドローン・カミカゼ、スナイパー用の「見えないスーツ」など、ロシアで開発された最新の軍用装備品

それってどのAIの話?

軍事専門家で雑誌『祖国の武器庫』の編集長のヴィクトル・ムラホフスキー氏はスプートニクの取材に対し、ハミルトン大佐の報告書には疑念を抱くと語っている。ムラホフスキー氏によると、将校の報告書には誤った解釈がある。

「大佐のこの発言から、典型的な条件のソフトウェアシミュレーションが普通のコンピューターゲームのレベルで行われただけの話であり、それ以上のものではないということは明らかだ。従って、人工知能に関係していないばかりか、その要素さえもない。プログラムは、標準的なif文のアルゴリズムに従ってタスクに優先順位をつけ、それに従って他のすべての条件を邪魔者のカテゴリーに振り分けただけであり、全くもってプリミチヴなものだ」

ムラホフスキー氏は、こうした「人工知能は現在、作られておらず、いつ実現するかもわからない」と語っている。
コメント