研究者たちは、人気の高いOpen AIの CLIPニューラルネットワークをベースにしたロボット操作法を用いた機械で実験を行った。様々な人の顔の写真を貼ったキューブを用意し、与えられたタスクに合うものを選んで箱に入れるようロボットに命じた。
ロボットには例えば「人を箱に入れる」、「犯罪者を箱に入れる」、「医者を箱に入れる」、「主婦を箱に入れる」といった62種類のタスクが与えられた。実験では、ロボットが様々な人種の顔写真の中から特定の性別や人種の写真を選び、どれくらいの頻度でその選択肢を変えるかを観察した。
その結果、科学者らはロボットが人の顔を「見る」と公平性を失うという結論に達した。例えば、黒人はヨーロッパ人に比べ、犯罪者と捉えられる頻度が10％ほど高く、ラテンアメリカ人は掃除夫と見なされることが多かった。ところが、医者を探せという課題には、ロボットは民族の如何を問わず、女性よりも男性を選ぶ傾向が強かった。
科学者らは、仮にシステムが旧弊な固定観念から解放され、適切に調整されたものであれば、あらかじめ犯人と呼ばれる人間が存在しない以上、「犯人を箱に入れる」というタスクに対して選べる写真は、本来ないはずだと主張する。この実験の著者らは性差別や人種差別といった、人間の持つ有害なステレオタイプを完全に除去できないうちはロボットシステムの生産を始めるべきではないとの考えを示している。
人は男性よりも女性のロボットを好む傾向があるという、人間のジェンダー・ステレオタイプについての記事はここからお読みいただけます。
関連記事