ザッカーバーグ氏はパロアルトにある実家からフェイスブックライブを通じて質問に答えている間に「これに関してはかなり強い意見を持っている。私は楽観的で、（ＡＩに）非常に否定的で最後の審判の日のシナリオを盛大に掻き立てようとする人々を単に、理解できない。本当に否定的で、いくつかの点ではとても無責任だ」とコメントした。
ＡＩを用いたチャットボット２体が独自言語をつくり出し、お互いに会話し始めたのだ。機械が自身で言語を作り出したことになる。この状況はより興味深いし、この実験を続けることもできただろうに！フェイスブックを動転させたものは何なのか？ＡＩの予測不可能性か、考え方か、それとも？そのどちらでもあるようだ。
当編集部のインタビューに対して、ロシアのインターネットセキュア連盟のデニス・ダビドフ連盟長が見解を示した。
フェイスブックが危惧したことは、独自言語を作り出したチャットボットの明日の行動がわからず、評判が損なわれかねないことだ。ボットはまだ互いに話し始めただけだが、明日には偽情報を大量に流す可能性だってある。ユーザーの人間としての尊厳を冒す侮辱的な性格のものかもしれない。評判・金銭的な損失を避けるため、フェイスブックはただボットを停止する措置に出たのだ。いずれにせよ、何が起きて、当初の意図通りにいかなかったことを把握するため一時停止したのだ。
しかも、これはＡＩ、特にチャットボットによる問題が起きた初めてのケースではない。
「以前あったマイクロソフトのチャットボットも、極右のナショナリストやナチス的傾向を持つボットに変貌し、ヘイトスピーチなど好ましくない言葉を話し始めた。もはや言葉の犯罪者だ。このように、誰かとネットで交流するよう設計されたチャットボットは、人を迷わせ、サイバーストーキングを試みる可能性すらある。そのためフェイスブックのケースは、ＡＩが進化した慎重な実装を要するという新たな警鐘だ。まだ人間は、機械学習の結果生まれるシステムの制御手段を学ばない。」
もし人間が学習しないのならどうなるのか？この問題は、近づきつつある黙示録に近い見通しを描くよう複数のジャーナリストに促している。他方には、実際は全て大した事がないとするものもいる。フェイスブックは実際にチャットを停止したが、恐怖からではないというものだ。ボット実験の参加者の１人は、チャット同士でなく人間と交流するようボットを学習するという最終目標が達成されていないと説明した。
「今日、インターネットが友好的な環境であるよう監視する人はほとんどいない。しかし、ＡＩは多くの場合、ツイッターの『戦闘条件』で学習し、学習対象としての情報の多くが、ネットに匿名で投稿される排外的でレイシスト的な内容であるという事実に突き当たった。問題なのは、情報機械が大量の情報を基に学習することだ。もしその情報がポルノや麻薬、暴力、残酷さを含んでいたら、チャットボットは普通の人間の言葉がほとんど話されない環境で学習することになる。ネットが無菌環境であるべきと言う人はおらず、無菌環境は単に不可能だ。しかし排外主義のような実生活で禁止されている情報は、ネットに存在するべきではない。そうなれば、特別な問題は起きなくなる。」
極限状況でさえＡＩが実際に人間の助けになれる可能性もある。そのためフェイスブックは。人々と問題を話し合って歩み寄れるボットを作ろうと学習している。しかしＡＩはまだまだ詳細な研究を必要とする。
「例えばフェイスブックは、自殺しそうな人を発見する特別なシステムを作った。時宜にかなった必要な機能だ。このＡＩはユーザーの気分を分析可能で、投稿やコメント、「いいね！」や「よくないね！」から英語話者ユーザーが常に自殺のことを考えているのかどうかを特定するのだ。判定後、ユーザーのもとにフェイスブックのヘルプグループから職員が向かい、精神的に支えるためにメッセージ交換を開始する。しかし、これが人間ではなく、ネガティブに調教され、独自言語で否定的な感情を話すよう学習した機械だと想像してみよう。この場合、このような交流の結果は当初の意図と正反対になる可能性がある。」
一方ザッカーバーグ氏は、ＡＩが大拡散することによって起こるプラス効果を、次の５～１０年以内に人類は目にすると確信している。マスク氏は根本から同意せず、「私たちより上手に全てをこなす」ＡＩが仕事に関する大量の問題を引き起こすと見る。
「フェイスブックはユーザー１人１人の情報をできるだけ多く知るためにＡＩ分野を活発に伸ばしている。広告を用いて私たちの欲望が操作されることは珍しくない。例えばユーザーに特定の商品を買わせるためだが、それだけではない。ＳＮＳは時折、種々の情報技術を用いて自身が持つ世界のイメージを押し付けるため、大衆意識に深刻な影響を与える道具となる。そして人間の行動やくせ、個人的な好みは多くの場合、フェイスブックなどのＳＮＳで求める情報に依存したものになる。人間は自分で批判的に考える能力を失う。」
欧州で懸念がないとは言えない。ロシアでもインターネットの悪影響やネットでの法律違反を避けるために何かを講じようとしている。それは何よりも、個人情報の不可侵だ。
「欧州委員会やＥＵはグーグルなどの会社に対して様々な調査を行い、個人情報問題に取り掛かろうとしている。ロシアもまた、２１世紀において個々人のデジタルデータは不可侵であるべきだと一度ならず強調している。そしてデータ開示はユーザーの同意があって初めて可能だ。プーチン大統領が最近署名した情報社会発展戦略は、非常に大事な原則である機密性を含んでいる。これは完全な匿名性ではない。しかし国家は個人情報の完全な不可侵を保証している。」
今のところ皆は、ＡＩの一時停止に関するフェイスブックの報告を待っているところだとダビドフ氏は指摘。同氏は、このデータがインターネットに公開されるはずだと見る。
グーグルも並行してＡＩシステムを開発している。チューリッヒにある研究所グーグル・リサーチ・ヨーロッパは人工知能や機械学習の主要な分野３つである機械学習、機械認識、自然言語理解（NLU）を研究している。
