https://sputniknews.jp/20230605/chatgptai-16192292.html
ChatGPTの開発者ら AIの誤情報対策に新メソッド導入へ
ChatGPTの開発者ら AIの誤情報対策に新メソッド導入へ
Sputnik 日本
ChatGPTを開発した米国のOpenAI社は、AIが誤った情報を出さないようにするために、そのトレーニングに新しい方法を導入すると発表した。 2023年6月5日, Sputnik 日本
2023-06-05T00:00+0900
2023-06-05T00:00+0900
2023-06-05T00:01+0900
it・科学
人工知能
米国
https://cdn1.img.sputniknews.jp/img/07e7/05/1e/16141022_0:3:3000:1691_1920x0_80_0_0_1168b63cfffec417411e86e1cb620049.jpg
OpenAIの開発者は、最も高度なAIでさえ誤った帰結を出す傾向があり、不確定な事態に遭遇すると、事実を捏造してしまうことを認めている。こうした問題は通常、何段階にもわたって推論する必要がある場合に発生する。そうした中ではわずか1つでも論理を間違えば、誤った結論が導きだされてしまうからだ。OpenAIは現在、AIが最終的に出す結論に対して報酬を与えるのではなく、学習プロセスにあるAIに対し、ステップごとに出される推論が正しい場合、それに対して報酬を与えようとしている。研究者らによると、このアプローチは「結果観察」ではなく「プロセス観察」と呼ばれるもので、これによって、AIはより人間に近い「思考」連鎖をたどる論理に近づくため、より理解しやすいAIの到達に近づく。OpenAIはその研究をアピールするために、AIのトレーニングに用いた80万個のタグからなる付属のデータセットを公開している。関連ニュース
https://sputniknews.jp/20230528/chatgpt-16114746.html
Sputnik 日本
feedback.jp@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
2023
Sputnik 日本
feedback.jp@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
ニュース
jp_JP
Sputnik 日本
feedback.jp@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
Sputnik 日本
feedback.jp@sputniknews.com
+74956456601
MIA „Rossiya Segodnya“
人工知能, 米国
ChatGPTの開発者ら AIの誤情報対策に新メソッド導入へ
2023年6月5日, 00:00 (更新: 2023年6月5日, 00:01) ChatGPTを開発した米国のOpenAI社は、AIが誤った情報を出さないようにするために、そのトレーニングに新しい方法を導入すると発表した。
OpenAIの開発者は、最も高度なAIでさえ誤った帰結を出す傾向があり、不確定な事態に遭遇すると、事実を捏造してしまうことを
認めている。こうした問題は通常、何段階にもわたって推論する必要がある場合に発生する。そうした中ではわずか1つでも論理を間違えば、誤った結論が導きだされてしまうからだ。
OpenAIは現在、AIが最終的に出す結論に対して報酬を与えるのではなく、学習プロセスにあるAIに対し、ステップごとに出される推論が正しい場合、それに対して報酬を与えようとしている。研究者らによると、このアプローチは「結果観察」ではなく「プロセス観察」と呼ばれるもので、これによって、AIはより人間に近い「思考」連鎖をたどる論理に近づくため、より理解しやすいAIの到達に近づく。
OpenAIはその研究をアピールするために、AIのトレーニングに用いた80万個のタグからなる付属のデータセットを公開している。
