https://sputniknews.jp/20230605/chatgptai-16192292.html

ChatGPTの開発者ら　AIの誤情報対策に新メソッド導入へ

ChatGPTの開発者ら　AIの誤情報対策に新メソッド導入へ

Sputnik 日本

ChatGPTを開発した米国のOpenAI社は、AIが誤った情報を出さないようにするために、そのトレーニングに新しい方法を導入すると発表した。 2023年6月5日, Sputnik 日本

2023-06-05T00:00+0900

2023-06-05T00:00+0900

2023-06-05T00:01+0900

it・科学

人工知能

米国

https://cdn1.img.sputniknews.jp/img/07e7/05/1e/16141022_0:3:3000:1691_1920x0_80_0_0_1168b63cfffec417411e86e1cb620049.jpg

OpenAIの開発者は、最も高度なAIでさえ誤った帰結を出す傾向があり、不確定な事態に遭遇すると、事実を捏造してしまうことを認めている。こうした問題は通常、何段階にもわたって推論する必要がある場合に発生する。そうした中ではわずか1つでも論理を間違えば、誤った結論が導きだされてしまうからだ。OpenAIは現在、AIが最終的に出す結論に対して報酬を与えるのではなく、学習プロセスにあるAIに対し、ステップごとに出される推論が正しい場合、それに対して報酬を与えようとしている。研究者らによると、このアプローチは「結果観察」ではなく「プロセス観察」と呼ばれるもので、これによって、AIはより人間に近い「思考」連鎖をたどる論理に近づくため、より理解しやすいAIの到達に近づく。OpenAIはその研究をアピールするために、AIのトレーニングに用いた80万個のタグからなる付属のデータセットを公開している。関連ニュース

https://sputniknews.jp/20230528/chatgpt-16114746.html

2023

ニュース

jp_JP

人工知能, 米国