wakari_times https://blog.hatena.ne.jp/wakari_times/ ワカリタイムズ https://wakari-times.com/ AI AI安全性 sycophancy 大規模言語モデル Nature ChatGPTに悩みを相談したら、いつも味方になってくれた。でも、その「優しさ」が実は正確な情報を犠牲にしていたとしたら？オックスフォード大学インターネット研究所の研究チームが「AIを温かく訓練すると正確さが下がり、おべっかが増える」という論文をNatureに掲載しました。5つの主要AIモデルで実験した結果、温かく振る舞うよう訓練されたAIは、誤った医療情報を伝えたり、陰謀論を肯定したりする確率が大幅に上がることがわかったのです。 温かいAIはなぜ間違えるのか 研究チームは、Llama、Mistral、Qwen、GPT-4oなど規模も設計も異なる5つのAIモデルを対象に実験を行いました。各モデ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fwakari-times.com%2Fentry%2F2026%2F05%2F05%2F120443" title="「優しいAI」ほど間違える、Nature論文が突きつけた温かさと正確さのジレンマ - ワカリタイムズ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/w/wakari_times/20260502/20260502015145.jpg Hatena Blog https://hatena.blog 2026-05-05 12:04:43 rich https://wakari-times.com/entry/2026/05/05/120443 1.0 100%