hiros1192 https://blog.hatena.ne.jp/hiros1192/ エンジニアの思い立ったが吉日 https://engineer-kichizitsu.net/ AI AI活用 生成AI ChatGPT OpenAI AIが突然「ゴブリン」と「グレムリン」を連発し始めたら、あなたはどう思うだろうか。 「そんな映画みたいなこと、本当に起きるの？」と思うかもしれない。でも2025年末から2026年にかけて、ChatGPTで実際に起きた。それもOpenAI社内の調査によって「ゴブリンという単語の使用率が175%増加した」という数値まで出るほど、はっきりと。 これはジョークではない。OpenAIが2026年4月29日に公式ブログで詳細を公開した、れっきとした技術的インシデントだ。 この事件が示唆するのは「AIが変な言葉を覚えた」という笑い話ではない。AIモデルの訓練に使われる強化学習（人間のフィードバックをもとにA… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fengineer-kichizitsu.net%2Fentry%2F20260430%2F1777540187" title="ChatGPTがゴブリンに取り憑かれた理由——強化学習の「報酬ハッキング」が招いたAIの奇妙な暴走 - エンジニアの思い立ったが吉日" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn.user.blog.st-hatena.com/default_entry_og_image/159598337/1752537432377033 Hatena Blog https://hatena.blog 2026-04-30 18:09:47 rich https://engineer-kichizitsu.net/entry/20260430/1777540187 1.0 100%