EngineerNoi https://blog.hatena.ne.jp/EngineerNoi/ ITエンジニア ノイのブログ https://engineernoi.hatenablog.com/ タイトル: ハルシネーションの検出と推定方法に関する研究 対象の論文 https://arxiv.org/pdf/2406.15927 アブストラクトの要約 研究目的: AIモデルが生成する「ハルシネーション」を検出する新しい方法を提案 背景: 従来の手法では、ハルシネーションの検出が困難であり、時間とコストがかかる 提案手法: セマンティックエントロピーを利用し、モデルの内部状態からハルシネーションを推定する セマンティックエントロピー: モデルの回答の一貫性を評価する指標 SEPs（Semantic Entropy Probes）: LLMの内部アクティベーションからセマンティックエントロ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fengineernoi.hatenablog.com%2Fentry%2F2024%2F07%2F27%2F225953" title="論文解説　ハルシネーションの検出と推定方法に関する研究 - ITエンジニア ノイのブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/E/EngineerNoi/20240727/20240727225928.jpg Hatena Blog https://hatena.blog 2024-07-27 22:59:53 rich https://engineernoi.hatenablog.com/entry/2024/07/27/225953 1.0 100%