kyorosukeke https://blog.hatena.ne.jp/kyorosukeke/ とある投資家の学習帳 https://kyorosukeke.hatenablog.com/ 問題の所在――流暢さと真実性の分離 大規模言語モデルが「それらしい嘘」を返す現象は、しばしば擬人的に「知ったかぶり」と形容される。この比喩は直感的に正しい一方で、機構の理解を妨げる面もある。人間の見栄は真偽の判断を経たうえで虚偽を選ぶ営みだが、モデルの場合はそもそも真偽の判定装置を内蔵していない。ここにこの問題の核心がある。すなわち、モデルにおいては文章としての流暢さ（fluency）と内容の真実性（factuality）が原理的に分離しており、前者を最大化する過程で後者が犠牲になりうるのである。 したがって「情報不足の人間が周囲に聞き回り、脳をこねてもっともらしい結論を返す」という比喩は、修… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fkyorosukeke.hatenablog.com%2Fentry%2F2026%2F07%2F11%2F230834" title="生成モデルにおける虚構と根拠拘束――なぜ「材料を先に与える」ことが誤答を抑えるのか - とある投資家の学習帳" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2026-07-11 23:08:34 rich https://kyorosukeke.hatenablog.com/entry/2026/07/11/230834 1.0 100%