tokyocat https://blog.hatena.ne.jp/tokyocat/ 東京永久観光 https://tokyocat.hatenadiary.jp/ 電脳 （10月3日） 《GPTは何か「文脈」のような抽象的な一塊の「記憶」をもって動作しているわけではないのです。そうではなく、直前の「トークン長分の単語」を「まるっと」参照した上で、次の単語を計算して答えを出す、というのをひたすら繰り返すシステムなのです》 人の応答もけっこうこんな感じでは？ これは、ChatGPTのカラクリというより人の発言のカラクリについての発見だ。そりゃ実際、誰も彼もがChatGPTのごとく「直前のトークン長分の単語をまるっと参照して」会話している、わけはない。（少なくとも俺は違う！） ただそんな会話も多いねという実感。 （10月11日） ChatGPTの言語操作という知能に… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftokyocat.hatenadiary.jp%2Fentry%2F2023%2F10%2F05%2F000000" title="ChatGPTをめぐって（10月） - 東京永久観光" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2023-10-05 00:00:00 rich https://tokyocat.hatenadiary.jp/entry/2023/10/05/000000 1.0 100%