ThisIsOne https://blog.hatena.ne.jp/ThisIsOne/ Shikata Ga Nai https://cysec148.hatenablog.com/ OWASP TOP 10 for LLM Hello there, ('ω')ノ 一言でいうと：LLMは「しゃべりすぎ」になり得る LLMは学習や推論の過程で、覚えていること・今与えられた文脈・外部から取り込んだデータをもとに回答します。その結果、言わないほうがいい情報まで口をすべらせる（＝センシティブ情報が出力に混じる）危険があります。 ここでいうセンシティブ情報には、個人情報（PII）・健康/金融データ・企業機密・セキュリティ資格情報（鍵/パスワード）・法的文書・プロプライエタリなアルゴリズム/学習手順/ソースコードなどが含まれます。 どこから漏れる？— 5つの“出口” モデルの記憶/再現 学習データに含まれていた断片を、似た質問… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fcysec148.hatenablog.com%2Fentry%2F2025%2F08%2F25%2F170730" title="【有料試作版】LLM02:2025 Sensitive Information Disclosure 徹底解説 - Shikata Ga Nai" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-08-25 17:07:30 rich https://cysec148.hatenablog.com/entry/2025/08/25/170730 1.0 100%