ThisIsOne https://blog.hatena.ne.jp/ThisIsOne/ Shikata Ga Nai https://cysec148.hatenablog.com/ OWASP TOP 10 for LLM Hello there, ('ω')ノ 全体像（まずはストーリー） ユーザーはLLMを「事実確認」や「意思決定」に利用している。 攻撃者はLLMに「誤情報」を答えさせるよう工夫する。 ユーザーが検証せずにそのまま使い、被害が発生する。 結果として、誤った薬の服用や、フィッシングサイトへの誘導などにつながる。 実践：一手ずつ「なぜそうするか」を添えて 1) 信頼の「切り口」を探る 操作：ユーザーがどんな場面でLLMを使っているか観察する（例：医療相談、投資判断、システム設定）。 観察：ユーザーが「LLMの答えを鵜呑みにしている」場面を発見。 なぜ：ここで「偽情報を混ぜれば成立する」と攻撃者は考え… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fcysec148.hatenablog.com%2Fentry%2F2025%2F08%2F29%2F191412" title="【有料試作版】OWASP Top 10 for LLM 2025 ― ⑤ 過度の依存（Overreliance） - Shikata Ga Nai" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-08-29 19:14:12 rich https://cysec148.hatenablog.com/entry/2025/08/29/191412 1.0 100%