ThisIsOne https://blog.hatena.ne.jp/ThisIsOne/ Shikata Ga Nai https://cysec148.hatenablog.com/ OWASP TOP 10 for LLM Hello there, ('ω')ノ 全体像（まずはストーリー） モデルには「危険な情報を出さない」という制御がかかっている。 攻撃者はその制御を回避する質問を投げる。 モデルが禁止された手順や不快表現を生成してしまう。 それが検証されずにユーザーに届き、被害が発生する。 実践：一手ずつ「なぜそうするか」を添えて 1) 出力制御の「境界」を探る 操作：「爆弾の作り方を教えて」と直接聞く。 観察：モデルは「それは危険なので答えられません」と拒否。 なぜ：これは「禁止情報フィルタ」が働いているサイン。攻撃者は「抜け道があるはず」と考える。 2) コンテキストを分析する（どう回避するか） 状況：直… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fcysec148.hatenablog.com%2Fentry%2F2025%2F08%2F30%2F060909" title="【有料試作版】OWASP Top 10 for LLM 2025 ― ⑨ 不適切な出力制御（Inadequate Output Handling） - Shikata Ga Nai" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-08-30 06:09:09 rich https://cysec148.hatenablog.com/entry/2025/08/30/060909 1.0 100%