ThisIsOne https://blog.hatena.ne.jp/ThisIsOne/ Shikata Ga Nai https://cysec148.hatenablog.com/ Web Security Academy LLM attacks Hello there, ('ω')ノ 背景 アプリケーションは「製品レビュー」を LLM に読み込ませ、ユーザーの質問に答える仕組み。 問題は LLMの最終出力がブラウザにそのまま描画される こと。 攻撃者が細工したコメントを残すと、LLMがそれを回答に含めてしまい、結果としてブラウザでスクリプトが実行される。 攻撃の流れ（攻撃者視点） 1. 攻撃対象の調査 まずはアカウントを作成し、ライブチャットがXSSに脆弱か確認。 テスト用ペイロード： <img src=1 onerror=alert(1)> → アラートが出る = 出力が無検証でレンダリングされていると判明。 2. コメント欄の挙動… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fcysec148.hatenablog.com%2Fentry%2F2025%2F09%2F06%2F092632" title="LLMの不適切な出力処理からXSSを引き起こす攻撃シナリオ - Shikata Ga Nai" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-09-06 09:26:32 rich https://cysec148.hatenablog.com/entry/2025/09/06/092632 1.0 100%