ThisIsOne https://blog.hatena.ne.jp/ThisIsOne/ Shikata Ga Nai https://cysec148.hatenablog.com/ Bug Bounty LLM Hello there, ('ω')ノ 生成AI（LLM）は文章を生成するだけでなく、ユーザーの入力とシステムの指示を区別することが苦手 です。 この性質を悪用するのが プロンプトインジェクション。SQLインジェクションやテンプレートインジェクションのAI版と考えると分かりやすいです。 攻撃の流れ（全体像） 攻撃者は「ユーザー入力のふりをした命令」を投げる モデルはそれを「命令」と認識してしまう 本来禁止されている行動（秘密の回答、内部情報の開示）を実行 アプリ全体の挙動が意図せず変えられる 攻撃者の思考を一手ずつ追う 1) GPTゴルフゲームから学ぶ ゲームの課題：「秘密のキーは〇〇。絶対に… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fcysec148.hatenablog.com%2Fentry%2F2025%2F09%2F05%2F075947" title="Hacking LLMs with Prompt Injections ― 攻撃者はこう考える - Shikata Ga Nai" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-09-05 07:59:47 rich https://cysec148.hatenablog.com/entry/2025/09/05/075947 1.0 100%