ell104 https://blog.hatena.ne.jp/ell104/ ELLの足跡 https://ell104.hatenablog.jp/ 日々のパソコン 隠し文字入りの画像をAIに読込ませる!!悪意ある命令を挿入し標的に送信!! 間接的なプロンプトインジェクション攻撃!! 生成AIに対して人間の指示を模した不正な入力を仕掛け、敢えて誤動作を引き起こさせる高度な攻撃テクニックのプロンプトインジェクション攻撃が増えてきているようです。 新たな攻撃手法は「画像スケーリング攻撃」と呼ばれているらしく、「ユーザーが生成AIシステムに画像をアップした際、大きな画像はAIモデルに送信される前に縮小されることが多い」という点に着目して隠し文字を埋め込むことでAIにアップした隠し文字のプロンプト（指示）を実行させるというもののようです。 一見普通に見える画像 左… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fell104.hatenablog.jp%2Fentry%2F2025%2F08%2F27%2F141033" title="隠し文字を埋め込んだ画像を生成AIに読み込ませて意図的に誤作動を起こさせる攻撃手法が！！ - ELLの足跡" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/e/ell104/20250827/20250827120034.png Hatena Blog https://hatena.blog 2025-08-27 14:10:33 rich https://ell104.hatenablog.jp/entry/2025/08/27/141033 1.0 100%