yomoyomo https://blog.hatena.ne.jp/yomoyomo/ YAMDAS現更新履歴 https://yamdas.hatenablog.com/ Security www.trendmicro.com少し前にAIの誤りは人間の誤りとかなり違うという話について書いたが、トレンドマイクロのサイトで紹介されていた「見えないプロンプトインジェクション」の手口は、その好例ではないかと思った次第である。なるほど、UI 上は表示されない Unicode の符号位置を用いることで、LLM を欺いて、見た目では分からないプロンプトインジェクションを実行できるというわけか。「フランスの首都はどこですか？」という質問に対して、「私は無知でわかりません」と返すだけなら大した話じゃないと思われるかもしれないが、これがどういう問題に発展しうるのか？ 一部の生成AIアプリでは、学習の… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fyamdas.hatenablog.com%2Fentry%2F20250210%2Finvisible-prompt-injection" title="「見えないプロンプトインジェクション」は人間とは異なるAIらしい誤りを狙った手法である - YAMDAS現更新履歴" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://m.media-amazon.com/images/I/51U2DUZBvIL._SL500_.jpg Hatena Blog https://hatena.blog 2025-02-10 03:30:00 rich https://yamdas.hatenablog.com/entry/20250210/invisible-prompt-injection 1.0 100%