flattsecurity https://blog.hatena.ne.jp/flattsecurity/ GMO Flatt Security Blog https://blog.flatt.tech/ 技術 AI セキュリティ診断 TL;DR LLMガードレールはLLMの入出力を監視・制御する技術であり、LLMアプリケーションにおける様々な脅威への対抗策になります。しかし、あくまで役割は脅威の緩和・低減であるため、それぞれの脅威に対する根本的な対策をした上で、万が一の事故に備え文字通りガードレールとして導入する必要があります。 本文中では、RAGアプリケーションの利用する外部データベースにプロンプトインジェクションを引き起こすデータが存在し、LLMに対する入力として利用された場合、LLMガードレールで検知する例を紹介しています。しかし、根本的には外部データベースに悪意あるデータが登録されないよう対策すべきです。 このブロ… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.flatt.tech%2Fentry%2Fllm_guardrail" title="LLMガードレールの活用法と役割を正しく理解する - GMO Flatt Security Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/f/flattsecurity/20250526/20250526175839.png Hatena Blog https://hatena.blog 2025-05-26 18:00:09 rich https://blog.flatt.tech/entry/llm_guardrail 1.0 100%