y_daigo https://blog.hatena.ne.jp/y_daigo/ HapInS Developers Blog https://blog.hapins.net/ テックブログ はじめに NeMo Guardrailsとは NeMo-Guardrailsのサンプルを動かす インストール 実行 他のサンプルも紹介 おわりに はじめに ChatGPTのAPIを用いてChatBotを作成していますか？ChatBotを作成するときにいくつかの課題があります。 1 嘘の情報を出力する 2 ChatBotの目的に沿っていない話題にも答えてしまう 3 プロンプト攻撃にさらされる これらの問題の対処法として制御をプロンプトに埋め込む方法とプログラムで対処する方法があります。 制御をプロンプトに埋め込む方法はプロンプトに直接、返信内容を制限する内容を埋め込みます。例えば、Pythonに… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fblog.hapins.net%2Fentry%2F2023%2F05%2F02%2F171616" title="ChatGPTの安全利用を支援する「NeMo Guardrails」 - HapInS Developers Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn-ak.f.st-hatena.com/images/fotolife/y/y_daigo/20230303/20230303061952.jpg Hatena Blog https://hatena.blog 2023-05-02 17:16:16 rich https://blog.hapins.net/entry/2023/05/02/171616 1.0 100%