danny-wu375 https://blog.hatena.ne.jp/danny-wu375/ Legalscapeテックブログ https://tech.legalscape.co.jp/ AI LLM はじめに こんにちは、LegalscapeでAIを開発しているエンジニア、Dannyと申します。 Legalscapeでの弁護士向けのリーガルAIを作る上で最も重要なことの一つは、基盤となるモデル（主に大規模言語モデル：LLM）のfailure mode（失敗モード）に注意を払うことです。特に、外部データソースとのインタラクションを伴うスキャフォールディング・ロジック（たとえばRAGシステム）が関わる場合はなおさらです。 AI「診察」とその難しさ まずやるべき仕事は、モデルの望ましくない挙動を観察し、その根本原因を特定し、修正を試みることです。このプロセスを、エンジニアより「医者のように考える… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Ftech.legalscape.co.jp%2Fentry%2F2025%2F10%2F10%2F170719" title="実践LLMをCoTで考えさせるリスク - AIの体調診察シリーズ (1) - Legalscapeテックブログ" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> Hatena Blog https://hatena.blog 2025-10-10 17:07:19 rich https://tech.legalscape.co.jp/entry/2025/10/10/170719 1.0 100%