NTTCom https://blog.hatena.ne.jp/NTTCom/ NTT docomo Business Engineers' Blog https://engineers.ntt.com/ AI OSS アドベントカレンダー この記事は、 NTT Communications Advent Calendar 2024 1日目の記事です。 こんにちは、イノベーションセンターの加藤です。普段はコンピュータビジョンの技術開発やAI/機械学習（ML: Machine Learning）システムの検証に取り組んでいます。一方で、兼務で生成AIチームに参加し、大規模言語モデル（LLM: Large Language Model）に関する技術の調査を行なっています。 音声アシスタントをLLMベースで作成する際、ユーザーの入力音声を一旦テキストに変換し、LLMに応答させた後、その応答文から読み上げ音声を生成するというカスケード方式… 190 <iframe src="https://hatenablog-parts.com/embed?url=https%3A%2F%2Fengineers.ntt.com%2Fentry%2F202411-streaming-dialogue%2Fentry" title="ストリーム処理を活用してLLMベース音声対話システムのレイテンシを短縮する - NTT docomo Business Engineers&#39; Blog" class="embed-card embed-blogcard" scrolling="no" frameborder="0" style="display: block; width: 100%; height: 190px; max-width: 500px; margin: 10px 0px;"></iframe> https://cdn.blog.st-hatena.com/files/26006613764871753/6802418398308131622 Hatena Blog https://hatena.blog 2024-12-01 11:47:28 rich https://engineers.ntt.com/entry/202411-streaming-dialogue/entry 1.0 100%