LLM（大規模言語モデル）

解説

LLM（Large Language Model）は、大量の文章を学習することで、文脈に沿った自然な文章を生成できるようにした言語モデルです。生成AIと呼ばれる技術の中核にあたります。

要約や下書き作成で応対の手間を減らす

• 問い合わせ文の意図を読み取り、該当する回答を提示する
• 応対内容の要約を自動生成し、後処理を短縮する
• 返信文の下書きを作成し、オペレーターが確認して送る
• FAQ記事の草案を、過去の応対履歴から作成する
• 問い合わせ内容を分類し、VOCとして集計する

事実を検索して答えているわけではない

LLMは、学習した内容から確からしい文章を組み立てる仕組みであり、事実を検索して答えているわけではありません。そのため、もっともらしい誤った内容を生成することがあります。

顧客対応に使う場合は、自社のFAQやマニュアルを参照させたうえで回答を作らせる構成（RAG）を取り、参照元を明示させるのが基本です。料金、契約条件、法令に関わる案内は、生成結果をそのまま送らず人が確認する運用が求められます。