LLM（大規模言語モデル）

解説

LLM（Large Language Model）は、膨大な量の文章データで学習し、人間が書いたような自然な文章を理解・生成できるようにした言語モデルです。多くのLLMは、トランスフォーマーと呼ばれるニューラルネットワークの構造に基づいています。Gartnerは、LLMを生成AIの中核となる技術と位置づけています。

仕組み

LLMは、主に次の流れで文章を生成します。

• 入力された文章を、トークンと呼ばれる小さな単位に分割する
• 入力された文章と、生成済みの文章をもとに、次に続くトークンを予測する
• 予測したトークンを順につなげて、文章を組み立てる

LLMは、学習した内容から確からしい文章を組み立てる仕組みであり、事実を検索して答えているわけではありません。そのため、もっともらしい誤った内容を生成することがあります。

実務での使われ方

LLMは、要約や下書き作成などで、応対の手間を減らします。主な用途は次のとおりです。

• 問い合わせ文の意図を読み取り、該当する回答を提示する
• 応対内容の要約を自動生成し、後処理を短縮する
• 返信文の下書きを作成し、オペレーターが確認して送る
• FAQ記事の草案を、過去の応対履歴から作成する
• 問い合わせ内容を分類し、VOCとして集計する

注意点

顧客対応に使う場合は、自社のFAQやマニュアルを参照させたうえで回答を作らせる構成（RAG：検索拡張生成）を取り、参照元を明示させるのが基本です。さらに、料金、契約条件、法令に関わる案内は、生成結果をそのまま送らず、人が確認する運用が求められます。