1.導入

「生成AI、導入はしてみた。でも、正直期待ほど使いこなせていない。」そんな声を、現場からよく耳にします。
生成AIは膨大なデータをもとにテキストや画像、音声、動画等の様々な形式のコンテンツを作成できる技術であり、既に一般知識回答や壁打ち、社内データを参照させて規定等のFAQを行う業務等への活用が普及しております。
昨今では、複数の処理ステップを自律的に構築・実行できるAIエージェントが登場しており、具体的な指示を必要とせずにマルチタスクをこなすことが可能になっています。
このように、生成AIは現場を単純作業から解放し、作業省力化で生み出した時間を価値ある新たな作業に振り分けられるようになる効果が期待されています。
ここ数年、各社にて生成AI活用を検討するにあたり、「どこまで活用できる技術であるか？生成AIをどのように活用できるか？」と技術に焦点を当て、活用検討が進められてきました。
これにより、技術の活用性についての基礎検討はできているものの、実際に前述の期待効果が生まれるほどに生成AIを活用するためには、現場とのギャップが多々あります。
導入はしてみたものの、業務で使いたいと思えるほど質の良いアウトプットがなかなか出力されず、現場への浸透が進んでいないというのが、生成AIの活用を推進する立場における共通の悩みではないでしょうか。
今回は、前編後編の2回にわたり、当社が行ったDXコンサルティングの事例を通じて、生成AIの業務適用において実際に直面する課題やそれに対する対応策について解説し、生成AIの業務活用を深化させるための現場でのリアルな実践術を紹介します。
生成AIという新たな技術の到来を上手く乗りこなし、サービスのステークホルダー（利用者・運用者等）が生成AIを意識せずとも、その恩恵を受けながら効率的に業務を遂行できる状態、それこそが“業務活用の深化”であり、その実現のための羅針盤になれば幸いです。

2.生成AIの業務活用を深化させるポイント

生成AIの業務活用を深化させるには、生成AIの特性を踏まえて上手く使いこなせるようになることが重要です。使いこなすためのポイントとして、①生成AIへの指示（プロンプト）②生成AIに活用する社内データの二つについて、それぞれご説明をします。
まず、①生成AIへの指示（プロンプト）については、指示内容に曖昧さがあると、意図が正確に伝わらず、期待通りの出力が得られない可能性があります。
特に特定の業務に関する質問をする際には、プロンプトにどの程度まで具体的に記載するかが利用者の判断に委ねられており、生成AIが理解しやすい形で適切に情報を与えるには、利用者側の生成AIに対する習熟や理解の深さが求められます。
また、②社内データについては、社内データが定型化されておらず、生成AIによる必要情報へのアクセス率が低くなる可能性があります。
このような課題を解決するためには、社内データの構造化や整備が必要となるものの、データクレンジングには労力がかかり、容易ではありません。

実践術の前編では、社内FAQにおけるチャットボットの業務活用にて、プロンプト指示や社内データの構造化に課題をお持ちであったお客様が、FAQヒット率を高めることができた改善事例を紹介します。

3.事例1：顧客AにおけるFAQのチャットボット実装

本事例では、システム保守部門が社内からの問合せ回数を削減することを目的に、PoCを行いました。
システム保守がこれまで回答・蓄積してきたFAQデータを活用し、FAQチャットボットとして実装することを目指しました。
また、顧客は本PoCの横展開を見据え、作業の最小化を要望されていました。
そこで、既存のFAQデータをそのまま活用することを前提としました。

・現場の課題

システムの問合せ窓口をチャットボットにて実装し、いざ想定質問を実際の問合せから作成・打鍵してみたところ、誤ったFAQを参照して回答してしまうケースが多く挙がりました。
原因の一つに、今回RAGで活用している社内データの性質がありました。
社内データの記載に曖昧性やキーワードの偏りがあると、生成AIがどのFAQに一番合致するものであるか、誤って判断してしまいます。
例えば、「パスワードの再設定」と聞かれた場合にも、具体的にどのパスワードを指すのか指定がなければ誤ったFAQを返却してしまう可能性があります。
このように近しいキーワードが多用されている場合にも、正しいFAQ情報を回答できる工夫が必要となります。

・対処の方針

本案件では、社内データの曖昧性を補完するため、以下二つの工夫を組み込みました。
これらの工夫により、想定するFAQへのヒット率が大きく改善しました。
①データのカテゴライズ
社内データであるFAQに対しカテゴリ情報を付与するとともに、プロンプトと合致する可能性の高いカテゴリを予測させる手順を組み込みました。
また、本手順における「FAQのカテゴライズ」についても、人力ではなく生成AIを活用することで作業を効率化しました。
②ユーザによるFB
複数のカテゴリに合致する可能性が高いと判定された場合には、どのカテゴリにおける質問であるかをユーザに追加で確認する手順を組込みました。
本仕組みを導入することで、プロンプトと社内データの両方が持つ曖昧性を問合せの流れの中で補完し、必要なFAQにたどり着けるようにしました。

一方、上記工夫を施した場合においても、課題が残存します。
それは、プロンプト内にFAQカテゴリを特定可能な語句や文脈が含まれないケースにおいて、正確なマッチングが困難となる点です。
現状の仕組みでは、カテゴリの予測や明示的な確認を通じて曖昧性の補完を図っているものの、ユーザの入力文が極端に抽象的または業務特有の言い回しを含む場合には、誤ったカテゴリ・FAQへ誘導するといったリスクが残ります。
このような場合においては、LLMのチューニング（業務固有の表現パターンに対する社内データによる継続的ファインチューニング）、プロンプトが曖昧な場合に生成AI側から積極的に情報補足を促すUX設計を導入するなどの更なる工夫を加えることで、更に活用性の高いチャットボットへ進化させることが可能です。

4.まとめ

RAGの精度向上に向けた打ち手の中でも、データクレンジングは大変な作業となります。
社内データにタグ情報（本事例ではカテゴリ）を付与し、検索範囲を絞り込むことで、最小限の手間で精度の改善を見込むことができます。
このように、既存の社内データを活用したスモールスタートには良い選択肢となりますので、是非社内に眠るデータの活用をしてみましょう。
次回、実践術の後編では、生成AIの活用ユースケースとして浸透し始めているアイディエーションに関する事例を紹介します。

記事に関するお問い合わせ