ChatGPTの業務適用コンサルティングの一部を紹介
はじめに
皆様はChatGPTを日々、どのように活用されていますでしょうか？
ChatGPTは非常に汎用性の高いAIですので、十人十色の活用方法があります。ChatGPTをどう業務に有効活用できるか？こういう使い方は可能か？というようなお話しを頂いておりますが、特に昨今、現場部門の方々から以下のようなご相談を頂く機会が増えてきており、実際にご支援も行っています。
「ChatGPTがどのようなものかは分かってきた。改めて社員の生産性向上や業務改善に活かして行くためのディスカッションを行いたい、コンサルティングを依頼したい」
ChatGPTの活用例に関しては、以下２つのコラムでも少しご紹介させていただきましたが、
今回は、普段のコンサルティングで良くお客様に話している内容をコラムにしたいと思います。
ChatGPTの現場での検討に際して説明した後に、コンサルティングの際によく話をしている、ハルシネーション観点も踏まえた、ChatGPTの業務活用における考え方に関しても言及します。
ChatGPTの現場での検討に際して
現場でChatGPTの活用を検討されていると、その現場の皆様の中で生成AIに関する知識が異なっていたり、認識が違うことで、議論がなかなか進まない、議論が極論になってしまっているということが見受けられる場合があります。
そのような状況の中でも、ChatGPTで出来そうな課題を洗い出そうという号令の下、集まってきた課題がリスト化されます。そのリストにはGPTの活用に不向きな課題であったり、それはChatGPT使わない方が良い課題、ChatGPTでも無理でしょうという内容が多く含まれていたりするなどして、なかなか検討に時間がかかってしまうということもあります。
上記のように現場課題を洗い出し、それぞれに対して検討を行った上で、共通の技術に落とし込んでいって、効率的にDXに繋げていく、というようなアプローチは有益です。しかし、今回行いたかったのは、上層部からも指示がでているChatGPT技術を活用した業務への適用検討だったとすると、その課題リストは少しスコープが広すぎます。（勿論、ChatGPT技術を活用しないDX課題リストは有益です。あくまで、当初の目的がChatGPT技術の活用前提の場合ではという話です）
ChatGPTの業務適用に関する検討を素早く、効率的に進めるためには、最初に発生しうる関係者間のギャップを最小限にすること、すなわち、現場の皆様の生成AIの利活用の考え方を合わせることが有効です。
現場の皆様の生成AIの利活用の考え方を合わせると言っても、何も、難しい技術、例えばTransformerを学びましょうとか、Pythonを勉強しましょうとかそういうことではありません。
現場の皆様の生成AIの利活用の考え方を合わせるために実施していることを一部ご紹介します。この観点をお客様の関係者内で合わせることで、ChatGPTを利用した生産性向上や業務改善を進めやすくなります。
ChatGPTを業務利用しようとした場合の３つの観点
ChatGPTを業務利用しようとした場合、３つの観点を考慮する必要があります。
- 情報漏洩
- ユーザーニーズ
- 回答内容の正確性
以下、それぞれに関して説明します。
１．情報漏洩
ChatGPTを業務利用しよう！となったときに、自社の情報漏洩に繋がってしまっては本末転倒です。まずは安心・安全で利用できるようにすることが重要です。ChatGPTを提供する環境に合わせた内容で、生成AIガイドラインを作りましょう。ルールが厳しすぎると、ChatGPTの活用が進みにくくなります。安心・安全でChatGPTを利用できる環境を用意し、その環境を利用して推進しましょうというルールにすることで、情報漏洩を防止しながら、ChatGPTの活用を推進することができます。
２．ユーザーニーズ
ユーザーの顕在ニーズと潜在ニーズを調査し、それに合わせてChatGPTを利用したシステムの機能やサービスを改善することです。ユーザーのChatGPTの利用実態やフィードバックを分析することで、ユーザーのニーズと活用可能なデータを把握して行くことが有益なアプローチになります。
以下のコラムも合わせて参照ください
３． 回答内容の正確性
ChatGPTは、ユーザーの入力に基づいて回答を生成しますが、その回答が常に正しいとは限りません。ChatGPTは、事実と異なる情報や、不適切な言葉遣いを含む回答を出力する可能性があります。ChatGPTのハルシネーションとは、現実には存在しないものを、まるで実在するかのように感じる状態のことです。ChatGPTは、正しく答えられない質問に対しても、もっともらしいウソ（＝事実とは異なる内容や、文脈と無関係な内容）の出力を生成することがあります。また、情報入力の曖昧性によって、ミスインフォメーションと呼ばれる誤った情報が回答される可能性もあります。
※このあたりの詳細を知りたいという方は、以下のコラムを参照ください
回答内容の正確性が低いと、ユーザーの満足度や信頼性が低下し、結局は使われないことになります。つまり、ChatGPTを業務やサービスに適用しようとした場合、このようなハルシネーションやミスインフォメーションとはどういうものかを理解し、業務の中で意識し、できるだけ防ぐことが非常に重要です。
ChatGPTのハルシネーションを防ぐ方法は、どのようにすれば良いか？
ChatGPTのハルシネーションを防ぐ方法は、ユーザーの意図や前提をより具体的に伝えた上で、大規模言語モデルであるChatGPTのモデルの中から答えを出力させるのではなく、信頼できる情報源を与え、答えを得るようにすることです。
以下２つのChatGPTの使い方を元に、その方法を説明します。
大規模言語モデルであるChatGPTの中の情報を取り出す質問を行う方法
例えば、ChatGPTに“アメリカの首都は？“と質問すると、” ワシントンD.C.です”と回答してくれます。
この方法は、大規模言語モデルであるGPTの中の情報を取り出しています。ChatGPTを人で例えると、“ChatGPTさん“が知っている内容を聞いていることになります。
このような簡単な問題であれば回答を間違うことはないですが、専門領域に関してChatGPTを使うと、ハルシネーションが起こりやすくなります。
また、ChatGPTは、2021年9月までの公開情報しか知らないため、最近の情報を知ることはできません。このような使い方だと、2021年以前の情報を、あたかも今の情報として返信されてしまうことがあるため、例えば2023年に変更があったような情報は、結果として間違った回答になってしまうこともあります。
また自社の社外秘情報をChatGPTが知っているわけはないので、自社の機密情報を加味したChatGPTの活用もこの方法ではできません。
信頼できる情報源をChatGPTに渡して、ChatGPTの読解/考察力を利用する方法
例えば、皆さんもChatGPTに文書を渡して、“この文書を要約してください“というような使いたかたをされたことはありませんでしょうか？
この方法は、大規模言語モデルであるChatGPTの中の情報を取り出しているわけではなく、大量のテキストデータを読んで、言葉の意味や使い方を学習しているChatGPTの読解/考察力を利用して、要約文章を生成しています。ChatGPTを人で例えると、“ChatGPTさん“に文書を渡して、「この文書を読んで、要約してください」と指示して、要約作業を実施してもらっていることになります。
例えば、以前私が書いた以下のコラムをChatGPTに（Know Narrator Chatを使って）要約させると以下のように出力されます。
本コラムでは、ChatGPTを業務に適用するための方法について述べられています。Phase3のPoCのテーマ選定には、ユーザーログの分析が有効であり、実現容易性に加えてデータの存在が重要な観点とされています。また、Phase2.5では、ユーザーログを統計的に分析し、ユーザーニーズや利用用途を把握することが重要であるとされています。
ChatGPTの業務への使いどころは？
できるだけ正確な回答をChatGPTに出力させて、業務に活用する方法は、“ChatGPTの読解/考察力を使う方法”に他なりません。
例えば、自社の規程条件にあった回答を正確かつダイレクトに得たいユースケースの場合は、以下のようなイメージになります。
ユーザーの「子供が何歳になるまで育児休業とれますか？」という質問に対して、社内の規定文書から、育児休業に該当する部分（複数箇所）を取ってきて、その内容を質問とともにChatGPTに渡して、「子供が1歳に満たない間、育児休業を取得できます。ただし・・・」という形で、知りたい回答をダイレクトに得ています。
ChatGPTの業務活用として、“アメリカの首都は？“というような、一般的な情報検索に使うのはおすすめしません。それは、普通のGoogleやBingの検索エンジンを使った方が良いわけです。
ChatGPTの業務への使いどころは、前提や必要である情報を渡して、欲しい情報を得る、つまりChatGPTの読解/考察力を使うことだと言えます。
勿論、ChatGPTの使い所は様々あります。よくあるのが、新規事業立案とか、様々な壁打ちという部分も有効です。このようなユースケースも、前提となる条件、情報をしっかり渡して、ChatGPTの読解/考察力を使っていることになります。
ChatGPTの読解/考察力をより活用しやすくするためには？
ChatGPTにインプットする情報を、毎回プロンプトの一部として入力するのは、通常業務としては現実的ではありません。その情報量が多い場合は、ChatGPTのモデルの種類によりますが、そもそもChatGPTの最大入力トークンを越えることとなり、インプットすることができません。
そこで出てくるのが、RAG（Retrieval-Augmented Generation）※と呼ばれる、ユーザーのニーズに合わせて、必要な情報を取得してきて、ChatGPTにインプットとして渡して、欲しい情報を得るということを仕組み化することです。
この仕組みを実現した弊社のソリューションが、まさにKnow Narrator Search/ノウナレーターサーチになります。
ChatGPTの業務への使いどころは、ChatGPTの読解/考察力を活用する意識を持って、「文書要約のような、Know Narrator Chatを利用した素のChatGPTの活用と、Know Narrator Searchのように、社内文書だけをターゲットにして情報の正確性を高めたChatGPTの活用、それらを車の両輪のようにして使っていくことだと思います。
※RAG（Retrieval-Augmented Generation）に関して詳細に知りたい方は以下のコラムをぜひ
執筆
AITC センター長
深谷 勇次
