生成AIコストの増大時代に求められる、利用モデル制御と利用状況の可視化
fukayayuji
目次
はじめに
生成AIの企業活用はどんどん進んでいます。以前は「社員が安全に生成AIを使える環境を用意すること」自体が重要なテーマでした。しかし現在は、生成AIを全社的に展開する企業が増えたことで、次の課題が明確になってきています。
それは、生成AIをどのように使わせるか、どのモデルをどの業務で使うか、そして利用状況とコストをどう把握するかという課題です。
生成AIは、使えば使うほど価値を生み出す可能性があります。一方で、使えば使うほど利用コストも増えます。特に高性能な生成AIモデルは、複雑な推論、長文処理、コード生成、マルチモーダル処理などで大きな力を発揮しますが、すべての業務に常に最上位モデルを使うことが、最適解とは限りません。
企業のAI利用量が急増し、AI関連予算を短期間で使い切ってしまった事例も報じられています。たとえばUber社は、AIコーディングツールの利用拡大により、年間のAI予算を短期間で使い切ったことや、その後、従業員ごとの利用上限を設けたことが報じられています。
Uber's COO says it's getting harder to justify the company's AI spend: 'That link is not there yet' | Fortune
The rideshare giant's COO says “it’s very hard to draw a line” between rising AI costs and useful features for customers.
生成AI活用は「利用拡大」から「最適利用」へ
生成AI導入の初期段階では、まず使ってみることが重要でした。
社員が生成AIに触れ、業務での使いどころを見つけ、プロンプトの工夫を学び、活用事例を増やす。この段階では、利用を促進すること自体に大きな意味があります。
しかし、全社展開が進むと状況は変わります。
利用者が増える。
利用回数が増える。
入力する文書量が増える。
高性能モデルを使う場面が増える。
AIエージェントやRAGの利用が広がる。
その結果、生成AIの利用コストは無視できない規模になっていきます。
ここで問題になるのは、単純に「AIコストが高い」ということではありません。問題は、どの業務で、どのモデルを、どれだけ使い、その利用がどのような成果につながっているのかが分からないことです。
コストが増えているのに、どこで利用されているかがすぐにわからない。
利用量は多いが、業務成果との関係が見えない。
高性能モデルが、本当に必要な業務に使われているのか分からない。
軽量モデルで十分な業務にも、最上位モデルを使っている。
部門ごとに使い方がバラバラで、良い活用事例が横展開されない。
このような状態では、生成AI活用は一時的には広がっても、継続的な業務変革にはつながりません。
これからの企業に必要なのは、生成AIをただ使わせることではなく、業務に応じて最適に使い分けることです。
「何でも最上位モデルに投げる」時代ではなくなった
生成AIモデルは、日々進化しています。高性能モデルは、複雑な分析、高度な推論、長文の読解、コード生成、画像や図表を含むマルチモーダル処理などにおいて、大きな価値を発揮します。
一方で、すべての業務が常に最上位モデルを必要とするわけではありません。
たとえば、簡単な文章の言い換え、短い要約、定型メールの作成、分類、翻訳、FAQの一次回答、単純な情報抽出などは、より安価な軽量モデルでも十分な場合があります。むしろ、このような定型的・反復的な業務にまで常に最上位モデルを使い続けると、利用量の増加に伴ってコストが急速に膨らんでしまいます。
また、社内データとの連携が必要な業務では、単に高性能なモデルを選ぶだけでは不十分です。どのデータを参照させるのか、どの業務で利用するのか、どの範囲まで回答に利用するのかを、組織として管理する必要があります。
つまり、今後の企業AI活用では、以下のような使い分けが重要になります。
高性能モデルは、複雑な推論、高度な分析、長文処理、マルチモーダル処理など、精度や思考力が求められる業務に使う。
軽量モデルは、定型業務、大量処理、簡易な要約、分類、文案作成など、コスト効率が重視される業務に使う。
RAGを活用した構成は、社内規程、業務マニュアル、提案書、設計書、FAQなど、企業固有のナレッジを参照する業務に使う。
専用環境や管理された実行環境は、安定運用や組織的な管理が求められる業務で検討する。
重要なのは、ユーザーに「好きなAIを自由に選んでください」と丸投げすることではありません。業務や部門毎に求められる精度、許容されるコストに応じて、組織として適切なAI利用方針を設計することです。
生成AI活用が全社に広がるほど、「どの業務に、どのモデルを、どのコストで使うのか」という判断が重要になります。何でも最上位モデルに投げるのではなく、用途に応じて最適なモデルや構成を選び、必要に応じて利用可能なモデルを組織単位・ユーザー単位で制御する。これが、生成AIコストの増大時代における企業の基本的な考え方になると考えています。
生成AI活用に必要なのは「自由に使える環境」と「組織的な制御」の両立
生成AIの社内展開では、利用を厳しく制限しすぎると、現場の活用が広がりません。一方で、完全に自由にしてしまうと、コスト、セキュリティ、品質、ガバナンスの問題が発生します。
特に全社利用が進むと、次のような課題が顕在化します。
どの部門が、どの用途で、どのモデルを使っているのか分からない。
高性能モデルが、本当に必要な業務に使われているのか分からない。
利用量は増えているが、どこで使われているか説明できない。
現場ごとにバラバラのAIツールが使われ、管理できない。
プロンプトやナレッジの良い使い方が、個人の中に閉じてしまう。
このような状態を避けるためには、AI利用を禁止するのではなく、安心して使える環境を用意しながら、利用状況を把握し、業務ごとに最適なモデル利用へ誘導できる仕組みが必要です。
この観点で重要になるのが、Know Narratorのような、ユーザーや組織単位で生成AIの利用モデルを制御し、利用状況を把握できる「組織のAI基盤」です。
Know Narratorのような「組織のAI基盤」が重要になる理由
電通総研の生成AI活用プラットフォームであるKnow Narratorは、企業が生成AIを安全に活用するための「組織のAI基盤」として提供しているソリューションです。Know Narratorは、組織に散在する知を高精度なAIで結集・活用し、全社レベルのDXを推進する生成AIプラットフォームです。ChatGPT、Gemini、Claudeなど複数のLLMを統合し、入力データがAIの学習に利用されないセキュアな環境で、全社員が安全に利用できる対話型AIを提供します。
https://aitc.dentsusoken.com/products/knownarrator/
Know Narratorは単に「生成AIチャットを使えるようにする仕組み」ではありません。
企業の生成AI活用では、次の3つを一体で考える必要があります。
1つ目は、社員が安全に生成AIを利用できること。
2つ目は、社内ナレッジを生成AIと接続し、実業務で使える回答を得られること。
3つ目は、利用履歴を分析し、コスト・品質・活用状況を継続的に改善できること。
Know Narratorは、この3つを、Know Narrator Chat with Vision、Know Narrator Search、Know Narrator Insightという形で支援します。
Know Narrator Chat with Vision：安全に生成AIを使うための入口
Know Narrator Chat with Visionは、生成AIを組織で活用するために必要な機能を標準装備した対話型AIチャットソリューションです。セキュリティや権限管理といった、企業利用に必要な機能を備え、最新の生成AIモデルを業務に導入できる環境を提供します。
https://aitc.dentsusoken.com/products/knownarratorchat/
企業で生成AIを使う際には、社内情報を入力しても安全か、誰が使えるのか、どのようなログが残るのか、権限管理ができるのかといった点が重要になります。
Know Narrator Chat with Visionでは、Microsoft Entra IDによるユーザー認証・グループ管理、利用ログによる利用履歴管理、プロンプトテンプレート、画像・ファイルアップロード、画像生成、コード実行など、企業で生成AIを使うために必要な機能が用意されています。
これは、生成AI活用の第一歩です。
ただし、これからの企業活用では、チャットを安全に使えるだけでは不十分です。
Know Narrator Search：社内ナレッジを生成AIにつなげる
生成AIは、一般的な知識に基づく回答は得意です。しかし、企業固有のルール、部門固有の業務知識、顧客ごとの対応履歴、社内文書に記載された最新情報までは、通常の生成AIだけでは正しく扱えません。
そこで重要になるのが、Know Narrator Searchです。
https://aitc.dentsusoken.com/products/knownarratorsearch/
Know Narrator Searchは、業務に関係する社内データを生成AIと連携させ、活用業務を広げるための業務RAGソリューションです。図表に強い独自のRAGにより、業務に関連するさまざまな情報を生成AIに参照させ、最適化された回答を生成できます。
企業の業務文書には、単純なテキストだけでなく、図表、グラフ、写真、業務フロー、帳票、提案書、設計書などが含まれます。Know Narrator Searchは、参照文書内の画像データを直接生成AIに入力するマルチモーダルRAGに対応しており、グラフや写真といった画像データを参照して回答を生成できます。
また、企業で社内文書を生成AIに参照させる場合、すべてのユーザーがすべての文書を見られる状態にしてよいわけではありません。Know Narrator Searchでは、ユーザーグループやMicrosoftアカウントに紐づく所属情報から、参照文書の参照権限を細かく設定できます。
これは、生成AI時代の情報管理において非常に重要です。
生成AIが社内ナレッジにアクセスできるようになるほど、従来以上に「誰が、どの情報を、どの範囲で参照できるのか」を管理する必要があります。AIの回答品質を高めるためには情報連携が必要ですが、情報連携を広げるほどアクセス制御も重要になります。
さらに、Know Narrator Searchでは、回答結果がどのドキュメントに基づいた回答なのか、参照箇所を確認できます。マルチモーダルRAGでは、グラフや図の場合に画像単位での参照も可能です。
これは、生成AIの回答を業務で利用する上で大切なポイントです。生成AIの回答をそのまま信じるのではなく、根拠となる文書や箇所を確認できることが、企業利用における信頼性を高めます。
Know Narrator Insight：利用状況を分析し、活用を改善する
生成AI活用を成功させるには、利用状況の可視化が欠かせません。
Know Narrator Insightは、生成AIシステムの利用履歴を生成AIが分析し、導入効果を創出するための改善策を導く生成AI利用分析ソリューションです。自社の生成AI活用状況を、業務、ユースケース、利用頻度、回答精度の観点で分析し、生成AI導入の課題を明らかにして、活用拡大を支援します。
https://aitc.dentsusoken.com/products/knownarratorinsight/
利用履歴を分析することで、単に「どれだけ使われているか」を見るだけではなく、次のような改善につなげることができます。
どの部門で活用が進んでいるのか。
どの業務で効果が出ているのか。
どのプロンプトが高品質な回答につながっているのか。
どの利用が高コストになっているのか。
どの業務では軽量モデルでも十分なのか。
どこに教育やテンプレート整備が必要なのか。
どの社内文書やナレッジがよく参照されているのか。
どの領域で追加のナレッジ整備が必要なのか。
Know Narrator Insightでは、チャット履歴をもとにしたユーザーごとの利用状況の可視化から、コストレポートの作成まで可能です。また、生成AIによる回答品質評価により、品質が高く効果的に生成AIを活用している対話から、社内の優れた使い方を見いだすこともできます。
これは、生成AI活用を「使わせる」段階から、「活用状況を把握し、改善する」段階へ進めるために非常に重要です。
モデル制御と利用分析は、コスト削減だけの話ではない
ここで強調したいのは、利用モデル制御や利用状況の可視化は、単なるコスト削減策ではないということです。
もちろん、生成AIコストの最適化は重要です。
しかし、それだけではありません。
どの業務に高性能モデルを使うべきか。
どの業務は軽量モデルで十分か。
どの業務にはRAGが必要か。
どの業務では社内ナレッジの整備が不足しているか。
どの部門では教育やテンプレート整備が必要か。
どの活用事例を全社展開すべきか。
このような判断を行うためには、利用状況のデータが必要です。
つまり、生成AIの利用ログは、単なる監査ログではありません。
組織の業務課題、現場の困りごと、AI活用の成功パターン、改善すべき業務プロセスを把握するための重要なデータです。
生成AIの利用状況を分析することで、企業は「AIがどれだけ使われているか」だけでなく、「AIがどこで価値を生んでいるか」「どこで無駄が発生しているか」「どこに次の投資をすべきか」を判断できるようになります。
これからの生成AI基盤に求められること
今後、企業の生成AI活用では、単一のAIモデルを全社員に提供するだけでは不十分になります。
高性能モデル、軽量モデル、マルチモーダルAI、AIエージェントなど、選択肢はますます増えていきます。その中で重要になるのは、個々のユーザーが自由に選ぶことではなく、組織として最適なAI利用を設計し、実行し、継続的に改善できることです。
そのためには、次のような機能が必要になります。
利用者や組織単位で、利用可能なモデルを制御できること。
業務やユースケースごとに、適切なモデルを選択できること。
社内ナレッジを安全に生成AIへ接続できること。
参照権限をユーザーや組織単位で管理できること。
利用ログを蓄積し、部門別・用途別に分析できること。
コストと効果を可視化できること。
高品質なプロンプトや活用事例を組織内で共有できること。
セキュリティと利便性を両立できること。
Know Narratorでは、業務内容やコスト要件に応じて複数のLLMの中から最適なモデルを選択できるよう機能強化も進められています。AIモデルが多様化する中で、それぞれのモデルの得意分野やコスト特性を踏まえ、業務ごとに最適なモデルを選定することは、今後ますます重要になります。
この意味で、Know Narratorの価値は、複数の生成AIモデルを使えることだけではありません。
対話型AIとしてのKnow Narrator Chat。
社内ナレッジを活用するKnow Narrator Search。
利用状況を分析するKnow Narrator Insight。
AIエージェントアプリケーションを活用するKnow Narrator AgentSoucing。
これらを組み合わせることで、企業の生成AI活用を、安全に使う、業務知識につなげる、利用状況を把握して改善するという一連のサイクルとして運用できることに価値があります。
おわりに
生成AIは、もはや一部の先進企業だけが試す技術ではありません。多くの企業にとって、日常業務に組み込まれる実用技術になりつつあります。
しかし、利用が広がれば広がるほど、コスト、セキュリティ、品質、ガバナンスの問題は大きくなります。
これからの企業に求められるのは、AIを使わせるかどうかではありません。
AIをどのように使い分け、どのように管理し、どのように成果につなげるかです。
何でも最上位モデルに投げるのではなく、業務に応じて最適なAIを選ぶ。
使ったら終わりではなく、利用状況を分析して改善する。
個人の工夫に任せるのではなく、組織としてAI活用を進化させる。
社内ナレッジをAIにつなげる一方で、権限管理とセキュリティを徹底する。
利用量ではなく、業務成果とコストのバランスでAI活用を評価する。
生成AI活用の次のステージでは、Know Narratorのような、ユーザーや組織単位で生成AIの利用モデルを制御し、利用状況を把握できるソリューションが、組織のAI活用を支える重要な基盤になると考えています。
筆者
AITC センター長
深谷 勇次
