社内AIチャットやRAGを導入すれば、AI活用は進むのか

生成AIを企業で活用しようとすると、必ずと言っていいほど出てくる課題があります。

「AIが、うちの会社のことを知らない」

という問題です。

一般的な生成AIは、社内規程や業務マニュアル、過去の資料、顧客とのやり取りなど、その会社固有の情報を最初から知っているわけではありません。

そこで注目されているのが、社内AIチャットやRAGです。

会社の情報をAIから検索できるようになれば、企業のAI活用は一気に進むのでしょうか。

私たちは、RAGは企業AIにとって非常に重要な仕組みだと考えています。

しかし同時に、

「会社のことを知っているAI」と「会社で働いているAI」は、同じではない。

とも考えています。

RAGとは、会社の情報をAIが参照するための仕組み

RAGは「Retrieval-Augmented Generation（検索拡張生成）」の略です。

簡単に言えば、生成AIが回答するときに、あらかじめ用意された文書やデータを検索し、その内容を参照して回答する仕組みです。

たとえば社員が、

「出張旅費の上限はいくらですか？」

と質問する。

AIが社内規程を検索する。該当する箇所を見つける。その情報をもとに回答する。

こうすることで、一般的な生成AIだけでは答えられない、会社固有の質問にも対応できるようになります。

社内規程。業務マニュアル。商品資料。過去の提案書。FAQ。社内ナレッジ。

こうした情報をAIから利用できるようになることには、大きな価値があります。

だからCODATIでも、AI社員が社内ナレッジを理解するための仕組みとしてRAGなどの技術を活用します。

RAGそのものを否定する理由はありません。

むしろ、企業でAIを働かせるための重要な基盤の一つです。

しかし「データを入れれば使える」とは限らない

RAGを導入すると、

「社内資料をAIに読み込ませれば、会社のことは何でも答えられるようになる」

と思ってしまうことがあります。

実際には、もう少し複雑です。

Gartnerは2025年、AIに適したデータ、いわゆる「AI-ready data」が不足していることがAIプロジェクトの大きなリスクになっていると指摘しました。

その予測では、AI-ready dataに支えられていないAIプロジェクトの60％が、2026年までに放棄されるとしています。

また、同社の調査では、63％の組織が「AIに適したデータ管理の実践を持っていない、あるいは持っているか分からない」と回答しています。

重要なのは、

AIの性能だけでは、企業AIは成立しない

ということです。

AIが参照する情報そのものが整理されていなければ、AIも正しい仕事をすることができません。

RAGの問題は、AIより「会社の文書」にあることも多い

日本企業の実例でも、興味深い結果があります。

キヤノンITソリューションズは、社内で構築したRAGシステムについて、利用者から低い評価を受けた回答の原因を分析しています。

その結果、低評価となった原因のうち、

46％が「文書の不備・不足」

でした。

検索精度の低さが42％。

生成AIそのものの精度に起因するものは12％でした。

つまり、回答がうまくいかなかったとき、

「AIの性能が悪い」

とは限らないのです。

必要な資料が存在しない。資料の内容が古い。同じことについて複数の文書で違う説明をしている。人間にとっては分かる資料でも、前提条件が省略されている。必要な情報が複数のファイルに分散している。

こうした会社側の情報の状態が、そのままAIの回答品質に影響します。

これはRAGだけの問題ではありません。

AIが会社を理解するためには、会社自身が持っている情報をどう整えるかが重要になる。

ということです。

それでも、RAGが完璧ならAI活用は進むのか

では、社内資料をきれいに整理し、検索精度も高く、非常に優秀なRAGを構築できたとします。

社員が質問すれば、会社の情報を踏まえて正確に答えてくれる。

これは、とても便利です。

しかし、ここでも一つ考えたいことがあります。

基本的な流れは、

人が質問する
→ AIが情報を探す
→ AIが回答する

です。

つまり、

誰かが聞かなければ、何も始まりません。

たとえば、

ある店舗の売上が急に落ちている。毎週同じ問い合わせが増えている。契約書の更新期限が近づいている。社内に内容の矛盾した資料が存在している。毎月、人が複数システムから同じ数字を集めている。

こうしたことが会社の中で起きていても、

誰かがそのことに気づき、AIに質問し、調べてもらわなければ、AIは何もしません。

会社のことを知っていることと、会社の中で仕事をしていることは、やはり違います。

「答えるAI」から「役割を持つAI」へ

では、AI側に役割があったらどうでしょうか。

「毎朝、全店舗の売上を確認する」
という役割を持ったAI。

「社内ナレッジの更新や矛盾を確認する」
という役割を持ったAI。

「問い合わせ内容を確認し、増えている質問を報告する」
という役割を持ったAI。

「契約やタスクの期限を確認する」
という役割を持ったAI。

人から質問されるのを待つのではなく、

自分が担当する仕事に必要な情報を確認する。変化を見つける。必要であれば人に知らせる。

そして、人から相談されたときには会社の情報を踏まえて答える。

私たちは、こうしたAIを「AI社員」と呼んでいます。

RAGとAI社員は、競合するものではない

ここは、とても重要です。

RAGとAI社員は、
「どちらが優れているか」
を比較するものではありません。

RAGは、AIが会社の情報を理解するための仕組みです。

AI社員は、その理解した情報を使って何の仕事を担当するのかという考え方です。

たとえば人間の社員でも、
会社のマニュアルを読めることと、
自分の担当業務を持って働くことは、
同じではありません。

マニュアルを知っている。過去の資料を探せる。会社のルールを理解している。

それらは仕事をするために必要です。

しかし、それだけで仕事をしていることにはなりません。

AIも同じです。

RAGは「会社を知る」ための仕組み。
AI社員は「会社で働く」ための役割。

CODATIでは、この二つを分けて考えています。

企業AIに必要なのは「何を知っているか」だけではない

生成AIの企業活用は、
「AIの性能を上げる」
ことだけで進むものではありません。

会社の情報を整える。AIがその情報を参照できるようにする。

そして、

そのAIに何を担当させるのかを決める。

この三つがつながって、初めてAIは会社の中で仕事を始めます。

社内AIチャットやRAGは、そのための重要な一歩です。

しかし、そこで終わる必要はありません。

「質問すれば答えてくれるAI」から、

「役割を持って会社で働くAI」へ。

私たちがCODATIで目指しているのは、その先です。

AIを使う会社から、AI社員と働く会社へ。

企画・監修：株式会社TOKIWAGI

← CODATIについて