AIの「知ったかぶり」を、どう止める？ 社内AIが根づかない理由を、HOUSEIの小泉遥斗さんに聞く

AIに社内の資料を読ませて質問したのに、資料に書いてあるはずの答えが返ってこない。私もClaudeやCodexを使い始めたころ、Excelに書いた内容がなかなか返ってこなくて、ずいぶん苦労しました。

逆のことも起きます。資料に書いていないことまで、AIがそれらしく答えてしまう。いわば、AIの「知ったかぶり」です。

それでも、生成AIを仕事で使う会社は一気に増えました。総務省の2026年版の情報通信白書によると、何らかの業務で生成AIを使っている日本の企業は86.4%。業務別に見ると、社内ヘルプデスク（社員からの質問に答える窓口）で使う会社も約5割にのぼります。答えを間違えると困る場所にこそ、AIが入り始めているんですよね。

使っている会社は9割近いのに、会社として活用の方針を決めているのは7割弱。使うことと、会社として使いこなすことのあいだには、まだ差がありそうです。

AIの知ったかぶりを、どう止めるのか。会社に入れたAIを、どうすれば根づかせられるのか。この二つの問いに、毎日向き合っている人がいます。新聞社や出版社のシステムを長く作ってきた、HOUSEI株式会社の小泉遥斗さんです。

小泉さんがプロダクトマネージャーを務めるのは、会社の資料をもとに質問に答える生成AIチャットボット「imprai ezKotae（インプライ イージーコタエ）」です。会社がPDFやWordの資料を登録すると、Webサイトに来た人や社員の質問に、どの資料に基づくかを示しながら答えます。取引先のサイトで製品の型番や仕様を調べるとき、横から答えてくれるチャット欄を思い浮かべると近いと思います。

そして今回、小泉さんに、AIを会社の窓口に立たせる現場の話を、直接伺えることになりました！

先に答えを言ってしまうと、知ったかぶりを止め、AIを会社に根づかせる鍵は、意外なほど地道なところにありました。

• AIには、資料からだけ答えさせ、採点は別の係に
  答えを作るAIと、その答えを点検するAIを分けます。同じAIに自分の答えを採点させると、間違いを見逃すからです。
• 答えられなかった質問が、会社の資料の穴を教えてくれる
  そもそも資料がない、整理されていない。AIが答えられなかった質問を拾うと、会社に足りない情報が見えてきます。
• 道具を渡すだけでは、AIは根づかない
  会社ごと、人ごとに使い方が違うからです。HOUSEIは、顧客の現場に入るエンジニア「FDE」の組織を作りました。

WHO IS

小泉 遥斗

HOUSEI株式会社プロダクトマネージャー

「答えられなかった質問を見られること。そこを一番大事にしています」── 小泉 遥斗（本記事の取材より）

1. キャリアの始まり新卒で、HOUSEIに営業として入社入社してから生成AIを学び、営業をしながら開発まわりも見るようになる
2. 入社後生成AIのプロダクトを担当社内の生成AIまわりの担当として、いくつかのプロダクトに携わる
3. NOWimprai ezKotae プロダクトマネージャー生成AIチャットボットの企画と改善を率いる。営業として、お客さんとも直接話す

よろしくお願いします。HOUSEIには、新卒で、営業として入りました。いまも営業はやっているんですが、あわせて開発まわりも全体的に見ています。

社内では生成AIまわりを担当していて、これまでも生成AI関連のプロダクトをいくつか受け持ってきました。最近は、ezKotaeというチャットボットのプロダクトマネージャー（製品の企画から改良までをまとめる役）をしています。

きっかけは本当に、この会社に入ってから、どんどん学んでいったことです。生成AIって、進化がすごく早いですよね。その流れに乗って仕事をしていくのが、自分でも楽しかった。それで、いまの環境にずっと関わらせてもらっています。

お客さんや、現場の担当者の方とお話しする機会は多いんですが、生成AIはもうかなり使われています。お会いする会社でも、GeminiやCopilotを契約して、どんどん使い始めている。

ただ、担当者の方が個人で使っている段階の会社も多いんです。全社で導入して、効率化を図るところまでは、なかなか進んでいない印象を持っています。

回答の質を良くする流れは、大きく三つあります。

一つ目は、取り込んだ資料です。会社がPDFやWordで登録した資料に基づいて、回答を作ります。

二つ目は、会話のログ（記録）です。何を聞かれて、何と答えたのか。どの資料を根拠にして答えたのかまで残るので、おかしな答えがあっても、どこでずれたのかを後から確かめられます。

三つ目に、答えられなかった質問を見ることができる。ここを一番大事にしています。答えられなかった質問について、資料が足りなかったのか、それとも回答の方針が間違っていたのか。そこまで評価して、提案してくれます。そこから改善していくループが、機能として入っています。

学習というよりは、ナレッジ（AIが答えの根拠にする知識のまとまり）をどんどん改善して、答えを埋めていくイメージです。

大きく二つあります。一つは、回答を作るモデルと、評価するモデルを別にしていることです。同じモデルで評価すると、回答を作ったときと同じ癖で判定するので、間違った回答を正しいと判定しかねない。だから、モデルを変えています。

もう一つは、回答と、その根拠になった資料に、どれくらい関連があるのか。これをユーザーさんにも数字で見えるようにしています。どこがだめだったのかが、ロジックとして分かりやすくなっています。

生成AIの進化の速さは、大きいと思っています。いまはここまでしかできない機能でも、数か月後にはできたりするんです。だからezKotaeでは、使うモデルを選べるようにして、常に最新のモデルを選べるようにしています。

メインは、BtoB（会社向け）のメーカーさんが多いですね。

製品について問い合わせが来るのは、サイトの問い合わせフォームだけではなく、メールや電話からもあります。そこから担当の方が営業に回して、営業から技術に回って、ようやくお客さんに答えが返る。すごく時間がかかっていて、そのあいだに他社さんに流れてしまうという課題を持っている会社が、非常に多いんです。

BtoB向けの製品は、型番があって、細かい条件もあります。でも、その答えは仕様書にもう書いてある。資料からだけ答えるので、すごく相性がいいと思っています。

すぐ答えられる質問は、AIのチャットボットが答える。営業担当が詳しく説明すべきところは、人が説明する。そういう棲み分けで、人が本来力を注ぐべき仕事に集中できるようにしています。

多いですね。問い合わせは減らしたいけれど、そもそも資料がない、というお客さんです。AI自体は、いま本当に高性能で、質は高い。でも資料がないと、答えを出しにくいんです。

そこで私たちは、商談の前に、その会社のホームページの情報を全部ナレッジに落とし込んで、チャットボットを仮のデモとして作ってお見せしています。きちんとした資料がなくても、まずはウェブページにある情報で試してみましょう、と。そうすると、答えられなかったところも見えてくるので、そこを順番に足していきます。

資料はあっても、整理されていないことも多いです。結局、毎日の問い合わせの処理に手が取られてしまって、なかなかそこまで手をつけられていなかったのかな、と僕は思っています。

これまでは、メールで来た問い合わせに、メールで打ち返していた。そこをAIが一次受けして、簡単な質問には答える。もっと複雑なクレームのような対応に、人が力を注ぐ。そういう使い分けをされています。

それから、ホームページの重要性に気づくお客さんも多くいます。サイトの中身をもっと充実させて、サイトに来た人が本当に求めているのは何か、売上につながるのはどんな情報か。それを考え直すきっかけになった会社もいらっしゃいます。

問い合わせの仕事って、意外とこんなにあるのかと思いました。そこを改善できる、という手応えはあります。

逆に難しいのは、管理画面です。チャットボットの管理画面を、いかに簡単にできるか。もちろん回答の精度を上げることは大事なんですが、そのために管理者の仕事を増やしてしまったら、逆効果になってしまう。簡単にメンテナンスできる仕組みがどれだけ必要か、お客さんと話していて感じています。

どういう手順でメンテナンスすればいいのか分かりにくい、という声はいただきます。メンテナンスに使える時間は1日にだいたい何分くらいだから、その時間に収まるか。精度とのバランスを取りながら、ちゃんとメンテナンスできるか。そこは、やっぱりお声をいただいています。

もう、毎日のように手を入れています。

新聞社さんだと、記者の方がまだAIを使わずに書きたいというところもあったりします。

ただ、業種でこう、というのはそこまで感じていなくて、本当に会社によってばらばらです。会社ごとはもちろん、現場の社員の方と経営層とでは、見ている景色も違います。個人ごとにも違う、という感じを受けています。

この1〜2年は、生成AIのプロダクトを作って、お客さんに提供していく流れが中心でした。

でも、ツールを提供させていただくなかで、ただ渡しただけだと、本当に生成AIが定着しているのか、どれだけ効率化のインパクトがあったのかが見えにくい。現場が使ってくれない、という企業さんも多いんです。そこは私たちとして取り組むべき課題だと思っていて、ちょうど先月、FDEの組織を新しく作りました。

現場の課題のヒアリングから、実装まで。一気通貫でご支援することを、いま中心に進めています。これまで設計から開発まで手がけてきたので、そこを一気通貫でできることを、ビジョンとして掲げています。

AIを導入したいけれど、どう導入して、どう使っていけばいいのか分からない。結局、経営にどれくらいのインパクトがあったのかが分かりにくい。そういうお客さんが多いと思います。

社内にDX推進室があっても、数字が見えにくくて、推進しにくい。そこに一緒に入って、伴走しながら進めていくやり方になると思います。

社内でも、いろいろ人材の育成はしています。それに加えて、FDEで大事なのは、私たちにしかない技術で、どうお客さんを支援できるかだと思っています。生成AIの製品は、いまは誰でも作りやすくなっていますから。

これまで長年、お客さんの業務を見てきた知識を生かしながら、AIを作る。記者の方の情報収集や、取材先の候補選び、取材先で何を聞けばいいかを生成AIが手伝う「ezNewsDesk」も、新聞社向けにシステムを提供してきた私たちだからこそ出せたプロダクトだと思っています。長年見てきた知見だからこそ生かせるご支援が、私たちの強みだと思います。

FDEも、いまの流れとして、やっていきたいと思っています。ただ、プロダクトというか、ものを作っているのもすごく面白いんです。なので正直、全部やりたいというのはあります。プロダクトも、FDEも、やってみたいです。

HOUSEIは、「AX（AIによる変革）を実現するITパートナー」を掲げています。これまでは「DXを実現するITパートナー」で、SIer（システムの開発を請け負う会社）として、お客さんをご支援してきました。

これからは、長く支えてきた新聞業界をはじめとして、役に立つ道具を届けていく。そしてFDEの活動を通して、お客さんの課題から入って、実装まで一気通貫でやっていく。それがビジョンです。

これまでは、サイトの中に置くチャットボットの話でした。これからは、一般のユーザーさんが使うChatGPTやGeminiでその会社のことを質問したときに、回答を良くしてくれる仕組みを準備しています。

会社のことを聞く場所は、サイトの中のチャットボットだけではありません。ChatGPTやGeminiで聞かれることも多いので、そこでの回答の精度を高くする仕組みを、ezKotaeで作ることを計画しています。

AIの間違いを減らすと聞くと、もっと賢いモデルに替える話を思い浮かべます。小泉さんたちが積み上げていたのは、別の方向の工夫でした。答えは資料からだけ作る。答えを作るAIとは別のAIに点検させる。根拠の資料との関連度を数字で見せる。直し方の案は、人が適用を決めて履歴を残す。

どれも派手な仕組みではありません。でも、AIに窓口を任せる会社が知りたいのは、「AIは賢いか」より、「間違えたとき、どこでずれたのかを追えるか」のはずです。エンジニアなら、コードを書いた本人とは別の人がレビューする仕組みを思い浮かべると分かりやすいと思います。あとから説明できることが、AIに窓口を任せられるかどうかの分かれ目になります。

AIが答えられなかった質問を並べると、それはそのまま「お客さんが知りたいのに、会社がまだ書いていないこと」の一覧になります。ホームページだけでデモを作り、答えられなかったところから資料を足していく。小泉さんたちのやり方は、この一覧を作るところから始まっています。

チャットボットを入れたメーカーが、ホームページの中身を見直し始めたという話は、ここにつながります。検索にAIを使う人が半数を超えたいま、答えられなかった質問の記録は、問い合わせを減らすためのものから、会社がAIにどう語られるかを左右するものへと、意味が広がっていくはずです。

FDEと聞くと、OpenAIやAnthropicのような最先端の会社の話に聞こえます。けれど小泉さんが話していたのは、メンテナンスの手順が分かりにくい、1日何分で収まるか、という、ずっと地に足のついた悩みでした。現場が続けられる手間に収める。そこまで考えて初めて、AIは「入れた」から「根づいた」に変わるのだと思います。

もう一つ心に残ったのは、小泉さん自身の道のりです。新卒の営業として入社し、お客さんの声を聞きながら、いまは生成AIのプロダクトを率いている。顧客の言葉と開発の両方が分かることは、そのままFDEに求められる力でもあります。

生成AIを業務で使う日本企業は86.4%まで来ました。次に問われるのは、使い続けられるかどうかです。問い合わせを抱える会社の人なら、まず届いた質問を「資料で答えられるもの」と「人でないと答えられないもの」に分けてみること。エンジニアなら、作る仕組みと同じくらい、点検する仕組みを設計すること。学生なら、営業から入ってAIの製品を動かす道もあること。HOUSEIがFDEの組織を作ったのも、この「使い続ける」ところを担うためです。