知識グラフとは？ハルシネーション検出と説明可能なAI

東京科学大学工学院教授

市瀬龍太郎（いちせりゅうたろう）氏

PROFILE

東京科学大学工学院教授。1995年東京工業大学工学部情報工学科卒業。2000年同大学院情報理工学研究科計算工学専攻博士課程修了。博士（工学）。国立情報学研究所の助手、助教授、准教授を経て現職。人工知能、特に機械学習、知識発見、知識共有の研究に従事し、知識グラフを活用したハルシネーション検出や説明可能なAIの研究に取り組む。AAAI、人工知能学会、日本認知科学会各会員。電子情報通信学会、情報処理学会各シニア会員。

知識グラフとは、事実や概念の関係をグラフの形で整理したデータモデルです。AIが「何を知っているのか」を明示できるため、生成AIのハルシネーションの検出や、判断の理由を説明できるAIの実現に役立ちます。

生成AIは、大量のデータを分析・要約し新たな気づきをもたらす一方で、誤った情報や存在しない事実をもっともらしく出力するハルシネーションのリスクを抱えています。東京科学大学の市瀬龍太郎教授は、機械学習や知識発見の研究を続ける中で、知識グラフを活用してこの課題に取り組んでいます。

本記事では、市瀬教授へのインタビュー（聞き手：デフィデ株式会社代表山本哲也）をもとに、知識グラフの基本、ハルシネーションを検出する仕組み、説明可能なAIへの応用、そして金融や医療などでの活用可能性を解説します。

この記事でわかること

・知識グラフとは何か、LLMとの違い

・知識グラフで生成AIのハルシネーションを検出する仕組み

・推薦の理由を示せる「説明可能なAI」と知識グラフの関係

・深層学習の弱点を知識グラフで補うアプローチ

・金融・医療など、説明性が求められる分野での活用

知識グラフとは？

知識グラフは、「東京は日本の首都である」のような事実を、「東京」「日本」という要素と、「首都である」という関係の組み合わせとして表します。こうした要素と関係をつないでいくことで、知識全体をネットワークのような形で整理できます。

「知識グラフというのはどういう知識を知っているのかを、しっかりと明示するときに使うことができます。」

――市瀬教授

用語	意味（一文定義）
知識グラフ	事実や概念の関係を、グラフの形で組織化したデータモデル
LLM（大規模言語モデル）	大量のテキストから学習し、自然な文章を生成できるAIモデル
ハルシネーション	生成AIが事実に基づかない回答を、あたかも正しいかのように生成する現象
説明可能なAI（XAI）	AIの判断プロセスを、人間が理解できるようにする技術
アスペクト情報	対象の特徴を表す観点の情報。ホテルであれば「駅からの近さ」など
推論	持っている知識をもとに、新たな結論を導き出すこと

大量に集めた知識だけでは足りない

最近は、LLMで大量のドキュメントを集めて知識にするアプローチが一般的です。しかし市瀬教授は、大量に集めただけの知識では、まだできないことがあると指摘します。知識グラフを上手に組み合わせることで、ハルシネーションの検出など、LLMだけでは難しいことが可能になるのです。

知識グラフで生成AIのハルシネーションを検出する仕組み

企業にとって、生成AIのハルシネーションは看過できない問題です。帝国データバンクの2026年3月の調査では、生成AIを活用するうえでの懸念として「情報の正確性」を挙げた企業が50.4%と最も多くなっています。

調査項目（生成AIに関する企業の動向調査）	結果
生成AIを業務で「活用している」企業	34.5%
懸念・課題：「情報の正確性」	50.4%（最多）

出典：帝国データバンク「生成AIに関する企業の動向調査（2026年3月）」（有効回答1万312社）

「マニュアルに書かれた事実」に基づいて答えられるか

市瀬教授が例に挙げるのが、企業のコールセンターです。コールセンターでは、マニュアルに書かれた事実に基づいて回答しなければなりません。ところが、その事実を文書のまま管理すると、そこで再びハルシネーションが起きてしまいます。

そこで、事実を知識グラフの形で管理します。知識グラフなら、人が持っている知識と同じようなものを容易に管理できます。例えば、国の大統領のように時間とともに変わる知識も、LLMで扱うのは大変ですが、知識グラフなら該当するデータを少し変えるだけで明示的に更新できます。こうした知識と組み合わせることで、生成AIの回答が、知識グラフに書かれていないことを言っていないかを検知する――これが研究の基本的な考え方です。

知識の管理方法	特徴
文書のまま扱う	手軽だが、文書から回答を作る過程で再びハルシネーションが起きうる
知識グラフで管理する	「何を知っているか」を明示でき、時間で変わる知識もデータの一部を変えるだけで更新できる。回答が知識グラフの事実に沿っているかを検知しやすい

研究の成果

聞き手が紹介した市瀬教授らの2024年12月の論文では、ハルシネーションの検出精度が38%改善したと報告されています。この研究では、ハルシネーションを起こしている回答と起こしていない回答に対して、どれだけ正しく検出できるかを検証しています。

さらに2025年7月には、実際のLLMが生成したハルシネーションの事例をデータセットとして構築するフレームワークの論文も発表しました。実際のハルシネーションを見ると、さまざまな知識がなければ検出が難しいものもあったといいます。検出の仕組みは、少しトレーニングをした後に使えるようになります。

社内マニュアルに「基づいて」答えるAIを

問い合わせ対応でAIを使うなら、回答が社内のマニュアルや規程に沿っていることが欠かせません。DEFiDEの「chai+」は、社内の文書やマニュアルを参照して回答するRAG型のAIチャットボットです。根拠となる情報に基づいて回答するため、ハルシネーションのリスクを抑えながら、問い合わせ対応やナレッジ共有に活用できます。

▶ chai+の資料をダウンロードする

深層学習の弱点を知識グラフで補う

相関に基づく手法は、何かに対して別の何かを出してきますが、それらが実際にどういう関係なのかはわかりません。知識グラフは事物の関係性を明示するため、関係をたどってさまざまな推論ができるようになります。

市瀬教授は、こうした関係性を知識グラフとしてまとめ上げ、深層学習でできる部分とできない部分を切り分け、できない部分を知識グラフで補う研究を進めています。例えば、欠けている知識を補完するといったアプローチです。

世界中の知識を機械で使える時代

1980年代には、知識を作るには多大なコストがかかりました。その後、知識工学の研究が進み、知識を表すオープンなデータの集積が大きく進みました。Googleで検索したときに検索結果の横に表示される情報も、公開された情報から作られた知識グラフの情報です。公開される情報自体も、決まったフォーマットで公開されるようになっています。

「その気になれば世界中の知識を、機械処理でさまざまなことに利用できるのが、知識グラフの利点になっています。」

――市瀬教授

金融・医療など、説明性が求められる分野での活用

大学の研究としては汎用的な技術の研究が基本ですが、汎用性だけでは検証しきれないため、分野を絞った研究も行っています。最近では金融分野の研究があり、医療分野も研究キーワードに含まれています。企業との共同研究も複数進めています。

投資のように大きな責任を伴う判断では、「AIが言っているからやりましょう」では意思決定になりません。説明をどう示すかが重要になる場面で、説明性の高い知識グラフは幅広く使える技術になると市瀬教授は考えています。

「やはり、説明可能性とか、非常に信頼性が高いというところが、他の手法との大きな違いになって来ると思います。」

――市瀬教授

研究の原点：人間の知能への興味

市瀬教授がAIに興味を持ったのは、1980年代から1990年代初頭の第2次AIブームの頃でした。人間は、コミュニケーションを取ったり道具を作ったりと、他の動物にはできないことができます。それを実現しているのが知能だと考え、「知能がどういう仕組みになっているのか」に関心を持ったことが出発点です。

本格的に研究を始める頃にはAIは「冬の時代」に入っていましたが、人がどのように学習して知識を身につけていくのかに注目し、研究を続けてきました。人は経験から学びますが、機械は経験を積めないため、データから学習します。データから知識を作る機械学習、知識を発見するデータマイニング、そして得られた知識を使って考える推論を一貫して研究してきました。第2次AIブームの頃は大企業にしか作れなかったエキスパートシステムのようなものも、今では個人がLLMを使って作れるようになり、AIの進化を実感しているといいます。

よくある質問（FAQ）

Q. 知識グラフとは何ですか？

A. 知識グラフとは、事実や概念の関係をグラフの形で組織化したデータモデルです。「何と何がどういう関係にあるか」を明示的に表すため、AIがどのような知識を持っているのかをはっきりさせることができます。Googleで検索したときに検索結果の横に表示される情報も、知識グラフの情報です。

Q. 知識グラフで生成AIのハルシネーションを防げますか？

A. 市瀬教授は、知識グラフを活用することでハルシネーションを検出できると述べています。例えば企業のコールセンターでは、マニュアルに書かれた事実に基づいて回答する必要があります。その事実を知識グラフで管理し、生成AIの回答が知識グラフに書かれていないことを言っていないかを検知するのが、研究の考え方です。