―市瀬先生が、現在取り組まれている研究内容と、その研究に込められた想いを簡単にご紹介ください。 

私自身、今、AIの研究を手掛けています。AIの研究自体は、かなり昔から行っていまして、実はいわゆる第2次AIブームの頃（1980年代から1990年代初頭）に「AIって面白いな」と思って、この世界に入って来たという経緯があります。その頃のAIは、今から考えてみるとかなりプリミティブ（素朴）なものでした。それでも、「なぜAIの魅力に惹かれたのか」と言うと、そもそも人間の知能に興味があったからです。 

人間は、動物と違って色々なことをこなせます。例えば、人と人とでコミュニケーションを図ったり、道具を作ったりなど、他の動物にはできないようなことができます。それを実現しているコアな部分が、やはり知能だろうと考えたのです。そういう人間に対して、「知能がどういう仕組みになっているのか」「なぜ人間はこんなことができるのか」みたいなことに興味があったというのが、人工知能に関わって来た基になっています。 

そのような経緯がありますので、第2次AIブームの頃から、人工知能に興味を持っておりました。ただ、ご存知の通り、その後、私が本格的に研究を始める頃には、人工知能は冬の時代に突入していました。その当時考えていたのは、人工知能のための、人間の知能の仕組みです。人間を考えると子供の頃から色々なことを学習して、色々な知識を身に付け、色々なことができていくようになります。どうやって学習をして知識を身につけていくのか、その辺りがやはり人工知能として重要になるのではと思っていました。なので、そこを中心に研究してきたわけです。

知識を学習するときには、人間だと経験から学習をしていきますが、機械は経験を積むことができません。なので、データから学習することになります。データを使って知識を作り出していくための機械学習とか、知識を発見していくためのデータマイニングとか、そして発見されたり作られたりした知識をどうやってものを考えるのに利用するのか、そのための推論とかを含めて考察してきました。最近だと、そういう人間のような知能というと汎用人工知能（人間と同じような知能を持ったAI）という話も出てきますけれども、そういったものも含めて研究に関わってきました。 

―第2次AIブームというと、エキスパートシステム（専門家のように問題解決・判断ができるコンピューターシステム。AIの一種）が話題になりました。 

そうですね。割と成功したものとしては、エキスパートシステムがありました。私がAIに興味を持ったのは、第2次AIブームのピークでした。その頃、「人工知能という面白い世界があるなあ」と思って、人工知能の世界に入って来たら、あっという間に冬になっていました。 

第2次AIブームの頃は、大企業しか作れなかったエキスパートシステムみたいなものも、今になるとそれこそ、そこら辺りの個人が少しLLM（大規模言語モデル:自然言語処理に特化したAIモデル）をいじって作るみたいなことができるようになっています。随分、AIも進化したなと思いますね。 

―本当に、機械学習（大量のデータから規則やパターンを自動的に学習する技術）から深層学習（複雑なパターンを自動で学習するための技術）になった段階から一気にです。それこそ、今の生成AIの基になって来たかもしれません。背景としては、半導体がすごく安くなり使えるようになったというのが大きいと思います。市瀬先生の研究について、もう少しお聞きします。市瀬先生にとっては、知識グラフ（事実や概念の関係をグラフの形で組織化したデータモデル）が研究テーマの大きなベースになっているのでしょうか。 

そうですね。やはり、先ほども少しお話をしましたけれど、知識をどうやって機械が扱うのかは非常に重要です。例えば、最近ですとLLMで色々なドキュメントを集めて来て知識にするというアプローチが取られています。実際には、そういう形で大量に集めただけの知識だと、まだまだできないことがあります。しかし、知識グラフを上手く活用することによってできるようになります。例えば、ハルシネーション（事実に基づかない回答を生成する生成AIの現象）をディテクション（発見、検出）したりできます。 

知識グラフというのはどういう知識を知っているのかを、しっかりと明示するときに使うことができます。そうすると、推論するときに、ハルシネーションを起こさなかったりするので、いわゆる説明可能なAI（XAI＝Explainable AI。AIの判断プロセスを人間が理解できるようにする技術）という文脈で使われたりとかもしており、そういうところで知識グラフの研究を行っています。 

―市瀬先生のレポートや論文を読んでいて「面白いな」と思ったのは、説明的AIのところです。これは、ゼミ生と一緒に研究をされているのですか。 

そうですね。うちの研究室の学生と一緒に研究をしています。 

―市瀬先生が執筆された論文に、ハルシネーションの検出精度が38%改善されたと書かれていました。この場合、ハルシネーションをどのように定義して測定し、38%改善したと述べられているのですか。 

論文の方で行っているものに関しては、ハルシネーションを起こしていないものと、起こしたものに対して、どれだけハルシネーションを検出できるのかを調べています。その論文は、2024年12月に出したのですが、2025年７月に出した論文では、実際のLLMでハルシネーションを起こしている事例を集めたデータセット（データの集合）も作りまして、それも検証しています。 

―それは興味が湧きます。従来型のLLMよりさらに良くなっているのではとお見受けします。どのようなアプローチをされたのですか。 
企業だと「ハルシネーションを起こしてはまずい」と考えます。その一方で、ハルシネーションを起こしているかどうかを判断する基準を考えると、例えば企業のコールセンターでは、マニュアルを基に答えなければいけないというようなことがあって、そのマニュアルに書かれている元の事実というか、そういったようなものにしっかり基づき回答しなければならないのです。そういうものをどうやって管理するのかと言うと、文書を使ってしまうと、結局またそこでハルシネーションが起きてしまいます。 

そこで、知識グラフ形式であれば、人間が持っている知識と同じようなものを容易に管理することができます。例えば、時間系列によって変わってしまうような知識があります。具体的に言えば、米国の大統領は、あるタイミングで変わります。そういうのをLLMでやろうとすると非常に大変なのですが、知識グラフだと、その知識を示すデータを少し変えるだけで明示的に管理ができます。そういった知識と組み合わせることによって、知識グラフに書いていないようなことが言われていないのかをしっかりと検知したいというのが、この研究の考え方です。 

―それは、アスペクト情報みたいな形で見ていたりするのですか。行動とか、何らかの知識グラフの推論のところですか。例えば、市瀬先生がホームページで公開されている知識グラフ上のパス推論（多数の変数間の複雑な因果関係を統計的に推論すること）による説明可能なホテル推薦システムも、このアスペクト情報と知識グラフを組み合わせて、性能を高めているのですか。 

今のところ、ハルシネーション検知の研究と、アスペクト情報を使った研究の2つはダイレクトにはつながっていないのですが、アスペクト情報を使った研究に関しては、どちらかというと説明可能なAIをメインに考えています。 

ホテル推薦システムみたいなものは、最近だと色々なところで使われています。ただ、何となく推薦されて、「このホテルとこのホテルが良いのでは」と言われても、なかなか納得できない部分があります。そういった時にアスペクト情報みたいなものが入ってくると上手く説明ができるようになります。たとえば、あなたがいつも利用するホテルと同様に、駅に近いのでそのホテルを推薦しますといったことができるようになります。 

―従来だと、単なる統計的なアプローチの方が多かったと思います。なので、アスペクト情報というのは面白いなと思いました。それと説明可能なAIという、これもやはり市瀬先生の研究テーマの中で大きなウェイトを占めているのでしょうか。 

今、私の行っている研究では、知識グラフを使うので、割と色々なことが説明できたりします。やはり、最近のディープラーニングを中心とした研究だと、どうしても中がブラックボックスになってしまいます。そういうところは、大きな違いになっています。

―企業の担当者や現場の人たちも、「AIをすごく活用したい」と思っています。一方、その要望を経営陣に上げていくと、最終的にAIに対するバイアスがあって、「それはどうやって担保するのか」という話になり、ハルシネーションの問題が出て来ます。やはり、説明可能なAIとかがあったりすると、説得力を増すと思います。 

そうですね。ありがとうございます。 

―市瀬先生の研究の中では知識グラフのベースがあっても、パス推論もされているのですか。 

結局、知識グラフと言うのは色々な事物の関係性を表すようなものになります。関係性みたいなものを取ってくると、さまざまな推論ができるようになります。 

―アテンション・メカニズム（機械学習モデルが入力データの中で特に重要な部分に焦点を当てることを可能にする仕組み）も市瀬先生の研究内容をリサーチすると出て来ます。これは、これまでの単語の露出度とか、単語間の関係性とか、相関とはまた違うものなのですか。 

相関って言うと、結局、何かに対して別の何かを出してきます。ただ、それが実際にどういう関係なのかがわからないですよね。その関係性みたいなのを、ある程度明示化することによってさまざまなものの関係がわかることがあります。そういう関係性を知識グラフというような形でまとめ上げ、そしてそれを利用することによって、今の深層学習を人工知能でできる部分、できない部分に分け、さらには、そのできない部分を知識グラフを使うアプローチ、具体的には欠落した知識を補完していくとか、そういう形で新しい研究を進めています。 

―知識グラフを使うときには、オープンソースを使ったりするのですか。 

実は、1980年代の頃は知識を作ると言うと、それこそ大変でした。ものすごくコストを掛けて作らないといけませんでした。けれども、その後、知識工学（人工知能の応用分野。特定分野の知識をコンピュータに適切に伝え、活用する技術を研究する学問分野）の研究が進んだこともあり、そういう知識を表すオープンなデータ自体の集積がものすごく進んで来ています。 

Googleで検索したときに横に出てくる情報があります。あれは、実は知識グラフの情報です。知識グラフの情報は、公開されている情報から作られていて、公開されている情報自体も、今ではもう決まったフォーマットで公開されるようになっています。だから、その気になれば世界中の知識を、機械処理でさまざまなことに利用できるのが、知識グラフの利点になっています。 

―市瀬先生がこの知識グラフを活用して、実用面としてはドメインをある程度絞られた形でお考えですか。それとも、汎用的な部分で取り組まれるのですか。 

私は大学に所属しているので、研究としては汎用的な技術を研究するというのが、基本的な路線になります。ただ、そういう中で汎用性だけではなかなか検証できないこともあります。なので、そういうときはドメインを絞って研究しています。最近ですと、ファイナンス分野での研究があります。 

―市瀬先生の情報を拝見すると、ファイナンス以外にも医療関係もあります。研究キーワードの中にも医療情報が入っていました。また、ファイナンスの予測もあったりするので、企業からしてみたら、市瀬先生のご研究は自分たちに直結するような印象を持てます。企業からのお声掛けが多いのではないですか。共同研究であるとか。 

幸いにも共同研究の機会は多く、色々な方からお声がけいただいています。なので、今でも企業の方と共同研究を幾つか進めています。 

―トランスフォーマー（データのパターンを見つけられる技術）も用いられていますよね。 

基本的に、トランスフォーマー自体は、研究には欠かせない考え方になっています。そういうトランスフォーマー自体はあちこちで利用しています。 

―市瀬先生、知識グラフの研究と他の研究の違いとか、革新的なユニークセットはどこにあるのですか。 

やはり、説明可能性とか、非常に信頼性が高いというところが、他の手法との大きな違いになって来ると思います。 

―金融やファイナンス、推論みたいな形で利用するのですか。 

例えば、ファイナンス関係とかですと、投資をするときには、かなり大きな責任が伴います。そういったときに、ただ単に「AIが言っているからやりましょう」と言っても、そういう判断にはならないところがあったりします。その場合、やはり説明をどう考えるのかということになります。知識グラフの考え方は、説明性が高いので、非常にあちこちで使える技術になるのではと思っています。