AI時代、日本は「デジタル小作人」で終わるのか――数学の原理を知り、AIを使う側から「胴元」へ（後編）

―皆本先生の研究キーワードの一つに「精度保証付き数値計算」が挙がっています。これは、コンピューターが出した答えの正しさを数学的に保証する研究なのでしょうか。

 

そうですね。コンピューターは計算結果を出してくれますが、その結果が本当に正しいかどうかを自動的に検算してくれるわけではありません。計算したら、その結果をそのまま返すだけで、正しさを保証する仕組みがあるとは限りません。数学の問題を解いたとしても、そもそも答えが存在する問題を解いているのかどうかさえ、分からない場合があります。

 

そこで、コンピューターを用いて、数学の問題そのものに答えが存在するのか、存在するなら何個あるのかを調べます。コンピューターが求められるのは基本的に近似値です。そのため、その近似値の周辺のどの範囲に本当の答えが存在するのかを保証する必要があります。私にとってのモチベーションは、いわば検算機能をつくることです。答えが出ているように見えても、それは私たちが「ゴーストソリューション（幻影解）」と呼ぶ、コンピューター上では近似解として現れているものの、数学的には存在しない解かもしれないからです。

 

このようにコンピューター上では答えが出ていても、数学的には存在してはならない答えである場合があります。そうした点を確認し、保証する必要があります。精度保証といっても、単に「何桁まで正しいか」を保証するだけではありません。「そもそも答えが存在するのか」まで含めて保証するということです。

 

―コンピューターはブラックボックス化しているため、入力に対して出力があると、それを正解だと思ってしまいがちです。出力が本当に正しいのかを数学的に保証することを、常に問題意識として研究されているのでしょうか。

 

そうですね。コンピューターが出してくる答えについては、まず疑ってかかるというのが私の基本的なスタンスです。なぜなら、人工知能では、パラメータの設定自体がかなり経験的に行われているからです。

 

それにもかかわらず、多くの人がハイパーパラメーターチューニング、つまり機械学習モデルの性能を高めるために、人間が事前に設定する値を調整する作業に力を注いでいます。しかし、現状では職人芸に近い部分が少なくありません。「この範囲で設定すれば必ずうまくいく」と数学的に分かっていれば、最初から無駄な試行錯誤を減らせるはずです。もっと言えば、「そもそも答えがない問題を解いていませんか」という問題でもあります。

 

これは一見、AIの調整方法の話に見えますが、私にとっては、コンピューターが出した答えをどこまで信じてよいのかという、精度保証付き数値計算の問題意識ともつながっています。近似的に得られた結果が本当に数学的な解に対応しているのか、それとも見かけ上そう見えているだけなのかを確かめる必要があるからです。

 

答えがない問題を解こうとすることは、計算リソースを大きく無駄にすることにもつながります。だからこそ、そもそもその問題に解が存在するのか、またコンピューター上で得られた近似解の近くに本当に数学的な解があるのかを確認できる手法が必要になります。そうしたモチベーションで研究しています。

―次に、AIのハルシネーションについて伺います。生成AIが事実に基づかない情報を、あたかも正しいかのように生成してしまう現象を、現時点で数学的に防いだり、出力の正しさを保証したりすることはできるのでしょうか。

 

それは難しいですね。現時点では、生成AIの振る舞いを十分に説明し、出力の正しさまで数学的に保証できる理論が、まだ追いついていないと思います。おそらく10年ほどの期間で、ハルシネーションを完全に防ぐ保証を与えるのは難しいのではないでしょうか。というのも、ハルシネーション以前に、そもそも現在の生成AIがなぜこれほど高い性能を示しているのかについても、十分には解明されていないからです。

 

分かっているのは、データ量やパラメータ数を増やすと性能が上がるというスケーリング則です。ただし、これは「性能が上がる傾向」を示す経験則に近いものであって、出力が事実として正しいことを保証する理論ではありません。生成AIは、確率的にもっともらしい文章を生成する仕組みであり、その出力が現実の事実と対応しているかどうかは別に確認する必要があります。数学的にはまだ証明されていない部分が多く、ただデータやパラメータを増やせば、ハルシネーションが原理的になくなるわけではありません。だからこそ、現在のような仕組みである限り、ハルシネーションを完全にゼロにすることは難しいと言ってよいでしょう。

 

―将来的にも、生成AIの出力に保証をつけることは、現実的には難しいのでしょうか。

 

はい、現実的にはかなり難しいと思います。生成AIは、確率的にもっともらしい出力を生成する仕組みであり、その出力が事実として正しいかどうかを直接保証しているわけではありません。出力の揺れを抑えれば、同じ入力に対して安定した回答を返しやすくすることはできます。しかし、それは回答のばらつきを小さくするだけであって、内容の正しさを保証することとは別です。むしろ、揺れを極端に抑えれば、文脈に応じた柔軟な応答や多様な表現が失われ、画一的な回答になってしまう可能性があります。

―本サイトの読者には、経営層も多くいます。経営層や意思決定者が知りたいのは、AIの出力がどこまで保証されれば、ビジネスに取り入れてよいのかという点です。最近は、AI説明責任、つまりAIが下した判断の妥当性を後から客観的に検証できる状態を保つことも話題になっています。皆本先生は、生成AIの出力がどの程度の水準に達していれば、ビジネスに取り入れてもよいとお考えですか。

 

ビジネスとして見たときには、出た結果が本人たちの腑に落ち、判断の根拠として納得できるのであれば、使えばよいと思っています。

 

―では、数値的なものはあまり気にしなくてもよいのでしょうか。

 

数値だけを絶対視することはできないと思っています。「精度が何％です」と示されても、それはあくまで、あるデータや条件のもとで評価した結果です。ビジネスの現場では、学習時には想定していなかったデータや、性質の違うデータが入ってくることがあります。そうした場合、事前に示された精度通りに動くとは限りません。

 

その一例が外れ値です。外れ値とは、他の値から大きく離れた値のことです。学習データの中に十分に含まれていないようなケースが来ると、AIは対応が難しくなります。理論だけに基づいて対象を限定すれば、精度を高く見せることはできるかもしれません。しかし、その分だけ適用範囲は狭くなります。ビジネスで使うためには、一定の幅広いケースに対応する必要があります。そのため、データに基づく帰納的な方法を採る以上、原理的に100％を保証することは難しいのです。

 

例えば、「90％はうまくいく」といった数値が示されても、それをそのまま実際の確率だと受け取ってよいとは限りません。AIが出す数値は、モデルの内部で計算されたスコアを、確率のように見える形で示している場合があります。つまり、「90％」と表示されていても、それが本当に10回中9回当たるという意味なのかは、別に確かめなければなりません。必要であれば、実際の結果と照らし合わせて、数値のずれを補正する作業も必要になります。

 

ですから、数値が出ているから安心だと考えるのではなく、その数値が何を意味しているのか、自分たちが理解できるかどうかが重要です。納得できるなら使えばよいと思います。ただし、自分が理解できないものは使わないことです。投資と同じで、自分が理解できないものには投資しないのが鉄則です。AIが出した結果も、理解できなければ採用しない。理解でき、納得できるなら使う。そのくらいの感覚でよいと思います。

 

―AIが自分の考えに近い回答を出すと、納得しやすくなる面もあると思います。

 

そこは非常に注意が必要です。AIが自分の考えに近い回答を出すと、つい「やはり正しい」と感じてしまいます。しかし、それはAIが本当に正しい根拠を持って判断しているという意味ではありません。単に、入力や学習データ、あるいは質問の仕方に応じて、自分にとって納得しやすい形の出力が返ってきているだけかもしれません。

 

だからこそ重要なのは、AIの回答が自分の考えに合っているかどうかではなく、何を根拠にその判断をしているのかを確認することです。ここで関係してくるのが、いわゆるXAI、つまり説明可能なAIです。XAIを使うと、AIが入力のどの部分に注目していたのかを、ある程度可視化できます。ただし、それは「どこを見ていたか」を示すものであって、「なぜそれを重視したのか」まで完全に説明できるわけではありません。つまり、AIの説明を見ても、それだけで納得してよいわけではありません。人間側が、課題に合ったデータを用意し、前処理を行い、意味のある特徴が見える形に整えておく必要があります。AIに特徴量の抽出を任せきりにするのではなく、人間があらかじめ「何を見るべきか」を考えておくことが大切です。

 

―AIに特徴量の抽出を任せきりにしないということですね。

 

そうです。人間が意思を持って、特徴量、つまり対象データの特徴を定量的な数値として表したものを設計していればよいのです。

―皆本先生は教育者として学生を指導されています。現在、大学では学生のAI利用をどの程度認めているのでしょうか。

 

大学としては、「使ってもよい。ただし、そのままレポートや課題として提出してはいけない」という方針で、AI利用を認めています。

 

―AIが出したものを、そのままレポートとして提出する学生もいるのではないでしょうか。

 

います。ただ、それはすぐに分かります。例えばプログラミングでは、生成AIは必要以上に関数を分けて書くことがあります。こちらが「すべてメイン関数の中に書きなさい」と指定していても、わざわざ関数に分けて書き換えてくることがあり、そうした場合は比較的見抜きやすいです。また、今の若い世代があまり使わないような表現が含まれていることもあります。普段の会話や文章からは出てこない語彙が使われている場合です。一方で、何でも人に聞く前に、まず生成AIで一度確認してみること自体は効率的だと思います。周囲の人に質問する前に、自分で調べたり、AIに聞いたりして整理しておくことは、学び方としても有効です。

―少し別の観点から伺います。地元企業とも連携されていますが、日本では中堅・中小企業が大多数を占めており、Amazonや中国企業のように大量のデータを持っているわけではありません。

 

先ほど、AIがコモディティ化したときには、モデルやデータで差をつける必要があるというお話がありました。データをあまり持っていない企業が差別化するために、技術的な打ち手はあるのでしょうか。

 

ディープラーニングだけに頼る必要はありません。そういうときこそ、以前からある技術を使うほうがよい場合もあります。例えば、私が著書『スッキリわかる数理・データサイエンス・AI』でも取り上げているSVM（サポートベクトルマシン）です。SVMは教師あり学習法の一つで、特徴量が適切に設計されていれば、データの規模が小さくても有効に使える場合があります。

 

ディープラーニング系のCNNなどでも、転移学習を併用すれば、データ規模が小さくても活用できる可能性があります。ただし、事前学習に使われたデータと対象データの性質が大きく異なる場合には、注意が必要です。

 

また、先ほど述べたように、特徴量の抽出を人手で行う方法もあります。特徴量とは、対象データの特徴を数値として表したものです。人間が意味のある特徴量を設計し、分類は単純な閾値、つまり判定や区別が切り替わる基準点で行えるようにする方法もあります。

 

考える手間を省くために、何でもディープラーニングに任せる流れもあります。しかし、人間が意図的に介入し、前処理を含めてデータを丁寧にクレンジングすれば、十分に対応できる場合があります。実際、私が取り組んでいるがんの検出でも、ディープラーニングを安易に使うより、医師へのインタビューに基づいて自分たちで手作りした特徴量を使うほうが、精度が高くなる場合があります。

 

―企業等からの相談で「これはうまくいかない」と感じることもありますか。

 

あります。そうした相談で目立つのは、目的が不明確な場合です。「このデータで何かできませんか」と相談に来られることがあります。しかし、具体的に何をしたいのかが明確になっていないと、こちらも対応が難しくなります。

 

―そうした相談は多いのでしょうか。

 

頻繁ではありませんが、時々あります。

 

―AIへの関心が高まる中で、経営層から「AIを使って何かできないか」と指示されるケースも多いのでしょうね。

 

データを集めればよいというものでもありません。むしろ、目的に合わないデータが多く入ってくると、それ自体がノイズになります。

 

そのノイズを排除するだけでも大変です。実際、作業の多くをデータのクレンジングが占めることもあります。やはり困るのは、目的がはっきりしていなかったり、解決したい課題が明確になっていなかったりするケースです。たとえ課題が明確でも、画像に写っていないものはどうしようもありません。何も写っていない画像から何かを抽出することはできません。

 

だから、AIなら何でもできるのではないかという感覚を持たれるのが、一番困ります。課題が曖昧だったり、データから取り出せる情報がなかったりすれば、AIでも解決はできません。そこを説明するのは難しいのですが、結局はデータの質と課題設定の話になってきます。

―何でもデータを投入すればよいわけではなく、前準備が重要だということですね。これからAIを導入する企業が、最初に取り組むべきことを一つ挙げるとすれば何でしょうか。

 

―例えば、データサイエンティストの育成など、人材面の取り組みでも構いません。

 

まずは、AIに何ができるのかを理解することです。同時に、できないことを無理にやろうとしないことも重要です。

 

―AIで何ができるのかを十分に理解できていないケースも多いのでしょうか。

 

そうです。だからこそ、AIの得意不得意を知ることが重要です。生成AIは意味を理解しているように見えることがありますが、実際に人間と同じように意味を理解しているわけではありません。大量のデータから学習したパターンや確率的な関係に基づいて、文脈上もっともらしい出力を返していると考えたほうがよいでしょう。何ができて、何ができないのかを理解していただく必要があります。

 

そのためには、もちろんデータサイエンス人材を育成しなければなりません。私は、AI人材を大きくAIプランナー、AIエンジニア、AIサイエンティストに分けて考えています。まず育てるべきなのは、AIで何ができるかを考え、計画を立てられるAIプランナーです。

 

AIプランナーとは、自分の分野でAIを活用すると何ができるのかを考え、AI活用の計画を立てられる人材です。私は、リテラシーレベルではAIプランナーを育てたいという思いで教育を設計しています。実装レベルまでは踏み込みませんが、まずは自分の分野でAIをどう使えるかを構想できるようにすることが重要です。

 

実装するためには、AIエンジニア、言い換えればデータサイエンスエンジニアが必要です。ただ、AIエンジニアは実装や運用に強くても、必ずしも理論的な背景まで深く理解しているとは限りません。だからこそ、その上にAIサイエンティストを位置づけたいのです。私は本来、「データサイエンティスト」という言葉を、理論も理解している人という意味で使いたいと思っています。ただ、現状では用語の使われ方が広いため、役割を分けて育成していくことが重要だと思います。

 

そのため、学生には「まず、私の言うAIサイエンティストを目指しなさい」と伝えています。数学が難しくてAIサイエンティストを目指すのが難しい場合でも、AIエンジニアとして力を発揮する道があります。いずれにしても、AIの背景を理解するという意識で学ばなければ、そこにはたどり着けません。そうした階層を意識して、人材を育成していくことが大切だと思います。

 

―企業がAIを活用するには、目的を明確にし、AIで何ができるのかを見極める人材が必要だということですね。

 

そうですね。AIを導入すること自体が目的になってしまうと、うまくいきません。自社の課題を理解し、AIで何ができるのか、何はできないのかを見極める人材が必要です。そのうえで、計画を立てる人、実装する人、理論を理解して新しい方法を考える人が連携していくことが重要だと思います。

 

―最後に、皆本先生の教育方法について伺います。「答えを教えるのではなく、学び方を教える」「お金をあげるのではなく、稼ぎ方を教える」という言葉が印象的でした。AI時代においても、単にAIの使い方を教えるのではなく、自ら価値を生み出す力を育てることが重要だということでしょうか。

 

「いかに胴元になるか」を常に考えなさい、ということです。「デジタル小作人」、つまり用意された仕組みを使うだけの立場でよいと思ってしまうと、そこから先にはなかなか進めません。労働そのものはもちろん大切ですが、使う側にとどまり続けるだけでは、大きな価値を生み出しにくいのです。

 

日本では、「お金を稼ぐ」という言葉に悪い印象を持つ人も少なくありません。しかし、手元に資金がなければ、研究も事業も社会貢献も十分には進められません。困っている人を助けたいと思っても、技術や時間がなければ、資金を出して支援するという方法も必要になります。ボランティアに行くにしても、交通費や滞在費がかかります。だからこそ、お金を稼ぐことを悪いこととして捉えるのではなく、価値を生み出し、それを社会に還元するための力として考える必要があります。

 

研究にしてもビジネスにしても、資金がなければできないことは少なくありません。世界全体でAI社会が進展していく中で、日本が「デジタル小作人」にとどまるのか、それとも胴元であるプラットフォーマーの側に回るのかは、大きな分かれ目です。技術の原理を理解し、自ら価値を生み出す側へ回るという意識を持たなければ、日本全体にとっても厳しい状況になると考えています。

 

―米国や中国の企業がAIのプラットフォーマーを目指して激しい競争を繰り広げる中、日本は使う側にとどまってよいのかという大きな問いを投げかけていただきました。皆本先生、貴重なお話をありがとうございました。

 

 

 

 

【編集後記】 

皆本先生のお話を伺って、改めて考えさせられたのは、「AIを使える」とは一体どういうことなのか、という問いである。生成AIをはじめとする技術は、驚くほど簡単に利用できるようになった。しかし、便利になればなるほど、その仕組みや限界を知らないまま「答え」を受け取ってしまう危うさも増している。だからこそ、AIの出力を理解し、納得したうえで使う姿勢が求められる。皆本先生が繰り返し語った「原理を知る」という言葉には、単に数学を学ぶという意味を超えて、自分の頭で考え、技術を見極め、必要なら自ら価値を生み出す側に回るべきだというメッセージが込められているように感じた。 

なかでも印象に残ったのが「デジタル小作人」と「胴元」という対比である。AIを使うだけなら、誰もが同じサービスを利用できる。しかし、その背後にあるアルゴリズムやデータ、プラットフォームを自ら生み出せるかどうかで、立ち位置は大きく変わる。AI時代の人材育成とは、単にAIを使える人を増やすことではない。技術の背景を理解し、問いを立て、独自の価値を生み出せる人を育てることなのではないか。皆本先生の言葉は、AIと向き合う私たちに、その覚悟を問いかけている。