AIに数学が必要なのは、原理を理解していなければ、AIが出した判断の妥当性や限界、学習データの偏りを見極められないからです。
生成AIの登場で、誰もが高度なAIを手軽に使える時代になりました。その一方で、仕組みや限界を十分に理解しないまま、AIの出力を鵜呑みにする危うさも増しています。数学とコンピューターを融合させてきた佐賀大学の皆本晃弥教授は、AI時代に必要なのは使い方を覚えることだけではなく、その背景にある原理を理解することだと説きます。
本記事では、皆本教授へのインタビュー（聞き手：デフィデ株式会社 代表 山本哲也）をもとに、AIに数学が必要な理由、原理を知らずにAIを使うリスク、そして日本が「デジタル小作人」にならないための視点を解説します。
この記事でわかること
・AIに数学（原理の理解）が必要な理由
・原理を知らずにAIを使う3つのリスク
・「デジタル小作人」とは何か、なぜ危ういのか
・生成AIを理解する近道となるRNNとトランスフォーマーの関係
・結果を出せる人材になるための「Fail First」「Be Lazy」の考え方
データサイエンスやAIの書籍は数多く出版されていますが、その多くは「どう使えばよいか」という実践に重点を置いています。使うことだけなら、それほど難しくはありません。しかし、「その原理を知っていますか」と問われて答えられる人はまだ少ないと皆本教授は言います。
「多くの人が原理を理解しないまま使っている状況には、強い危うさを感じています。」
――皆本教授
皆本教授は、これを薬にたとえます。使用上の注意を読まずに薬を飲むのが怖いように、データサイエンスやAIの背後にある数学的な原理を意識せずに使うのは危険です。原理を理解していることには、次のような利点があります。
「すぐに役立つことは、すぐに役立たなくなることもあります。」
――皆本教授
技術は次々に進歩しますが、その延長線上にある新しい技術を理解する土台は、原理原則です。だからこそ、技術の変化が速い時代ほど、原理を学ぶことが重要になります。
AIが審査や判定に使われ、「あなたは不採用です」という結論が示されたとします。「AIがそう判断しました」とだけ言われて、当事者は納得できるでしょうか。本来は、どのような判断基準に基づき、どのような手法でその結果が出たのかを説明できる必要があります。原理を理解していれば、AIの中で何がどう動いているかをある程度把握できます。
AIモデルは数学的な仕組みに基づいて作られますが、それを学習させるのはデータです。学習データに偏りがあれば、その偏りはそのままモデルの出力に反映されます。
皆本教授はコイントスを例に挙げます。公平なコインなら表が出る確率は50%です。ところが、歪んだコインから得た偏ったデータで学習したモデルは、「表が出る確率は90%です」と出力するかもしれません。人間なら経験的に「おかしい」と気づけることもありますが、AI自身はデータが間違っている、偏っていると判断できません。データの正しさやバイアスを見極めるのは人間の役割であり、それを数学的に理解しておくことがAIを正しく使う前提になります。
皆本教授が最も怖いと感じているのは、AIへの向き合い方が、カジノや宝くじに飛びつく感覚に近づいていないかという点です。便利そうだから使う、流行っているから導入する。仕組みを理解しないまま参加すれば、実際にはお金を吸い取られているだけだった、ということにもなりかねません。
もちろん、AIを使うこと自体を否定しているわけではありません。仕組みや限界を理解したうえで、「これはうまくいく」「これはうまくいかない」を見極めて試行的に使うなら問題はない。ただし、理解しないまま社運を賭けるとなると話は別です。AIを使うべきでない場面で安易に使えば、かえって大きな損害につながりかねません。
「AIで何ができて、何ができないか」を見極めたい方へ
AI活用で成果を出す第一歩は、自社の課題に対してAIがどこまで使えるのかを正しく見極めることです。DEFiDEでは、AI/DXコンサルティングを通じて、目的の整理からAIの適用範囲の検討、小さな実証まで伴走します。
「デジタル小作人」とは、他者が用意したAIやプラットフォームの仕組みを使うだけの立場にとどまり、自ら価値を生み出す側に回れない状態のことです。背景にある仕組みを理解しないまま表面的な使い方だけをなぞっていては、デジタル小作人で終わってしまう可能性が高い――これが、皆本教授が著書を通じて最も伝えたかったことだといいます。
「カジノの客はあくまで客であり、最終的に儲かるのは胴元です。」
――皆本教授
宝くじも同じで、仕組みを作っている側が強いのは基本的に変わりません。期待値という考え方とその背景の理論を理解していれば、「これにはこれだけのリスクがある」とある程度見通せます。AIも同様に、仕組みや限界を理解していれば、どこまでAIに任せてよく、どこから人間が判断すべきかを見極めやすくなります。「ビットコインが儲かりそうだからやってみる」という投機的な判断と同じになっていないか――皆本教授はそこに強い危機感を示しています。
日本が「デジタル小作人」から脱し、仕組みを作る「胴元」になるための道筋は、中編で詳しく解説します。
皆本教授は2024年9月、著書『スッキリわかる数理・データサイエンス・AI』（近代科学社）を出版しました。表紙の印象から自ら「黒本」と呼ぶこの本は、できるだけ数式を避けずに原理を正面から説明し、最終章をRNNで締めくくっています。その理由は、生成AIへとつながる技術の流れを理解してもらうためです。
| 技術 | 特徴 | 生成AIとの関係 |
|---|---|---|
| RNN（再帰型ニューラルネットワーク） | 深層学習モデルの一種。時系列データの処理に強く、過去の情報を未来の予測に生かせる | 系列データを扱う技術の土台。その限界がトランスフォーマー誕生の出発点になった |
| トランスフォーマー（Transformer） | RNNの欠点を克服するために2017年に発表された、系列データを扱う新たな枠組み | 現在の生成AIの基盤技術。ChatGPTの「GPT」の「T」はトランスフォーマーを指す |
RNNの問題点を理解したうえでトランスフォーマーを学ぶと、「なぜそのような発想に至ったのか」が見え、現在の技術も理解しやすくなります。逆に、技術の流れを知らずにいきなり生成AIを使うと、「よくわからないけれど、うまくいっている」という感覚にとどまってしまうのです。
同書は大学の教科書として構成されていますが、データサイエンスの技術的な内容を深く知りたい社会人にも役立ちます。各手法のアルゴリズムを「学習」と「予測」に分けて示し、概念の説明、例、問という流れで構成。四択問題や、紙と鉛筆だけで取り組める問題を多く配置し、使用上の注意まで意識して書かれています。
皆本教授の専門は、数学を現実の問題解決に生かす応用数学です。もともとは、コンピューターで得られた近似解の正しさや解が存在する範囲を数学的に保証する「精度保証付き数値計算」を中心に研究し、その後、機械学習や人工知能へと領域を広げてきました。
原点は中学生の頃にさかのぼります。200人に1〜2人しかコンピューターを持っていない時代に、親に頼み込んでコンピューターを買ってもらい、アニメのキャラクターをグラフィックスとして描いていました。参考書も少なく、「図形を回転させる」だけでも中学生には難しい数学が必要でした。この経験から、コンピューターを操作するためにも数学の知識が欠かせないと痛感したといいます。
皆本教授は、日本が抱える構造的な課題を次のように指摘します。
皆本教授は、日本が明治維新で成功した背景に、江戸時代以前に国内で発達した数学「和算」が全国に普及し、数学を楽しむ文化が根づいていたことがあったのではないかと考えています。数学的な土台があったからこそ、西洋の文化や数学を比較的早く理解できた。現代でも、情報分野に携わる人たちの応用数学的な素養を底上げすることが、日本の技術力の底上げにつながるというのが、皆本教授の一貫した主張です。
皆本教授は、教育理念として「良識ある結果の出せる人財育成」を掲げています。「材」ではなく「財」を使うのは、周囲に良い影響を与えられる、社会にとって価値ある存在になってほしいという思いからです。
「北に向かって走れ」と言われているのに南へ走れば、どれだけ努力しても目的地には着きません。野球がうまくなりたいのにサッカーの練習ばかりしていても、望む結果にはつながりにくいでしょう。結果を意識しながら正しい方向に努力すること、そして他者を尊重することが大切だと皆本教授は語ります。
「成功する可能性が1％しかないのであれば、悩み続けるよりも、早く99回失敗した方がよい場合もあります。」
――皆本教授
そこで学生に伝えているのが、早く失敗する「Fail First」と、無駄な作業を減らして最小限の労力で最大限の成果を目指す「Be Lazy」です。「安心して失敗できる」と伝えると前に進める学生もいるといいます。稲盛和夫氏の京セラフィロソフィのように、理念は繰り返し言葉にし、日々の行動で実践してこそ浸透していく――皆本教授はそう考え、粘り強く伝え続けています。
A. 皆本教授は、AIを「使う」だけなら数学がなくても可能だが、原理を理解していなければAIの判断の妥当性や限界、データの偏りを見極められないと指摘しています。原理を知っていれば他分野への応用や独自の方法の開発もでき、ツールが変わっても対応できる力が身につきます。
A. 「デジタル小作人」とは、海外企業などが用意したAIやプラットフォームの仕組みを使うだけの立場にとどまり、自ら価値を生み出す側に回れない状態を指します。皆本教授は、カジノの客と胴元のたとえを用い、最終的に利益を得るのは仕組みを作る側だと説明しています。
A. 主なリスクは3つです。AIの判断の根拠を説明できないこと、学習データの偏りがそのまま出力に反映されても気づけないこと、そして「便利そう」「流行っている」という理由だけでカジノや宝くじのように投機的に使ってしまうことです。
A. データの偏りは、そのままモデルの出力に反映されます。皆本教授は、歪んだコインから得た偏ったデータで学習したモデルは「表が出る確率は90%」と出力しうると説明しています。AI自身はデータの誤りや偏りを判断できないため、人間が見極める必要があります。
A. RNN（再帰型ニューラルネットワーク）は、時系列データの処理に強く、過去の情報を予測に生かす深層学習モデルです。トランスフォーマーは、RNNの欠点を克服するために2017年に発表された技術で、現在の生成AIの基盤となっています。ChatGPTの「GPT」の「T」はトランスフォーマーを指します。
A. 「Fail First」とは、早く失敗することを意味します。皆本教授は、成功の可能性が1%しかないなら、悩み続けるより早く99回失敗したほうがよい場合もあると述べています。作業量を減らして早く検証し、無駄な作業を省く「Be Lazy」とあわせて、正しい方向に努力する姿勢を学生に伝えています。
中編では、日本のデータサイエンス教育の現状と佐賀大学の取り組み、そして日本が「デジタル小作人」から「胴元」を目指すための条件について伺います。
自社のAI活用の「現在地」を知ることから
AIを原理から理解し、使いこなす組織づくりは、現状の把握から始まります。DEFiDEの「生成AIワークバリュー・スコア分析」で、組織の生成AI活用の状況を把握し、次の打ち手を明確にできます。
▶ 中編：データサイエンス教育の3つのレベルとは？「デジタル小作人」から「胴元」へ
▶ インタビュー全文：AI時代、日本は「デジタル小作人」で終わるのか（前編）