生成AI万能論を越え、人と多様なAIが協調する時代へ――山口高平教授が語る「AIオーケストレーション」と日本の勝機（前編）

―山口先生のご専門分野と最近の活動を教えていただけますか。

私の専門分野は、知能情報学, ヒューマンインタフェース、インタラクション, 知能ロボティクスなどです。学生時代からAIの研究を始めました。当時は理論的な話が中心でした。それから、もう半世紀近く経っています。恐らく国内では一番古いAI研究者の一人だと思います。これまでを振り返ると、AIがブームになった時もあれば、メディアにあまり取り上げられなかった停滞期もありました。それを繰り返して、今また新たなブームが来ているという状況です。

私自身は、現在色々な大学や企業に呼ばれ、日本各地でAIをテーマとした講演を行っています。はっきり言って生成 AI からAIを始めた人が、圧倒的に多いですね。それまでのAI のことなど全くご存じでなかったりします。結果として、従来の AIでできることをわざわざ生成 AIでやろうとしがちです。

しかし、生成 AIの基盤であるトランスフォーマーは、基本的に確率統計の理論をベースにしているので、当たり前にできる処理が意外とできなかったりします。例えば、路線戦略（鉄道や公共交通における路線の運営・最適化・収益向上・地域貢献を総合的に計画する戦略）みたいなことです。そういう我々が普段当たり前に使っているソフトウェアを生成 AIで作ろうとすると、上手くいかなかったりします。そういうことを知らないで、「生成 AI なら何でもできる」と信じ込んでいる人が多いのです。

特にビジネスパースンに多い気がします。生成 AIを起点にプロジェクトに取り組み始めた人が多いため、課題に応じて多様なAIを振り分ける必要があることを理解していません。企業で色々と講演したり、彼らと話したりしてみるとつくづく感じてしまいます。多様なAIを的確に使い分けなければいけません。

人工知能学会で開発されたAI マップには、多数のAIアルゴリズムが掲載されています。各種AIは、状況によって得手不得手があるので、生成AIだけが万能だと思って、それに全てを任せようとすると、ある意味大変なことになります。そういうことを最近強く感じていて、その辺を毎月どこかの企業や大学に行っては講演しているという、そんな状況ですかね。

※参考：人工知能学会が提唱するAIマップの詳細は、以下のURLを参照。

https://www.ai-gakkai.or.jp/aimap/

―本メディアではこれまで20名余の研究者にインタビューをさせていただきました。皆さん、AIの定義や意義合いは違っていました。山口先生ご自身はAIをどう定義付けされますか。

AIとは、人の知的な振る舞いをコンピュータで実現するための研究分野です。ただ、この定義は、マクロレベルであり、あまり議論しても価値があるとは思えません。なぜなら、「インターネットをどう定義しますか」と言っても今となっては何の意味もないじゃないですか。それと一緒です。インフラになるというのはそういうことですよ。基盤技術として皆が当たり前に使うものになった。それをインフラというのです。まさに今、AIが社会情報インフラになろうとしている状況下で、定義付けようとするのはナンセンスだと言いたいですね。

私は今まで理工学から人文社会系・経済まで、色々な分野で企業との産学連携を手掛けて来ました。16分野ぐらいはあるでしょうね。そういう多様な現場をAIで支援する経験を持っています。企業にとっては、自分が今やっている業務の精度がどれだけ向上するか、あるいは10時間でやっていた業務が、どれだけ短時間でできるか。そうした自分が担当している業務の精度向上と業務時間短縮の二つの観点から、そのAI技術の良さ（有用性）を判別します。

その中に AIがインフラとして入ってきて、それを今使おうとしているわけです。現場から見ればAIがどういう定義であろうが、別に何でも良いのです。その業務がどれだけ助かるか、もうそこしか考えていないですね。

私は、「産学連携をよくやるなあ」と幾度も言われますけれども、現場の抱えている課題は業務内容によって異なり、それに応じてやり方も変わってきます。そのような多様性をクリアしていって初めてインフラになっていくと感じています。

業務に依存してAIを考える際には、AIは大きく3つに分かれます。推論AI（学習済みモデルに新しいデータを入力し、予測・分類・生成などの結果を出力する処理）と学習AI、そして生成 AI です。この3種類のAIをどううまく組み合わせるか。あるいは、他の情報技術も取り入れ、どのように組み合わせていくか。その技術力がDX（業務改革）を実現する際の分かれ目となります。日本には、その全体をカバーできる人材が少ないのです。生成 AIから始めた人があまりにも多くて、従来のAIを知らないから、AIの組み合わせを考えることができないのですね。

繰り返しになりますが、従来のAIでやるべきところをわざわざ生成AIでやろうとしています。しかし、生成AIは事前確率（ある条件や状況を仮に設定し、それに基づいて対応策や計画を具体的に定めること）に基づいて判断していくので、100％正しい答えが出せません。いわゆる、ハルシネーションという間違いを必ず起こします。

例えば、法務関係の業務で間違いを起こしたら大変なことになります。なので、業務によっては生成 AIを全く無視している人たちもおられます。特に、個人情報が漏洩すると大変なことになりますからね。そういうことで、あまり使っていない分野と、どんどん使って効率化している分野に分かれています。エンジニアリング系はすごく使っていますよね。今年は、大分の製造業から私に講演依頼が来て出かけましたが、聴衆の皆さんはすごく熱心に聞いてくれます。情報産業以外でも、そのような状況になっています。

―それで、もう全国各地の製造業から「講演にお越しください」とお声が掛かっているのですね。

はい。毎月行っていますね。次は福井に行って、京都に行って、名古屋に行って、それから東京、横浜の順番です。毎月どこかに行って、今みたいな話をしています。

―各地の美味しいものを食べたり、現場での色々な話を聞いたりするのが、山口先生にとって元気の秘訣になるのかもしれませんね。

それを楽しみに行っているのですが、大分に行った時には大変でした。皆さん、初めてAIに関する詳しい内容を聞いたということで、90分の講演が終了し、17時から質問時間になりましたが、30人以上の行列ができてしまいました。質問者のAIレベルは異なるので、質問の内容も異なります。一人ひとり丁寧に受け応えしていたら、3時間半も経過してしまい、時計を見たら、もう夜の8時半になっており、お腹がグーとなってきました。AIに対する関心の高さには本当に驚いてしまうという状況でした。

 ―今回は、山口先生の共著書『AI システムと人・社会との関係』（放送大学教材）を踏まえて、幾つか質問したいと思います。実際、拝見させていただきましたが、社会人にとっても学びがいがある教材だと感じました。わかりやすいですよね。 

放送大学の正規課程学生数（科目履修性等も含む）は約8万7千人です。日本の通信制大学の中で最も規模が大きいといえます。社会人学生（就業者、退職者、主婦等）は、約6万2千人で約71％を占め、上記のAIに関する講義は2020年度から開始され、今までに約1万5千人の受講生がいました。放送大学を通して全国のAIに関心のある社会人にAI教育の機会を提供したいという想いを持って、上記教科書を執筆し、ラジオ番組を制作し、放送したという経緯です。AIがダイナミックに変化しつつあることを、社会人の方々にしっかりと理解してもらえるよう、色々と工夫させていただきました。

―こちらの教材では、2010年代から第3次AIブームに突入していると書かれておられます。昨今は、もはや第4次AIブームと言われることもあります。山口先生は、どのような見解をお持ちですか。

確かに、第4次AIブームという人が多いですね。その一方では、「第3次AIブームの延長だ」という指摘もあります。まあ、AIユーザーレベルの人たちは、両者を区別できないでしょうし、「別にどちらであっても構わない」と思っているかもしれません。

歴史的には、2010年代前半にディープラーニングが画像認識にどんどん使われるようになりました。例えば、自動運転において実用化の目処が立ったのは、ドライバーが車の外にある色々な物体を認識する上でディープラーニングを適用したところ、認識率が非常に高かったからです。

あとは、医療現場ですね。例えば、大腸がん。最初、悪性ポリープは、本当に小さな赤い点でしか過ぎないのですが、それが悪くなって大腸がんになります。2017年、国立がん研究センター・NECの研究では、約5,000枚の学習用画像とは別の約5,000枚を評価し、ポリープ・早期がんを98％で検出し、医師では80％と報告されました。しかしながら、これは同じ条件下の比較ではないため、単純な比較は危険です。近年では、病院の多様業務をAIで支援する試みが始まっており、例えば慶應義塾大学病院では、画像医療診断支援だけでなく、カルテ整理、退院サマリ作成、眼科検査、院内移動支援など、AIホスピタルとして複数業務に実装を進めています。まさに、人の目に代わると言って良いでしょう。このように、自動運転や医療の現場でもAIが実装され、展開されているわけですね。

生成AIもトランスフォーマーと呼ばれる基盤技術の基本はディープラーニングです。元をたどればディープラーニングであり、2010年代は画像認識で活用されていましたが、現在は生成AIを筆頭にして、文章生成、画像生成、プログラミングコード生成など、色々なアプリケーションに適用されています。従って、一番基礎になるトランスフォーマーがディープラーニングなので、「第3次AIブームの延長だ」という考え方も一概に間違いとは言えません。

しかしながら、ディープラーニングが生成AIに使われて、Codexやそのコーディングまで自動生成の時代になってきましたので、画像処理という特定分野だけではなくて、あらゆる分野にAIが使われるような時代になり、社会への影響が大きくなったのです。その普及の広さ、社会への影響から考えると、もはや第3次AIブームではなく、「第4次AIブームが到来した」という言い方を出てきているのです。だから、両方の言い方が存在しているという現状ですね。

―山口先生はどちらのお考えなのですか。

私からすると、「どちらなのか」という問い自体が無意味だと思います。AIの歴史は、1956年に遡ります。なので、今年はAIが始まって70年目という節目の年です。これまでの歴史を紐解く意味で、「第3次AIブーム、第4次AIブームのどちらなのか」という話が出てきますけれど、あくまでそういうことはAIの年表の解釈の違いに過ぎません。大切なのは、ディープラーニングを使った画像認識が主と考えるのか、AIの多くの分野への適用可能性を考えるのかに依存します。2010年代前半から今までのAIの推移の解釈の場合、その解釈のどちら側に立つのかが明確であれば、第3次AIブームでも、第4次AIブームでもどちらの言い方でも良いと思います（私は、社会への影響の大きさを重視して、今は第4次AIブームという言い方をしています）。

―振り返ってみて、昨今のAIブームと第1次AIブームや第2次AIブームとは、本質的に何が違うのでしょうか。

第1次AIブームの時は、数学定理証明とチェスのゲームにフォーカスされました。特に、AIチェスとチェスの帝王（人）が、盤上で知略を競いあうことに社会の関心が集まりました。これが第1次AIブームの中身でした。第2次AIブームの前半では、専門家の知識をコンピュータの内部で表現して推論に利用することにより、専門家の能力をコンピュータで実現しようというエキスパートシステムの研究開発が盛んになり、1984年にEXODUS（Expert System for Operations Distributed Users）が開発されました。この段階で、機械学習はまだ導入されていません。

専門家にインタビューして知識を獲得する。それは本当に時間のかかる作業でしたが、データ収集がどんどんできるようになり、データから自動的に知識を作り出そうという動きが、第2次AIブーム後半に出てきました。それが機械学習です。その発展形がディープラーニングであり、2010年代に第3次AIブームとなり、様々な分野で人間の業務を代行するAIシステムができてきました。

その後、特に、2022年11月末に登場したChatGPTという生成AIが出てきました。ChatGPTを使うとすでに完成した業務だけではなく、対話しながら新しい業務を考えることもできます。それから、プログラムの自動生成は、従来のAIではずっと難しかったのですが、それさえも

可能になってきました（バグは少し残りますが）。従来のAIではできなかったコード生成が可能になったことが、社会に大きなインパクト与えています。その結果、一気にユーザ数が増え、下図のように、2022年11月のChatGPTユーザ数を0人とすると、約4年間で、世界人口83億人の10％を超える、9億人にまで一気に増えていることが判ります。

AI の分野では、これを「AIの大衆化」と呼んでいます。それまではプログラミングの知識がなければディープラーニングは扱えなかったのですが、今や日本語でも英語でも、自然言語だけでAIに色々な質問をしても、すらすらと回答してくれるような状況になり、全世代で利用が広がり、世界で10人に一人が生成AIを利用する状況にまでなったのです。

ということは、生成AIからAIを始めた人が圧倒的に多いわけです。私自身、毎月日本全国のどこかでAIに関する講演をしていますが、聴講者に聞くと9割以上は生成AIから入って来た人たちです。残念ながら、そういう人は従来のAIを知りません。それどころか、生成AIが万能だと思い込んでしまっていたりします。実は、処理内容によっては、従来のAIの方が優秀な場合もあり、生成AIにやらせると失敗するケースも出て来ているのです。そういうAIの適材適所という考え方が理解されていないのが今の状況です。

―「AIの大衆化」がますます加速しています。最近の調査によると、女子高生の相談相手は家族や友人以上にAIの存在が大きいと言います。AIに質問を投げかけて、どうすれば良いかという答えを教えてもらい、その通りに行動しがちです。

今年の８月上旬に、高校で情報を担当している日本全国の教員約700名が、私が教鞭に立つ神奈川大学に集まりました。その際に、私が生成AIに関する基調講演を行いました。ChatGPT に生徒自らが色々な質問を投げかけても丁寧に教えてくれるため、それを使うという状況が出てきています。それで、授業を聞かないどころか、演習問題やレポートも全部丸投げしているというのです。

もちろん、生徒もそのまま提出してしまうと教員に見破られてしまうので、自分の意見を生成AIに合わせて書いてくると言うのです。米国での大学では、無断でAIにレポートを書かせ、自作として提出した行為を剽窃として扱い、重大・反復事例では退学も可能としている大学があります。我が国でも、慶應義塾大学では、レポート不正の具体例として「教員の指示を超えた生成AIの使用」を挙げ、情状によって停学・退学もあり得ると明記しています。

聞いたことに対して何でも答えてくれるというような状況は学生にとっては非常に便利です。しかし、果たしてそれで良いのでしょうか。人と人のコミュニケーションは、表情も含めて総合的なものです。AIに依存してばかりになると、そうした能力はどんどん低下して行ってしまうので危惧しています。

―過去を振り返ると、AIは隆盛期と停滞期を繰り返してきました。今のAIブームにも停滞期が来るのでしょうか。山口先生はどのようにお考えですか。

第2次AIブームでは、全国で1000以上のエキスパートシステム（専門家の知識をコンピュータに教え込み、専門家のような判断を再現するAI）が次々と開発されました。当時は、日本経済新聞で「この企業がこういうエキスパートシステムを開発した」という記事を連日掲載していました。1980年代後半でしたね。「これは今後もずっと続く」と誰もが思っていたものです。

専門家にインタビューして、「あなたはどんな知識を使っているのか」と言っても、我々人間は皆大抵そうなのですが、「こういう知識を使ってこういう風に解決した」などと内省などできるものではありません。ある意味、体に染み付いている、そういう知識だからです。その現場に行くと、頭に組み込まれた知識が自然に出てくるわけですが、インタビューされて、「あなたはどんな知識を使っていましたか」と言われても答えられないのです。

先程述べたように、専門家から専門知識を獲得するには、膨大な時間が掛かっていました。そして1995年にインターネットを一般ユーザーが使える時代になったことで、エキスパートシステムを中心とした第2次AIブームは終焉を迎え、ITでは、インターネットに関心が移っていったたのです。

私自身、当時、電機メーカーとエキスパートシステムに関する共同研究をしていました。しかしながら、1990年代後半以降、AI部署が閉鎖され、新設されたインターネット部署に移るという理由で、エキスパートシステムの産学連携研究が終わってしまいました。その結果、第2次AIブームが終焉を迎えることになります。

一方、2010年代前半から始まった第3次AIブームのディープラーニングは、コンピュータの性能向上もあり、処理時間が短くなり、工場における作業自動化、医療診断や自動運転の他、街の防犯カメラ画像を連携させ、犯罪者を追跡するという実験も開始されています。まさに、ディープラーニングが社会のインフラになろうとしています。これに置き換わる技術が他に出てきたら衰退すると思いますが、当面、それは心配無用な状況です。ディープラーニングによる社会実装が世界レベルで進んでいます。例えば、中国は、すごくAIの社会実装に力を入れて、取り組んでいます。

いかにディープラーニングを社会実装に反映できるか。それで国力が決まると言っても良い、そういう時代に今なろうとしているのです。社会インフラになったインターネットに「インターネットは衰退しますか」という質問は誰もしないですよね。それと同様で、もはやAIも社会インフラになろうとしていますので、衰退期はもう来ないと言えます