アルゴリズムとAIの違いとは？「疑う力」が必要な理由｜武蔵大学・宇田川敦史准教授

アルゴリズムとAIの違いは、「ルールベースかどうか」にあります。アルゴリズムは人が定義したルールに従って同じ入力に同じ出力を返しますが、機械学習に基づくAIは同じ入力でも同じ出力になる保証がなく、人間が中身を確認できない「ブラックボックス」になっています。

検索結果、SNSのタイムライン、ECサイトのおすすめ、口コミサイトの点数――私たちが日々目にする情報の多くは、こうしたアルゴリズムやAIによって選ばれ、並べられています。それにもかかわらず、私たちはその仕組みをほとんど意識していません。

本記事では、日本IBM・楽天でのSEOやデジタル・マーケティングの実務を経て研究者に転じ、著書『アルゴリズム・AIを疑う　誰がブラックボックスをつくるのか』（集英社新書）を刊行した武蔵大学の宇田川敦史准教授へのインタビュー（聞き手：DEFiDE代表 山本）をもとに、アルゴリズムとAIの違い、ネット情報の見え方をゆがめる仕組み、そしてAI時代に必要な「疑う力」を解説します。

アルゴリズムとAIの違いとは？

「どこからがAIか」については諸説あり、AIもアルゴリズムの一種だとする立場もあります。そのうえで宇田川准教授は、機械学習に基づくニューラルネットワークを使ったAIは、従来のアルゴリズムとは根本的に異なる基礎を持っていると考えています。

「いわゆる技術的なブラックボックスとして、人間がその中身を確認できないという点が、原理的な違いです。」

――宇田川准教授

分類器や生成器といった近年のAIの仕組みは、一定のパラメーターに対して必ず同じ出力がなされるとは限りません。「説明できない」ことが、AIとアルゴリズムを分ける本質的な違いなのです。

なぜ今、ネット情報を「疑う力」が必要なのか

出発点は、プラットフォームの中で感じた「情報の非対称性」

宇田川准教授は、日本IBMでエンジニアとしてWeb開発を手がけた後、楽天でデジタル・マーケティングやUXデザインに携わりました。そこで感じたのが、10年以上続く「クリック至上主義」の限界です。

当時は、配信単価が極めて安いメールマガジンを大量に送るほうが、コンバージョン率（購入や申し込みにつながる割合）が多少低くても儲かる構造がありました。一方でユーザーには不要なメールが大量に届きます。「この矛盾は何なのだろう」という疑問が、研究者へ転身するきっかけになりました。

企業の外からプラットフォームを見直すと、ユーザーに見えている姿と運営側の論理との間に、大きな情報の非対称性（取引主体の間で、情報や知識の量・質に格差がある状態）があることがわかってきたといいます。

「その情報の非対称性をどのように捉えられるのかというところが、一番大きな研究の関心になります。」

――宇田川准教授

リテラシーは「嘘を見破る」だけでは足りない

宇田川准教授によれば、メディアやプラットフォームで流通する情報に向き合うリテラシーとは、単に嘘を見破ったり批判的に読んだりすることだけではありません。メディアの内部的な仕組み、送り手の都合、経済・産業的な状況といった構造的な矛盾まで含めて考える必要があるのです。

ネット情報の見え方をゆがめる3つの仕組み

仕組み1：エコーチェンバー・フィルターバブルと認知バイアスの相互作用

エコーチェンバーやフィルターバブルという現象があること自体は、一般にも知られつつあります。厄介なのは、知っていても、普段の情報接触の中で常に意識し続けるのは難しいという点です。

これはメディアの構造の問題であると同時に、人間の認知の問題でもあります。認知バイアスによって自分の好みの情報ばかりが目に入り、それがエコーチェンバー状態と相互作用することで、世の中の情報の分布が正しく認識されなくなります。自分が思い描く社会の姿と実際の社会の姿との乖離が、どんどん広がっていくのです。

宇田川准教授は、社会全体の状況を個々人が認識できることが民主主義の基本だと指摘します。たとえば、あるマイノリティの人たちがどれくらいの割合で困っているのかを正しく認識することは、資源の再配分を考えるうえで欠かせません。それが難しくなり、しかも難しくなっていることを自覚できない状況が生まれています。

仕組み2：「集合知だから正しい」という思い込み

検索エンジンの上位に表示される「自然検索」の結果には、ユーザーが「信頼できるもの」「正しいもの」という幻想を勝手に抱いてくれる、ある種のマジックがあります。しかし実際には、SEOに取り組む人たちの活動と、関連性を高めようとするGoogleのアルゴリズムの調整との相互作用で、順位は常に変動しています。問題のあるコンテンツが上位に出ることもあります。

SEOの実務を長く経験してきた宇田川准教授は、「集合知だから、何となく正しいだろう」という思い込みを無批判に受け入れるべきではないと語ります。

一方で、プラットフォームを完全に否定するのも極端です。口コミサイトの点数を「集合的な投票で決まるのだから客観的」と信じる人がいる一方で、「プラットフォームの自己都合だから一切信頼できない」と全否定する人もいます。現実はそのどちらでもなく、非常に細かなアルゴリズムやパラメーターの調整という微妙なバランスの上に成り立っている。プラットフォームの中と外の両方を知る立場から、そのバランスを伝えたいというのが宇田川准教授の想いです。

仕組み3：アテンション・エコノミー

「基本的に今起きている色々な社会問題は、ほとんどがアテンション・エコノミーに結びついていると思っています。」

――宇田川准教授

アテンション・エコノミーの源流には、流通する情報量が増え続け、誰もが発信できるようになった「情報オーバーロード」があります。その膨大な情報を、ユーザーが認知できる量に整えているのがアルゴリズムやAIです。

問題は、その間に入るプラットフォームがアテンション・エコノミーの論理に拠って立っていることです。正しい情報や信頼性のある情報を届けることより、注意を引き、クリックされ、PVを稼げる方向へ構造的に傾いてしまう。これが偽・誤情報をはじめとするさまざまな問題の原因につながっていると、宇田川准教授は考えています。

統計で見る偽・誤情報の実態と、本当の「疑う力」

国際大学グローバル・コミュニケーション・センター（GLOCOM）の山口真一氏らの調査によると、過去に流通した偽・誤情報を見せられた人のうち、「正しい情報だと思う」と答えた人の割合は51.5%に上り、「誤っていると思う」と気づけた人は14.5%にとどまりました。

出典：山口真一ほか（2024）「Innovation Nippon 2024 偽・誤情報、ファクトチェック、教育啓発に関する調査研究」（国際大学GLOCOM）

「自分は疑える」と思う人ほど危うい

宇田川准教授が注目するのは、同じ研究グループによる別の知見です。「自分は批判的に考えられている」と自己申告する人ほど、むしろ偽・誤情報を信じやすく、拡散しやすい傾向があるというのです（なお、テストで測ったリテラシーの得点が高い人は拡散しにくいという結果も出ています）。メディア・リテラシーを身につけたという自己認識が、かえって陰謀論や偽・誤情報への気づきを妨げることがあるのです。

疑う力とは「判断を保留し、耐える力」

「メディア・リテラシー」の考え方は、第二次世界大戦後、メディアがプロパガンダ（特定の意見や信念を広めるための情報操作）の片棒を担いではならないという反省から始まったものです。著書のタイトルにある「疑う」には、その歴史を踏まえた「疑う力」を、複雑化したメディア環境の中で考え直す必要があるという意味が込められています。

「疑うというのは、態度を決め切らないということでもあります。」

――宇田川准教授

本当の意味での批判的思考とは、自分自身の力をも疑い、検証できないものは白黒をつけずに保留し、根拠がないまま結論を出せない状態に耐えることです。こうした水準の疑う力は、AIが普及する社会で特に重要になると宇田川准教授は述べています。

AIはますます「予測不能」な領域へ

「超知能」は夢物語でも、別の意味で近づいている

数年前に語られたシンギュラリティ（AIが人間の知能を凌駕し、技術が指数関数的に発展する技術的特異点）には、AIがドラえもんのように自意識や感情を持つという夢物語的な世界観がありました。宇田川准教授は、そうした意味での汎用AIや「超AI」は現在の技術の延長にはなく、深層学習に基づくAIが意識を持つことは原理的にも考えにくいとしています。

一方で、将来の予測はますます難しくなっているといいます。生成AIは同じプロンプトでも同じ答えが返るとは限らず、モデルも変わり続けます。業務プロセスに組み込めば、同じプロンプトでもそのときどきで出力が変わりうるのです。出力が的外れになるわけではなく、むしろユーザーが求める方向に調整されていきますが、なぜそれでユーザーが満足しているのかを、サービスの提供側も説明できない領域が広がっていきます。

「なぜかわからないが最適化されている」状態が社会のあらゆる場所に広がったとき、それを当初の想定とは違う意味での「超AI」の出現と捉えるべき社会になる――そしてそれは止められない方向だと、宇田川准教授は見ています。

よくある質問（FAQ）

Q. アルゴリズムとAIの違いは何ですか？

A. 宇田川准教授は、ルールベースかどうかが根本的な違いだとしています。アルゴリズムは、設計者が事前に定義したルールやパラメーターに基づき、同じ入力には同じ出力を返します。一方、機械学習や深層学習に基づくAIは中身がルールベースではないため、同じ入力でも同じ出力になる保証がなく、人間が中身を確認できない「技術的なブラックボックス」になっています。

Q. エコーチェンバーとは何ですか？

A. エコーチェンバーとは、ユーザーが自分の興味や意見に合った情報だけを受け取り、異なる意見や思想を排除してしまう傾向のことです。SNSのおすすめ機能などで同じような情報ばかりが届くと、「皆が同じことを考えている」と錯覚しやすくなります。

Q. フィルターバブルとは何ですか？

A. フィルターバブルとは、インターネット上に膨大な情報があるにもかかわらず、目に入るものが自分の興味や信念に沿った情報に囲まれてしまう状態のことです。宇田川准教授は、こうした現象と人間の認知バイアスが相互作用し、自分が思い描く社会の姿と実際の社会との乖離が広がっていく点が問題だと指摘しています。

Q. アテンション・エコノミーとは何ですか？

A. アテンション・エコノミーとは、情報があふれる社会で人の注意（アテンション）が希少な資源となり、それを奪い合う経済モデルのことです。宇田川准教授は、プラットフォームが正しさや信頼性よりも「注意を引く・クリックされる」方向に動く構造が、偽・誤情報をはじめとする多くの社会問題につながっていると述べています。

Q. 検索結果の上位や口コミの点数は信頼してよいのですか？

A. 「集合知だから正しい」と無批判に信じるのも、「プラットフォームの都合だから一切信用できない」と全否定するのも極端だというのが宇田川准教授の立場です。検索順位や点数は、アルゴリズムの細かな調整や、そこに介入しようとする人の活動の相互作用で決まっていることを理解したうえで、参考にする姿勢が求められます。

Q. 「疑う力」とは何ですか？

A. 宇田川准教授のいう「疑う力」とは、単に情報を批判的に読むことではなく、根拠がはっきりしないものについて白黒をつけずに判断を保留し、その状態に耐える深い意味での批判的思考です。自分自身の判断力をも疑えることが重要で、AIが普及する社会で特に必要になるとしています。

Q. 生成AIは同じ質問をしても答えが毎回違うのはなぜですか？

A. 機械学習に基づく生成AIはルールベースではないため、同じプロンプトでも同じ出力になるとは限りません。モデル自体も更新され続けます。宇田川准教授は、なぜその出力が最適なのかを提供者自身も説明できない領域が広がっていくことを、当初の想定とは違う意味での「超AI」の出現として捉えるべきだと述べています。

まとめ：情報そのものより「どう届いたか」を疑う

• アルゴリズムとAIの違いは「ルールベースかどうか」。AIは同じ入力でも同じ出力になる保証がなく、中身を確認できない技術的なブラックボックス
• エコーチェンバーと認知バイアスの相互作用、「集合知だから正しい」という思い込み、アテンション・エコノミーが、ネット情報の見え方をゆがめている
• 偽・誤情報を見て「正しい」と判断する人は51.5%。「自分は疑える」という自己認識がかえって危うい
• 本当の「疑う力」とは、自分自身をも疑い、判断を保留して耐える深い意味での批判的思考

私たちが目にする情報の背後には、必ずそれを選び、並べる仕組みがあります。後編では、その仕組みそのものに目を向ける「メディア・インフラ・リテラシー」の考え方と、その身につけ方、そしてAIを経営に生かすための心構えについて伺います。