アルゴリズムとAIの違いは、「ルールベースかどうか」にあります。アルゴリズムは人が定義したルールに従って同じ入力に同じ出力を返しますが、機械学習に基づくAIは同じ入力でも同じ出力になる保証がなく、人間が中身を確認できない「ブラックボックス」になっています。
検索結果、SNSのタイムライン、ECサイトのおすすめ、口コミサイトの点数――私たちが日々目にする情報の多くは、こうしたアルゴリズムやAIによって選ばれ、並べられています。それにもかかわらず、私たちはその仕組みをほとんど意識していません。
本記事では、日本IBM・楽天でのSEOやデジタル・マーケティングの実務を経て研究者に転じ、著書『アルゴリズム・AIを疑う 誰がブラックボックスをつくるのか』（集英社新書）を刊行した武蔵大学の宇田川敦史准教授へのインタビュー（聞き手：DEFiDE代表 山本）をもとに、アルゴリズムとAIの違い、ネット情報の見え方をゆがめる仕組み、そしてAI時代に必要な「疑う力」を解説します。
この記事でわかること
・アルゴリズムとAIの違い（ルールベースか、技術的なブラックボックスか）
・エコーチェンバー、集合知の思い込み、アテンション・エコノミーなど情報をゆがめる3つの仕組み
・統計で見る偽・誤情報の実態と、本当の意味での「疑う力」
・AIが予測不能な領域に入っていく中で、私たちが持つべき視点
「どこからがAIか」については諸説あり、AIもアルゴリズムの一種だとする立場もあります。そのうえで宇田川准教授は、機械学習に基づくニューラルネットワークを使ったAIは、従来のアルゴリズムとは根本的に異なる基礎を持っていると考えています。
| 比較項目 | アルゴリズム | AI（機械学習・深層学習） |
|---|---|---|
| 基本的な性質 | ルールベース。エンジニアや設計者が事前に定義したルール・パラメーターで動く | ルールベースではない。データから学習した結果で出力する |
| 入力と出力の関係 | 同じ入力には必ず同じ出力を返す | 同じ入力でも同じ出力になる保証がない |
| 言語化・説明 | プログラミング言語で書ける＝言語化・説明が原理的に可能 | 人間が中身を確認できず、説明が原理的に難しい |
| ブラックボックスの種類 | 社会的に構築されるブラックボックス（中身を知る人がどこかにいる） | 技術的なブラックボックス |
「いわゆる技術的なブラックボックスとして、人間がその中身を確認できないという点が、原理的な違いです。」
――宇田川准教授
分類器や生成器といった近年のAIの仕組みは、一定のパラメーターに対して必ず同じ出力がなされるとは限りません。「説明できない」ことが、AIとアルゴリズムを分ける本質的な違いなのです。
宇田川准教授は、日本IBMでエンジニアとしてWeb開発を手がけた後、楽天でデジタル・マーケティングやUXデザインに携わりました。そこで感じたのが、10年以上続く「クリック至上主義」の限界です。
当時は、配信単価が極めて安いメールマガジンを大量に送るほうが、コンバージョン率（購入や申し込みにつながる割合）が多少低くても儲かる構造がありました。一方でユーザーには不要なメールが大量に届きます。「この矛盾は何なのだろう」という疑問が、研究者へ転身するきっかけになりました。
企業の外からプラットフォームを見直すと、ユーザーに見えている姿と運営側の論理との間に、大きな情報の非対称性（取引主体の間で、情報や知識の量・質に格差がある状態）があることがわかってきたといいます。
「その情報の非対称性をどのように捉えられるのかというところが、一番大きな研究の関心になります。」
――宇田川准教授
宇田川准教授によれば、メディアやプラットフォームで流通する情報に向き合うリテラシーとは、単に嘘を見破ったり批判的に読んだりすることだけではありません。メディアの内部的な仕組み、送り手の都合、経済・産業的な状況といった構造的な矛盾まで含めて考える必要があるのです。
| 用語 | 意味（一文定義） |
|---|---|
| エコーチェンバー | ユーザーが自分の興味や意見に合った情報だけを受け取り、他の意見や思想を排除する傾向 |
| フィルターバブル | 膨大な情報があるにもかかわらず、見るものが自分の興味や信念に囲まれてしまう状態 |
| 認知バイアス | 人間の思考や判断に影響を与える、非合理的な傾向 |
| 集合知 | 多様な知識が結集したもの。「多くの人の評価だから正しい」という期待を生みやすい |
| アテンション・エコノミー | 情報過多の社会で人の注意が希少な資源となり、それを奪い合う経済モデル |
| プラットフォーム資本主義 | プラットフォームを介してデータを収集・活用し、企業が利益を最大化していく経済モデル |
エコーチェンバーやフィルターバブルという現象があること自体は、一般にも知られつつあります。厄介なのは、知っていても、普段の情報接触の中で常に意識し続けるのは難しいという点です。
これはメディアの構造の問題であると同時に、人間の認知の問題でもあります。認知バイアスによって自分の好みの情報ばかりが目に入り、それがエコーチェンバー状態と相互作用することで、世の中の情報の分布が正しく認識されなくなります。自分が思い描く社会の姿と実際の社会の姿との乖離が、どんどん広がっていくのです。
宇田川准教授は、社会全体の状況を個々人が認識できることが民主主義の基本だと指摘します。たとえば、あるマイノリティの人たちがどれくらいの割合で困っているのかを正しく認識することは、資源の再配分を考えるうえで欠かせません。それが難しくなり、しかも難しくなっていることを自覚できない状況が生まれています。
検索エンジンの上位に表示される「自然検索」の結果には、ユーザーが「信頼できるもの」「正しいもの」という幻想を勝手に抱いてくれる、ある種のマジックがあります。しかし実際には、SEOに取り組む人たちの活動と、関連性を高めようとするGoogleのアルゴリズムの調整との相互作用で、順位は常に変動しています。問題のあるコンテンツが上位に出ることもあります。
SEOの実務を長く経験してきた宇田川准教授は、「集合知だから、何となく正しいだろう」という思い込みを無批判に受け入れるべきではないと語ります。
一方で、プラットフォームを完全に否定するのも極端です。口コミサイトの点数を「集合的な投票で決まるのだから客観的」と信じる人がいる一方で、「プラットフォームの自己都合だから一切信頼できない」と全否定する人もいます。現実はそのどちらでもなく、非常に細かなアルゴリズムやパラメーターの調整という微妙なバランスの上に成り立っている。プラットフォームの中と外の両方を知る立場から、そのバランスを伝えたいというのが宇田川准教授の想いです。
「基本的に今起きている色々な社会問題は、ほとんどがアテンション・エコノミーに結びついていると思っています。」
――宇田川准教授
アテンション・エコノミーの源流には、流通する情報量が増え続け、誰もが発信できるようになった「情報オーバーロード」があります。その膨大な情報を、ユーザーが認知できる量に整えているのがアルゴリズムやAIです。
問題は、その間に入るプラットフォームがアテンション・エコノミーの論理に拠って立っていることです。正しい情報や信頼性のある情報を届けることより、注意を引き、クリックされ、PVを稼げる方向へ構造的に傾いてしまう。これが偽・誤情報をはじめとするさまざまな問題の原因につながっていると、宇田川准教授は考えています。
国際大学グローバル・コミュニケーション・センター（GLOCOM）の山口真一氏らの調査によると、過去に流通した偽・誤情報を見せられた人のうち、「正しい情報だと思う」と答えた人の割合は51.5%に上り、「誤っていると思う」と気づけた人は14.5%にとどまりました。
| 偽・誤情報を見たときの判断 | 回答の割合 |
|---|---|
| 正しい情報だと思う | 51.5% |
| わからない | 34.0% |
| 誤っていると思う | 14.5% |
出典：山口真一ほか（2024）「Innovation Nippon 2024 偽・誤情報、ファクトチェック、教育啓発に関する調査研究」（国際大学GLOCOM）
宇田川准教授が注目するのは、同じ研究グループによる別の知見です。「自分は批判的に考えられている」と自己申告する人ほど、むしろ偽・誤情報を信じやすく、拡散しやすい傾向があるというのです（なお、テストで測ったリテラシーの得点が高い人は拡散しにくいという結果も出ています）。メディア・リテラシーを身につけたという自己認識が、かえって陰謀論や偽・誤情報への気づきを妨げることがあるのです。
「メディア・リテラシー」の考え方は、第二次世界大戦後、メディアがプロパガンダ（特定の意見や信念を広めるための情報操作）の片棒を担いではならないという反省から始まったものです。著書のタイトルにある「疑う」には、その歴史を踏まえた「疑う力」を、複雑化したメディア環境の中で考え直す必要があるという意味が込められています。
「疑うというのは、態度を決め切らないということでもあります。」
――宇田川准教授
本当の意味での批判的思考とは、自分自身の力をも疑い、検証できないものは白黒をつけずに保留し、根拠がないまま結論を出せない状態に耐えることです。こうした水準の疑う力は、AIが普及する社会で特に重要になると宇田川准教授は述べています。
数年前に語られたシンギュラリティ（AIが人間の知能を凌駕し、技術が指数関数的に発展する技術的特異点）には、AIがドラえもんのように自意識や感情を持つという夢物語的な世界観がありました。宇田川准教授は、そうした意味での汎用AIや「超AI」は現在の技術の延長にはなく、深層学習に基づくAIが意識を持つことは原理的にも考えにくいとしています。
一方で、将来の予測はますます難しくなっているといいます。生成AIは同じプロンプトでも同じ答えが返るとは限らず、モデルも変わり続けます。業務プロセスに組み込めば、同じプロンプトでもそのときどきで出力が変わりうるのです。出力が的外れになるわけではなく、むしろユーザーが求める方向に調整されていきますが、なぜそれでユーザーが満足しているのかを、サービスの提供側も説明できない領域が広がっていきます。
「なぜかわからないが最適化されている」状態が社会のあらゆる場所に広がったとき、それを当初の想定とは違う意味での「超AI」の出現と捉えるべき社会になる――そしてそれは止められない方向だと、宇田川准教授は見ています。
AIの回答に「根拠」を持たせるなら
生成AIを業務で使うなら、回答の出どころを確認できる仕組みが欠かせません。DEFiDEの「chai+」は、社内の文書やマニュアルを参照して回答するRAG型のAIチャットボットです。根拠となる情報をもとに回答するため、生成AIの「もっともらしい誤り」を抑えながら業務に活用できます。
A. 宇田川准教授は、ルールベースかどうかが根本的な違いだとしています。アルゴリズムは、設計者が事前に定義したルールやパラメーターに基づき、同じ入力には同じ出力を返します。一方、機械学習や深層学習に基づくAIは中身がルールベースではないため、同じ入力でも同じ出力になる保証がなく、人間が中身を確認できない「技術的なブラックボックス」になっています。
A. エコーチェンバーとは、ユーザーが自分の興味や意見に合った情報だけを受け取り、異なる意見や思想を排除してしまう傾向のことです。SNSのおすすめ機能などで同じような情報ばかりが届くと、「皆が同じことを考えている」と錯覚しやすくなります。
A. フィルターバブルとは、インターネット上に膨大な情報があるにもかかわらず、目に入るものが自分の興味や信念に沿った情報に囲まれてしまう状態のことです。宇田川准教授は、こうした現象と人間の認知バイアスが相互作用し、自分が思い描く社会の姿と実際の社会との乖離が広がっていく点が問題だと指摘しています。
A. アテンション・エコノミーとは、情報があふれる社会で人の注意（アテンション）が希少な資源となり、それを奪い合う経済モデルのことです。宇田川准教授は、プラットフォームが正しさや信頼性よりも「注意を引く・クリックされる」方向に動く構造が、偽・誤情報をはじめとする多くの社会問題につながっていると述べています。
A. 「集合知だから正しい」と無批判に信じるのも、「プラットフォームの都合だから一切信用できない」と全否定するのも極端だというのが宇田川准教授の立場です。検索順位や点数は、アルゴリズムの細かな調整や、そこに介入しようとする人の活動の相互作用で決まっていることを理解したうえで、参考にする姿勢が求められます。
A. 宇田川准教授のいう「疑う力」とは、単に情報を批判的に読むことではなく、根拠がはっきりしないものについて白黒をつけずに判断を保留し、その状態に耐える深い意味での批判的思考です。自分自身の判断力をも疑えることが重要で、AIが普及する社会で特に必要になるとしています。
A. 機械学習に基づく生成AIはルールベースではないため、同じプロンプトでも同じ出力になるとは限りません。モデル自体も更新され続けます。宇田川准教授は、なぜその出力が最適なのかを提供者自身も説明できない領域が広がっていくことを、当初の想定とは違う意味での「超AI」の出現として捉えるべきだと述べています。
私たちが目にする情報の背後には、必ずそれを選び、並べる仕組みがあります。後編では、その仕組みそのものに目を向ける「メディア・インフラ・リテラシー」の考え方と、その身につけ方、そしてAIを経営に生かすための心構えについて伺います。
AI活用の第一歩を、専門家と一緒に
DEFiDEは、AI/DXコンサルティングと自社SaaSの開発・提供を通じて、企業のAI活用を支援しています。AIを「使うこと」を目的にせず、どこに価値を生むかから一緒に設計します。
▶ 後編：メディア・リテラシーとは？AI時代に必要な「メディア・インフラ・リテラシー」
▶ インタビュー全文：AIを疑う力が、人間の価値を再定義する（前編）