生成AIの偽情報はなぜ防げない？AI時代に磨くべき力｜一橋大学・小町守教授

生成AIによる偽情報を抑制できる可能性があるのは、事実上、SNSや検索エンジンを運営するプラットフォーマーだけです。だからこそ、ルール作りと、一人ひとりの判断力の両方が欠かせません。

生成AIによって、それらしい文章や画像は誰でも簡単に作れるようになりました。一橋大学の小町守教授は、AIは道具であり、それをどう使うかの責任は人間にあると語ります。

本記事では、小町教授へのインタビュー（聞き手：デフィデ株式会社 代表 山本哲也）をもとに、生成AIの偽情報を防ぎにくい理由、LLMグルーミングの危険、日本がルール作りに参加すべき理由、そしてAI時代に磨くべき数学・論理・判断力を解説します。

生成AIの偽情報はなぜ防げないのか

生成AIによるフェイクニュースや誤情報の流布を抑制できるか――。小町教授の答えは「難しい」です。

SNSに流れるデマを止められるのはそのSNSの運営会社だけであり、検索結果に表示されるウェブ上のデマを防げるのも検索エンジンの運営会社だけです。第三者が検索結果にフィルターをかける仕組みを作っても、一般ユーザーがそれを使ってくれるわけではありません。結局は、プラットフォーマーがどれだけ倫理観を持ち、コンプライアンスを意識しているかにかかっています。

そして、偽情報は私たちが思う以上に見抜きにくいものです。国際大学GLOCOMの調査では、過去に流通した偽・誤情報を見た人のうち「正しい情報だと思う」と答えた人は51.5%に上り、「誤っていると思う」と気づけた人は14.5%にとどまりました。

出典：山口真一ほか（2024）「Innovation Nippon 2024 偽・誤情報、ファクトチェック、教育啓発に関する調査研究」（国際大学GLOCOM）

特に日本人は、周りの人の意見を気にする傾向が強いと小町教授は指摘します。SNSを含むウェブには自動生成されたテキストや画像があふれ、資金のある人が意見をコントロールできる状況になりつつあります。これは規制しなければどうしようもない、というのが小町教授の見方です。

LLMグルーミングと「価値観の内面化」のリスク

価値観が「国」から「企業」単位に

これまで価値観は、国や文化のレベルでなんとなく共有されていました。今はそれが企業のレベルになり、知らず知らずのうちに一企業の価値観を内面化してしまうことがありえると小町教授は言います。実際、特定の歴史的な出来事について回答しないように作られた言語モデルもあります。悪用しようと思えば、人の潜在意識に働きかけることは容易です。だからこそ、透明性の高い開発と、国を越えたルール作りが非常に重要になります。

学習データを汚染する「LLMグルーミング」

LLMグルーミングとは、自分たちの主張に有利なテキストをウェブ上に大量に埋め込み、それを学習した大規模言語モデルの出力に、その主張を反映させる手法です。生成AIを使ってソーシャルメディア上で直接意見を誘導するだけでなく、学習データそのものを汚染して世論を誘導する――特定の国の主張を広めるために、こうした手法が使われている事例も指摘されています。

「技術的にできることは色々とあるのですが、できるからといって、やって良いとは限らない」

――小町教授

開発する側は倫理観を意識しなければならない――哲学を学んだ経歴を持つ小町教授は、技術者の中には楽観的すぎる、ナイーブすぎる人もいると懸念を示しています。

日本はAIのルール作りに参加すべき

ヨーロッパは規格づくりに力を入れ、AIに関わる情報保護の議論をリードしています。一方、中国や米国は実利主義で、覇権を取るまでとにかく先に進む姿勢です。

日本が1位を目指しても、中国や米国の資本が入ってくれば奪われてしまう。だからこそ小町教授は、日本はルールを作る側にある程度意見を出していかなければならないと考えています。

• 日本人はルール作りが苦手：決められたルールの中で1位を取ろうと頑張りがち
• 1位を取るとルールが変えられる：「日本に有利なルールだから変えよう」と、ルール自体を変えられることがある
• 世界の議論に入る：物事のサイクルが速くなった今、国を越えたルール作りの議論にしっかり参加する必要がある

データの少ない言語にも光を当てる

言語の中には、データの少ない「低資源言語」があります。それぞれの言語には十分なデータがあっても、日本語とスペイン語のように、言語の組み合わせによっては対訳データがほとんどないケースもあります。小町教授の研究室には、話し手がもういない古代エジプト語を研究したいという学生もいます。

小町教授が他大学・研究機関の研究者と共同で取り組んでいるのが、ケニアの若い世代が使う、スワヒリ語と英語が混ざった言語の研究です。同じ文の中で複数の言語が混ざる「コードミキシング」と呼ばれる現象で、文法はスワヒリ語に近い一方、単語には英語や各民族の語彙が混ざります。テキストのデータがほとんどなく、年齢が離れると通じないほど変化が速い――言語が生まれ、変わっていく現象に、小町教授は関心を寄せています。

AI時代に磨くべき力――数学・論理・判断

「読み書きそろばん」のうち、数学の価値は変わらない

深層学習が広まる10年ほど前まで、現代の「読み書きそろばん」は英語・プログラミング・数学だと言われていました。今は状況が変わっています。

生成AIは、厳密な論理や数字の正確な扱い、文字数の制御など、厳密さを求められることが苦手です。数学や厳密な論理に基づいて理解したり書いたりすることは、自分の手でやったほうがよいと小町教授は言います。

リスキリングで1つ選ぶなら「ロジカルなプレゼンテーション力」

ビジネスパーソンがリスキリングで1つだけ学ぶなら何か――小町教授の答えは、ロジカルなプレゼンテーション力です。文章でもスライドでも、ある程度の「型」を身につけ、誤解なく伝える力は、ネイティブであってもトレーニングしなければ身につきません。

理系は実験レポートや卒業論文でアカデミックライティングを徹底的に学びますが、人文系では必ずしもそうではなく、卒業論文を書かずに卒業できる大学も少なくありません。その訓練を受けないままだと、ある程度の長さの文章を書くことも、論理的に相手を説得することも、論理的に書かれた文章を読むことも難しくなり、高度な仕事をしようとしたときの足かせになるといいます。

判断まではAIに任せない――「自分の心で考える」

自ら調べ、自ら考え、自ら行動する「自調自考」に加えて、小町教授の恩師は「自分の心で考える」ことが大事だと説いていたといいます。生成AIに聞けば選択肢は示してくれますが、どちらに進むべきかは決めてくれません。何が良いかは、結局自分で判断するしかないのです。

小町教授の研究でも、人間と大規模言語モデルの評価スコアの相関が高くても、人間が高く評価する点と機械が高く評価する点が違うことがあります。うまくいっているうちはよくても、何かが間違ったときに原因を突き止めて調整するのは難しいのです。

「結局、AIやデータサイエンスは、調理器具みたいなものなのです。」

――小町教授

調理器具は料理にも使えますが、人を傷つけることもできます。その責任は道具にはなく、使う人にあります。判断まですべて任せていると、評価する力や物事を見極める目が失われかねない。だからこそ、教育では責任を取る練習が必要であり、短いサイクルでさまざまなことに挑戦し、良し悪しを自分で判断しながら見る目を養ってほしいと小町教授は語ります。

「データを取りに行く」教育――ソーシャル・データサイエンス学部

データやエビデンスに基づいて意思決定や分析をすることは、社会科学に限らずますます重要になっています。一橋大学ソーシャル・データサイエンス学部・研究科が最も伝えたいのは、どこかにきれいなデータがあるわけではないということです。

現場では、該当する部署に足を運び、根回しをして時間をかけて信頼関係を築き、ようやくデータを出してもらえます。それを知らずに「データをくれれば分析します」という姿勢になってはいけない――データをもらうところも仕事の一つだと、同学部はとても重視しています。

座学だけで閉じないカリキュラムは人気を集め、現在は3期生まで迎えています。学部生は8割が理系出身です。

【キャプションを記入（不要な場合はfigcaptionごと削除）】

変化が速い時代こそ、自分で試し続ける

今後5〜10年で自然言語処理のゲームチェンジャーになる技術は何か――その問いに、小町教授は「特にない」と答えます。研究から実用化までのサイクルが非常に速くなり、5年前にはChatGPTも存在していませんでした。5年後を想定するのは難しいものの、今と同じか、それ以上の速さで世の中が変わっていくことは確かです。文章を書くときにかな漢字変換を使うのと同じ感覚で、誰もがChatGPTのような生成AIを使う世の中にすぐになる、と小町教授は見ています。

変化に追いつくために心がけているのは、若い人と話し、情報をもらうことです。「自分のほうが詳しい」とは思わず、面白そうなことがあれば素直に聞き、自分で試してみます。自分が使っていないサービスの改善点はわかるはずがない――だから、少しでも時間があれば使い倒すのだといいます。

よくある質問（FAQ）

Q. 生成AIによる偽情報は抑制できますか？

A. 小町教授は難しいとしています。偽情報を抑制できる可能性があるのは、SNSや検索エンジンを運営するプラットフォーマーだけです。第三者がフィルターを用意しても、一般ユーザーがそれを使うとは限らないため、プラットフォーマーの倫理観やコンプライアンス意識が重要になります。

Q. LLMグルーミングとは何ですか？

A. LLMグルーミングとは、自分たちの主張に有利なテキストをウェブ上に大量に埋め込み、それを学習した大規模言語モデルの出力に、その主張が反映されるよう仕向ける手法や現象のことです。小町教授は、こうした学習データの汚染による世論誘導が現実に指摘されていると述べています。

Q. 日本はAIのルール作りにどう関わるべきですか？

A. 小町教授は、資本力で米国や中国と正面から競うのは難しいため、日本はルールを作る側に意見を出していく必要があると述べています。決められたルールの中で1位を目指しても、ルール自体を変えられてしまうことがあるからです。国を越えたルール作りの議論にしっかり参加することが重要だとしています。

Q. AI時代に学んでおくべき数学は何ですか？

A. 小町教授は、英語やプログラミングは生成AIの支援で以前ほど必死に学ぶ必要がなくなった一方、数学の価値は変わらないと述べています。具体的には、線形代数、微分・積分、確率・統計の3つを挙げています。生成AIの裏側には至るところで数学が使われているからです。

Q. ビジネスパーソンがリスキリングで1つ学ぶなら何がよいですか？

A. 小町教授は「ロジカルなプレゼンテーション力」を挙げています。文章でもスライドでも、ある程度の「型」を身につけ、誤解なく相手に伝える力です。ネイティブであってもトレーニングが必要で、論理的に書かれた文章を読む力にもつながります。

Q. AIに判断を任せてもよいですか？

A. 小町教授は、判断まで任せるのは危険だとしています。生成AIは選択肢を示してくれますが、どちらに進むべきかは決めてくれません。AIやデータサイエンスは調理器具のような道具であり、その使い方の責任は人間にあります。自分で判断する経験を重ねることで、評価力や見る目が養われます。

まとめ：AIは道具。使い方の責任は人間にある

• 生成AIの偽情報を抑制できるのは事実上プラットフォーマーだけ。偽・誤情報を「正しい」と判断する人は51.5%に上る
• 価値観が企業単位で内面化されるリスクや、学習データを汚染するLLMグルーミングへの警戒が必要
• 資本で競うのが難しい日本は、国を越えたルール作りの議論に参加していくべき
• AI時代も数学（線形代数、微分・積分、確率・統計）の価値は変わらない。リスキリングならロジカルなプレゼン力
• 判断まではAIに任せず、自分の心で考え、責任を持つ練習を重ねる

AIやデータサイエンスは、料理にも凶器にもなりうる調理器具です。道具の進化が速い時代だからこそ、それを使う人間の判断力と責任が問われています。