AIにできること・できないことの見極め方｜東京科学大学・市瀬龍太郎教授

AIに任せる仕事を見極める鍵は、AIの仕組みを理解すること、そして「責任を取ることはAIに委ねられない」という前提に立つことです。

AIと一言でまとめてしまいがちですが、AIには得意なことと不得意なことがあります。東京科学大学の市瀬龍太郎教授は、AIにできることは任せ、できないことは人が担う――その区分けを、働く人も経営者もしっかり考えることが必要だと語ります。

本記事では、市瀬教授へのインタビュー（聞き手：デフィデ株式会社 代表 山本哲也）をもとに、AIにできること・できないことの見極め方、AIに委ねられない責任の問題、日本のオフィスワークでAI活用が進まない理由、そしてAIを使う影響まで理解することの大切さを解説します。

AIにできること・できないことの見極め方

「AIでできることは任せれば良いし、できないことは任せられないから人間がやらなければいけません。」

――市瀬教授

とはいえ、その区分けは簡単ではありません。一般の企業が「ここはAIに任せてよい」「ここは任せてはいけない」を判断するには、何を基準にすればよいのでしょうか。市瀬教授の話から、次の3つの判断基準が見えてきます。

責任はAIに委ねられない

「責任を取るというのは、AIに委譲できない部分です。」

――市瀬教授

前編で紹介した説明可能なAIも、最後に誰かが責任を取ることを前提としています。責任を取る人は、AIを理解したうえで判断したことが前提になり、そのためには自分の判断が正しいという確信を持たなければなりません。

市瀬教授は、責任の重さの違いを次のように説明します。同じ「目視での検査」でも、その重さは大きく違います。

技術だけでは解決できない「社会の合意」

AIを社会に導入するには、AIを導入できる環境を整える必要があります。自動運転はその典型です。自動運転によって事故の数は大きく減らせるかもしれませんが、ゼロにはできません。仮に犠牲者が1000人から10人に減ったとしても、自分の知り合いがその10人に入っていたら、「全体で減ったのだから許容してほしい」とは言えないでしょう。

「技術だけでは、なかなか解決できない部分があるということです。」

――市瀬教授

AIの技術だけで解決できる問題と、社会制度を含めて変えていく必要がある問題――後者が以前と比べて非常に大きくなっていると市瀬教授は感じています。欧米や中国と伍していくには、技術と社会の両面から考えることが欠かせません。

日本のオフィスワークでAI活用が進まない理由

総務省「令和7年版 情報通信白書」によると、生成AIの活用方針を定めている企業の割合は、日本では約5割にとどまる一方、米国・中国・ドイツでは約9割に達しています。

出典：総務省「令和7年版 情報通信白書」

市瀬教授は、日本でもものづくりの分野ではAIがかなり取り入れられている一方、オフィスワーカーの仕事にはまだまだ活用の余地があると、企業とのやりとりの中で感じています。その背景にあるのが、評価の考え方です。

「努力」を重視しすぎる評価が、AI活用の壁に

結果を重視するのか、努力を重視するのか。日本では努力を重視する傾向が大きいと市瀬教授は言います。すると、AIでできることでも、一生懸命自分でやればそれが評価されてしまいます。

最近は変わってきたものの、職場に長く残っている人が評価され、仕事をどんどん片付けて早く帰る人が評価されないという話もあります。これでは、AIを使って効率化すればするほど、仕事をしていないように見えてしまいます。AI活用を進めるには、まず評価の感覚から変えていかなければならないのです。

AIの原理と、AIを使う影響を理解する

AIの誤りを見抜くには、原理を知ること

AIで提案書やレポートを作っても、内容が間違っていることは少なくありません。問題は、それを見抜ける人が少ないことです。市瀬教授の答えは明快です。

「やはり、AIの原理みたいなものを知らないといけません。」

――市瀬教授

原理を知らないと、そこで騙されてしまいます。原理から「何ができて、何ができないか」が見えてくるからです。一般のビジネスパーソンにとって原理を学ぶハードルは高いかもしれませんが、それをわかりやすく解説していくことも専門家の重要な役割だと市瀬教授は述べています。

若い世代に必要なのは「使った影響」への想像力

デジタルが日常だった若い世代は、AIをすぐに使いこなせるようになります。一方で、AIを使ったことによってどんな影響が出るのかまでは、想いが至らない部分も多いと市瀬教授は感じています。技術だけでなく、AIを使うことによる影響まで知ることで、より上手な使い方ができ、社会の役に立つようになります。情報教育の中でも、AIの比重は今後大きくなっていくだろうといいます。

研究者がオープンなLLMを使う理由

市瀬教授が研究で使うのは、Metaが開発したLlamaなどのオープンなLLMです。研究には検証のための再現性が必要ですが、商用サービスのクローズドなモデルは突然アップグレードされ、同じ条件で結果を再現できなくなることがあるためです。業務にAIを組み込む企業にとっても、モデルの更新で結果が変わりうることは知っておきたいポイントです。

AIが人の能力を補う「能力補償」の社会へ

これからの日本社会について、市瀬教授は「能力補償」という考え方を挙げます。自分にない能力を研究で作り出したい――それが多くのAI研究者の動機になっているといいます。面倒なことを機械が代わりにやってくれたら便利ではないか、と考える研究者も少なくありません。

手間のかかる仕事はどんどんAIに任せ、人間に足りない能力をAIに補ってもらい、人は本当にやりたいことに集中する。そんな社会になれば、より幸福な社会になるのではないか――市瀬教授はそう描いています。

よくある質問（FAQ）

Q. AIにできることとできないことは、どう見極めればよいですか？

A. 市瀬教授は、最も重要なのはAIの仕組みを理解することだと述べています。仕組みがわかれば、何ができて何ができないかが見えてきます。そのうえで、AIは責任を取れないという前提に立ち、判断の責任の重さを意識しながら、AIに任せる部分と人が担う部分を区分けすることが必要です。

Q. AIに任せてはいけない仕事はありますか？

A. 責任を取ることはAIに委ねられません。市瀬教授は、同じ目視検査でも、品物の検査とがんの有無の検査では責任の重さが大きく違うと指摘しています。責任の重い判断では、AIを理解したうえで人が確信を持って最終判断する必要があります。

Q. なぜ日本のオフィスワークではAI活用が進まないのですか？

A. 市瀬教授は、日本では結果よりも努力を重視する傾向があることを要因に挙げています。職場に長く残る人が評価され、効率よく仕事を片付けて早く帰る人が評価されにくい環境では、AIで効率化するほど仕事をしていないように見えてしまいます。評価の感覚から変えていく必要があります。

Q. AIによる事故の責任は誰が取るべきですか？

A. 市瀬教授は、AIを社会に導入するには、それを受け入れる環境や制度を整える必要があると述べています。例えば自動運転で事故が大幅に減ってもゼロにはできず、残る犠牲をどう扱うかは技術だけでは解決できません。社会の中でしっかりと合意を形成していくことが求められます。

Q. AIの誤りを見抜くには何が必要ですか？

A. AIが作った提案書やレポートの誤りを見抜くには、AIの原理を知ることが必要だと市瀬教授は述べています。原理がわかれば、AIに何ができて何ができないかが見え、騙されにくくなります。専門家が原理をわかりやすく解説していくことも重要な役割だとしています。

Q. 研究者はなぜオープンなLLMを使うのですか？

A. 研究では検証のために再現性が必要です。商用サービスのクローズドなモデルは突然アップグレードされ、同じ条件で結果を再現できなくなることがあります。そのため市瀬教授は、Metaが開発したLlamaなどのオープンなモデルを使うことが多いと述べています。

まとめ：AIの原理を知り、任せる範囲を見極める

• AIにできることは任せ、できないことは人が担う。その区分けは働く人にも経営者にも必要
• 見極めの鍵は、AIの仕組みの理解、判断の責任の重さ、社会や組織の合意の3つ
• 責任はAIに委ねられない。責任の重い判断ほど、人がAIを理解したうえで確信を持って判断する
• 日本のオフィスワークでAI活用が進まない背景には、結果より努力を重視する評価の感覚がある
• AIの誤りを見抜くには原理を知ること。若い世代にはAIを使う影響への想像力も求められる

AIは万能ではありません。だからこそ、その原理を知り、任せる範囲と人が担う範囲を見極めることが、AIを本当の意味で活用する第一歩になります。