AIに任せる仕事を見極める鍵は、AIの仕組みを理解すること、そして「責任を取ることはAIに委ねられない」という前提に立つことです。
AIと一言でまとめてしまいがちですが、AIには得意なことと不得意なことがあります。東京科学大学の市瀬龍太郎教授は、AIにできることは任せ、できないことは人が担う――その区分けを、働く人も経営者もしっかり考えることが必要だと語ります。
本記事では、市瀬教授へのインタビュー（聞き手：デフィデ株式会社 代表 山本哲也）をもとに、AIにできること・できないことの見極め方、AIに委ねられない責任の問題、日本のオフィスワークでAI活用が進まない理由、そしてAIを使う影響まで理解することの大切さを解説します。
この記事でわかること
・AIにできること・できないことを見極める判断基準
・なぜ「責任」はAIに委ねられないのか
・技術だけでは解決できない、AIの社会実装と合意形成
・日本のオフィスワークでAI活用が進まない理由
・AIの原理と、AIを使う影響を理解することの大切さ
「AIでできることは任せれば良いし、できないことは任せられないから人間がやらなければいけません。」
――市瀬教授
とはいえ、その区分けは簡単ではありません。一般の企業が「ここはAIに任せてよい」「ここは任せてはいけない」を判断するには、何を基準にすればよいのでしょうか。市瀬教授の話から、次の3つの判断基準が見えてきます。
| 判断基準 | 考え方 |
|---|---|
| ① AIの仕組みを理解しているか | 最も重要な前提。仕組みがわかれば、AIに何ができて何ができないかが見えてくる |
| ② 判断の責任はどれだけ重いか | AIは責任を取れない。責任の重い判断ほど、人がAIを理解したうえで確信を持って最終判断する必要がある |
| ③ 社会や組織の合意が得られているか | AIを導入するには、それを受け入れる環境や制度が必要。技術だけでは解決できない |
「責任を取るというのは、AIに委譲できない部分です。」
――市瀬教授
前編で紹介した説明可能なAIも、最後に誰かが責任を取ることを前提としています。責任を取る人は、AIを理解したうえで判断したことが前提になり、そのためには自分の判断が正しいという確信を持たなければなりません。
市瀬教授は、責任の重さの違いを次のように説明します。同じ「目視での検査」でも、その重さは大きく違います。
| 検査の例 | 責任の重さ | AI活用の考え方 |
|---|---|---|
| 品物の目視検査（検査員か機械か） | 比較的小さい | AIに任せやすい |
| がんの有無の目視検査（医師か機械か） | 非常に大きい | AIは異常の検知や注意喚起を担い、最終判断は人が責任を持って行う |
AIを社会に導入するには、AIを導入できる環境を整える必要があります。自動運転はその典型です。自動運転によって事故の数は大きく減らせるかもしれませんが、ゼロにはできません。仮に犠牲者が1000人から10人に減ったとしても、自分の知り合いがその10人に入っていたら、「全体で減ったのだから許容してほしい」とは言えないでしょう。
「技術だけでは、なかなか解決できない部分があるということです。」
――市瀬教授
AIの技術だけで解決できる問題と、社会制度を含めて変えていく必要がある問題――後者が以前と比べて非常に大きくなっていると市瀬教授は感じています。欧米や中国と伍していくには、技術と社会の両面から考えることが欠かせません。
総務省「令和7年版 情報通信白書」によると、生成AIの活用方針を定めている企業の割合は、日本では約5割にとどまる一方、米国・中国・ドイツでは約9割に達しています。
| 国 | 生成AIの活用方針を定めている企業の割合 |
|---|---|
| 日本 | 約5割 |
| 米国・中国・ドイツ | 約9割 |
出典：総務省「令和7年版 情報通信白書」
市瀬教授は、日本でもものづくりの分野ではAIがかなり取り入れられている一方、オフィスワーカーの仕事にはまだまだ活用の余地があると、企業とのやりとりの中で感じています。その背景にあるのが、評価の考え方です。
結果を重視するのか、努力を重視するのか。日本では努力を重視する傾向が大きいと市瀬教授は言います。すると、AIでできることでも、一生懸命自分でやればそれが評価されてしまいます。
最近は変わってきたものの、職場に長く残っている人が評価され、仕事をどんどん片付けて早く帰る人が評価されないという話もあります。これでは、AIを使って効率化すればするほど、仕事をしていないように見えてしまいます。AI活用を進めるには、まず評価の感覚から変えていかなければならないのです。
AIにできる仕事は、AIに任せる仕組みを
手間のかかる定型業務をAIに任せ、人は責任を伴う判断や価値を生む仕事に集中する。DEFiDEの社内業務クラウド「SmartOps」は、AIエージェントやRAG、AI-OCRを活用し、社内手続きの確認や社内情報の検索、紙の書類のデータ化などを効率化します。基本機能はずっと無料で、必要な機能だけを追加できます。
AIで提案書やレポートを作っても、内容が間違っていることは少なくありません。問題は、それを見抜ける人が少ないことです。市瀬教授の答えは明快です。
「やはり、AIの原理みたいなものを知らないといけません。」
――市瀬教授
原理を知らないと、そこで騙されてしまいます。原理から「何ができて、何ができないか」が見えてくるからです。一般のビジネスパーソンにとって原理を学ぶハードルは高いかもしれませんが、それをわかりやすく解説していくことも専門家の重要な役割だと市瀬教授は述べています。
デジタルが日常だった若い世代は、AIをすぐに使いこなせるようになります。一方で、AIを使ったことによってどんな影響が出るのかまでは、想いが至らない部分も多いと市瀬教授は感じています。技術だけでなく、AIを使うことによる影響まで知ることで、より上手な使い方ができ、社会の役に立つようになります。情報教育の中でも、AIの比重は今後大きくなっていくだろうといいます。
市瀬教授が研究で使うのは、Metaが開発したLlamaなどのオープンなLLMです。研究には検証のための再現性が必要ですが、商用サービスのクローズドなモデルは突然アップグレードされ、同じ条件で結果を再現できなくなることがあるためです。業務にAIを組み込む企業にとっても、モデルの更新で結果が変わりうることは知っておきたいポイントです。
これからの日本社会について、市瀬教授は「能力補償」という考え方を挙げます。自分にない能力を研究で作り出したい――それが多くのAI研究者の動機になっているといいます。面倒なことを機械が代わりにやってくれたら便利ではないか、と考える研究者も少なくありません。
手間のかかる仕事はどんどんAIに任せ、人間に足りない能力をAIに補ってもらい、人は本当にやりたいことに集中する。そんな社会になれば、より幸福な社会になるのではないか――市瀬教授はそう描いています。
A. 市瀬教授は、最も重要なのはAIの仕組みを理解することだと述べています。仕組みがわかれば、何ができて何ができないかが見えてきます。そのうえで、AIは責任を取れないという前提に立ち、判断の責任の重さを意識しながら、AIに任せる部分と人が担う部分を区分けすることが必要です。
A. 責任を取ることはAIに委ねられません。市瀬教授は、同じ目視検査でも、品物の検査とがんの有無の検査では責任の重さが大きく違うと指摘しています。責任の重い判断では、AIを理解したうえで人が確信を持って最終判断する必要があります。
A. 市瀬教授は、日本では結果よりも努力を重視する傾向があることを要因に挙げています。職場に長く残る人が評価され、効率よく仕事を片付けて早く帰る人が評価されにくい環境では、AIで効率化するほど仕事をしていないように見えてしまいます。評価の感覚から変えていく必要があります。
A. 市瀬教授は、AIを社会に導入するには、それを受け入れる環境や制度を整える必要があると述べています。例えば自動運転で事故が大幅に減ってもゼロにはできず、残る犠牲をどう扱うかは技術だけでは解決できません。社会の中でしっかりと合意を形成していくことが求められます。
A. AIが作った提案書やレポートの誤りを見抜くには、AIの原理を知ることが必要だと市瀬教授は述べています。原理がわかれば、AIに何ができて何ができないかが見え、騙されにくくなります。専門家が原理をわかりやすく解説していくことも重要な役割だとしています。
A. 研究では検証のために再現性が必要です。商用サービスのクローズドなモデルは突然アップグレードされ、同じ条件で結果を再現できなくなることがあります。そのため市瀬教授は、Metaが開発したLlamaなどのオープンなモデルを使うことが多いと述べています。
AIは万能ではありません。だからこそ、その原理を知り、任せる範囲と人が担う範囲を見極めることが、AIを本当の意味で活用する第一歩になります。
自社のAI活用の「現在地」を知ることから
AIに任せる範囲を見極めるには、まず組織の中でAIがどう使われているかを知ることが大切です。DEFiDEの「生成AIワークバリュー・スコア分析」で、組織の生成AI活用の状況を把握し、次の打ち手を明確にできます。
▶ 前編：知識グラフとは？生成AIのハルシネーションを検出し、説明できるAIを実現する仕組み
▶ インタビュー全文：AIの原理を知ることが基本（後編）