感情は誰のものか
AIが心を読む時代に、労働組合が守るべき「感情主権」

井下　敬翔

作成日時：2026年9月7日

1. はじめに：「笑顔」が査定される職場

コールセンターのオペレーターが電話を切る。
画面の隅に、AIが判定した「感情スコア」が表示される。
「怒り：12%、悲しみ：7%、ポジティブ：81%」。
上司はその数字を見て、応対品質の評価をつける。
オペレーター本人がどう感じていたかは関係ない。
AIが「ポジティブ」と判定すれば、それが記録として残る。

これは架空の話ではない。すでに海外では、AIによる感情分析を職場の管理ツールとして導入する企業が現れている。日本でも、コールセンターの応対品質評価や採用面接における感情分析の利用が報じられるようになった。まだ大規模な導入には至っていないが、技術はすでに実用段階にある。
著者は、AIによる感情分類（テキストや音声から人間の感情を推定する技術）を専門とする研究者である。日々、感情AIの精度を高め、その限界を明らかにする研究に取り組んでいる。その立場から、はっきりと伝えたいことがある。「感情AIには、現時点で根本的な限界がある。そして、その限界を理解しないまま職場に導入すれば、労働者は不当に評価され、不当に管理される。」ということである。本稿では、感情AIの技術的な限界を研究者の視点から具体的に示したうえで、この技術が職場に本格導入される前に、連合・労働組合が今から取り組むべきことを提言する。これは、今そこにある危機への対処ではない。確実に来る未来に対して、今から備えるための提言である。

2. 海外で何が起きているか：感情監視の現在地

2.1 すでに始まっている職場の感情分析

感情AIの職場導入は、海外では2020年代に入って加速している。米国ではAmazonが物流倉庫で従業員の生産性と行動をリアルタイムに追跡するシステムを運用し、2022年にはカリフォルニア州で監視アルゴリズムの透明性を求める法律（AB 701）が施行された [5]。直接的に感情を測定するシステムとは異なるが、労働者の行動を数値化しアルゴリズムで管理するという枠組みは、感情AIの導入と地続きである。より直接的な事例として、Cogito社やCallMiner社は通話中の音声から感情状態をリアルタイムで分析するシステムを提供しており [7]、Microsoftも2020年に個人の生産性スコアを数値化する機能を導入した [8]。中国では従業員の表情をカメラで常時撮影しAIで判定するシステムも報道されている [9]。以上の事例を表1にまとめる。感情AIの職場導入は、国・業界を問わず多様な形態で進行しており、それぞれに固有の問題を抱えている [1]。

表1. 感情AIの海外導入事例

企業・組織名国導入内容問題点・社会的反応
Amazon米国倉庫従業員の生産性・行動のリアルタイム追跡カリフォルニア州AB 701法で監視アルゴリズムの透明性を義務化
Cogito / CallMiner米国コールセンターの通話音声から感情をリアルタイム分析し、共感度・ストレス度をスコア化スコアに基づく管理により、労働者の内面が数値で管理される構造
Microsoft米国Microsoft 365上で個人の「生産性スコア」を算出プライバシー団体の批判を受け個人スコアを撤回。組織レベルの分析は継続
中国企業（杭州等）中国従業員の表情をカメラで常時撮影し、集中度・疲労度をAI判定規制の緩さにより侵襲的な監視が進行。労働者の異議申立て手段が乏しい

2.2 日本の現状：まだ本格化していない、しかし準備もない

日本では、職場における感情AIの導入はまだ限定的である。コールセンターでの応対品質分析や採用面接における表情分析の試験導入など、局所的な利用にとどまっている。しかし、日本語の感情分析モデルはすでに商用利用可能な水準に達しており、導入を阻んでいるのは技術的障壁ではなく社会的合意の不在である。問題は、このまだ本格化していない状況を、まだ対応しなくてよいと捉えてしまうことにある。ここで思い出すべきはテレワークの例である。コロナ禍以前から技術的基盤は整っていたにもかかわらず、多くの企業で労使間のルール整備が進んでいなかったため、2020年の急速な移行時に事後的な対応に追われる企業が続出した。感情AIについても、大規模導入が始まってからルールを議論するのでは同じ轍を踏むことになる。世界の感情認識AI市場は今後数年間で数百億ドル規模にまで成長すると予測されており、感情AIがいつ職場へ入ってくるかは予測困難だが、来るかどうかではなくいつ来るかの問題であることは市場動向からも明らかである。

3. 感情AIは何を間違えるのか：技術者からの警告

ここからは、著者自身の研究知見に基づいて、感情AIの構造的な限界を述べる。これは単なるまだ精度が低いという話ではない。精度が向上しても解消されない、根本的な問題である。

3.1 人間の感情判断は「揺らぐ」：不確実性の問題

感情AIの多くは、入力されたテキストや音声に対して「怒り」「悲しみ」「喜び」といったラベルを一つ付与する。しかし、人間が同じテキストを読んだとき、全員が同じ感情ラベルを選ぶわけではない。著者の研究では、英語の感情分類データセット（約5万8千件のテキスト、各テキストに複数の評価者が感情ラベルを付与）を分析した [3]。その結果、評価者全員が同一の感情ラベルに合意したテキストは全体の約19%にすぎなかった。つまり、残りの約81%のテキストでは、人間の間でも「これは怒りなのか、悲しみなのか」「苛立ちなのか、失望なのか」という判断が割れている。これは評価者の能力不足ではない。感情という現象そのものが、本質的に曖昧だからである。ところが、現行の感情AIの多くは、この「揺らぎ」を無視して、一つの答えを出力する（図1）。著者の研究チームは、統計手法を用いて感情判断の不確実性を定量的に分解する手法を開発した [3]。これにより、「このテキストの感情は、怒りである確率が40%、悲しみが35%、苛立ちが25%」というように、判断の分布として表現できる。重要なのは、分布の幅そのものが情報だということである。意見が大きく割れるテキストに対してAIが自信満々に一つのラベルを付与することは、本質的に間違っている。

図1. 同じテキストに対する人間の判断分布（左）とAIの判定結果（右）。

3.2 最新AIも「迷い方」は真似られない

近年、ChatGPTに代表される大規模言語モデル（LLM）が感情分析にも応用されるようになった。しかし、著者たちの研究は、ここにも深刻な限界があることを明らかにした [2]。複数のLLMに同じテキストの感情を繰り返し判定させ、その判定分布を人間の評価者と比較した結果、LLMは多数決において最も多く選ばれたラベルは高い精度で再現できるが、人間の迷い方のパターンは再現できなかった。これは職場導入を考えるうえで決定的な問題である。たとえば、人間の評価者10人中6人が「怒り」、4人が「悲しみ」と判断したテキストについて、AIは「怒り」とだけ出力する。しかし、そのテキストは「怒りと悲しみの境界にある」のであり、そのニュアンスこそが適切な対応に不可欠な情報である。

3.3 文化と文脈の壁

感情の表現と解釈は、文化によって大きく異なる [1]。日本の職場で用いられる婉曲的な表現、沈黙の意味、空気を読む文化に基づく感情表出は、主に英語圏のデータで学習した感情AIモデルが想定するパターンとは質的に異なる。たとえば、日本のビジネスメールにおける「承知いたしました」は、文字通りの了承から不本意ながらの受諾、さらには暗黙の抗議まで、幅広いニュアンスを含みうる。感情AIがこの一文を「中立」と判定しても、書き手の実際の感情を反映している保証はない。感情AIが出力する判定結果は、特定の文化的枠組みに基づいた翻訳であり、普遍的な事実ではないのである。ここで、「AIのほうが人間の主観を排除できるから公平なのでは」という疑問があるかもしれない。しかし、AIも訓練データに含まれる偏見を反映する。そして感情AIの場合、さらに根本的な問題がある。前述のとおり、人間の評価者間の合意率が19%にとどまる以上、正しい感情の答え自体が存在しない。正解のない問題に対して公平な判定を行うことは、原理的に不可能である。

4. 来る「感情の時代」：「話さなくてもわかるAI」の到来

4.1 受動的感情推論への移行

現在のAI活用は、人がチャットボットに質問を入力するなど能動的な場面が中心である。しかし、技術はすでに受動的な感情推論の方向に進んでいる。ウェアラブル端末による心拍の測定、カメラによる表情分析、打鍵パターンからのストレス推定、メールのテキスト分析など、複数のデータソースを統合して労働者の感情状態を常時モニタリングすることが技術的に可能になりつつある。この「話さなくてもわかるAI」への移行は、労働者と管理者の関係を根本的に変える。従来の人事管理では、部下が自分の状態を自分の言葉で伝えるプロセスがあった。感情AIが介在する管理では、このプロセスが省略される。労働者が「私は大丈夫です」と言っても、AIが「ストレス度：高」と判定すれば、そちらが記録に残る可能性がある。

4.2 特に影響を受ける労働者

感情AIの職場導入は、すべての労働者に等しく影響するわけではない。特に大きな影響を受けるのは、まず介護・看護、接客・小売、コールセンターなど、業務の中核に感情のコントロールが求められる感情労働者である。これらの職種では感情AIが感情の質を直接評価するツールとなりうるが、例えば共感度スコアが低いと判定された介護士が、実際には利用者の状態を深く理解しあえて控えめな態度をとっていた、ということは十分にありうる。次に、契約更新の判断材料にAI評価が直結しうる非正規労働者、AIの判定を所与のものとして受け入れ感情の過剰適応に陥るリスクのある若年労働者、感情表現のパターンが日本語話者と異なるために不当な評価を受けうる外国人労働者、そして感情の表出パターンが定型的でない障害のある労働者が挙げられる。これらは特定の少数者にとどまらず、介護・接客・コールセンターだけでも数百万人規模の労働者が直接的な影響圏にあり、オフィスワーカーを含めればその射程はきわめて広い。

5. 「感情主権」という考え方

ここで、一つの概念を紹介する。「感情主権」という考え方である。感情主権とは、AIがどれほど精密に感情を測定しても、その意味を最終的に決めるのは本人自身であるという原則である。つまり、AIにあなたの気持ちを決めさせない、ということである。これは単なるスローガンではない。前節で述べたとおり感情AIの判定には不確実性があり、それを最終的な事実として扱うことは技術的にも倫理的にも正当化できない。感情主権の原則は、三つの要素から構成される。まず、自分の感情がどのように分析・利用されているかを知る権利。次に、AIの判定が自分の実際の感情と異なると感じた場合に異議を申し立て、修正や削除を求める権利。最後に、業務上の必要性が明確でない感情モニタリングについてデータ収集そのものを拒否する権利である。この感情主権は、EUが2024年に成立させたAI規制法（AI Act）の考え方とも整合する [4]。同法は、医療・安全目的など限定的な例外を除き、職場や教育機関における感情認識AIの使用を原則として禁止している。また、ILO（国際労働機関）もAIと労働者の権利に関する議論を進めており [6]、感情主権はこれらの国際的動向を踏まえつつ、労働者の権利としてより明確に定式化したものである。なお、感情主権は突飛な概念ではなく、日本の既存の法制度の延長線上にある。個人情報保護法の要配慮個人情報の枠組みにおいて、感情データは心身の機能や状態に関する情報として該当しうるとの解釈の余地がある。また、労働安全衛生法のストレスチェック制度は、本人の同意を前提とし結果は本人にのみ通知される設計である。感情AIによる常時モニタリングにも、少なくとも同等の原則が適用されるべきであろう。このように、感情主権の要求は既存の法的枠組みと地続きの、現実的な権利主張なのである。

6. 労働組合が今やるべきこと――三つの提言

感情AIの本格導入はまだ先の話かもしれない。しかし、本格導入された後に「こんなはずではなかった」と気づいても遅い。労働組合の強みは、労働者の権利を事前に交渉し、制度として確立できることにある。その強みを、感情AIという新しい課題に対しても発揮すべきである。以下に、連合・労働組合が今から取り組むべきことを、三つの柱として提言する。

図2. 感情AIの職場導入の見通しと、労働組合が今から取り組むべき三つの柱。

提言1：学ぶ：感情AIリテラシーの確立

最初にやるべきことは、労働者と組合役員が感情AIについて正しく理解することである。AIは万能だという過信も、AIなんて信用できないという全否定も、適切な対応にはつながらない。必要なのは、感情AIが何をできて、何をできないのかを具体的に理解するリテラシーである。具体的には、以下のような取り組みを提案する。

  • 「感情AI対策検討委員会（仮称）」の設置：まず、連合が主導し、AI研究者、労働法学者、プライバシー専門家を招いた検討委員会を設置する。この委員会が、以下の研修プログラムや情報提供の内容を監修し、科学的根拠に基づいた対策を策定する。連合総研の既存のセミナー・研究インフラを活用すれば、新規の大幅な予算措置を伴わずに立ち上げることが可能である。
  • 組合役員向け研修プログラムの開発と展開：感情AIの仕組み、技術的限界、海外事例を体系的に学ぶ3時間程度の研修プログラムを開発する。対象はまず連合本部および産業別労組の役員とし、段階的に各企業の組合代表へ展開する。タイムラインとしては、2027年度中に試行版を完成させ、2028年度から本格展開を目指す。カリキュラムは三部構成とし、第1部（60分）で感情AIの基礎知識と各技術の精度・限界を解説、第2部（60分）で参加者自身が同じテキストの感情を判定し判断の揺らぎを体験するワークショップ、第3部（60分）で導入提案時に確認すべきチェックリストの共有とケーススタディを行う。
  • 組合員向けの情報提供：あなたの感情がAIに読まれるとき、何が起きるかをわかりやすく解説するパンフレット（A4判8ページ程度を想定）やウェブコンテンツを作成し、産業別労組を通じて各職場に配布する。抽象的な議論ではなく、「コールセンターで」「採用面接で」「日常のメールで」といった具体的な場面ごとに、感情AIが何をしているかを示す。
  • 若年層への発信：SNSや動画コンテンツを活用し、若年労働者にリーチする。過去の受賞提言でも指摘されているとおり、若年層への組合の発信力強化は重要な課題である。感情AIという、若年層にとって身近なテーマを入口に、労働者の権利や組合の役割について関心を持ってもらう機会とする。

提言2：備える：団体交渉に「感情データ」を載せる

感情AIがまだ大規模導入されていない今だからこそ、団体交渉の枠組みの中に感情データの取り扱いに関する条項を事前に整備することが可能であり、かつ有効である。導入後の事後交渉では、既成事実に追われる形になりやすい。具体的には、以下の交渉項目を労働協約に盛り込むことを提案する。

  • 事前協議条項：感情分析を含むAIシステムを職場に導入する際には、導入の目的、対象範囲、使用するデータの種類、判定結果の利用方法について、事前に労使で協議することを義務づける条項。
  • 透明性の確保：AIによる感情判定が行われる場合、対象となる労働者に対して、判定の事実、使用されるアルゴリズムの概要、判定結果の保存期間と利用範囲を通知することを求める条項。
  • 人事評価への直接反映の禁止：AIの感情判定結果を、人事評価、昇進・降格、契約更新の判断に直接反映することを禁止する条項。感情AIの判定はあくまで参考情報とし、最終的な評価は人間が行うことを明文化する。
  • 異議申立て手続き：AIの感情判定に対して労働者が異議を申し立てる手続きを整備する条項。異議申立てを行ったことを理由に不利益な取り扱いを受けないことを保証する。
  • データの削除請求権：業務上の合理的な必要性がなくなった感情データについて、労働者が削除を請求できる権利を定める条項。

これらの条項は個人情報保護法やEUのAI規制法 [4] の動向とも整合的であり、法的にも合理的な要求として位置づけられる。重要なのは、感情AIが導入される前に交渉の俎上に載せることである。たとえば、ある企業がコールセンター部門に音声感情分析AIを導入しようとする場合、これらの条項があれば、経営側に導入目的・対象範囲・利用方法の提示を求め、対象者への通知やデータ保存期間の上限を要求し、スコアの査定利用禁止や異議申立て手続きを合意するといった、明確な枠組みに基づく対等な協議が可能となる。

提言3：つなぐ：国際連携と制度設計への参画

感情AIは国境を越える技術である。グローバル企業が本社の方針として感情AIを導入すれば、日本の事業所にも影響が及ぶ。労働組合が国内の交渉だけに閉じていては、技術の展開速度に対応しきれない。

  • 国際労働運動との連携：EU AI規制法は、事実上職場における感情認識AIの使用を原則として禁止し、医療・安全目的の例外を除いて厳格な規制を課している [4]。欧州の労働組合は、この法律の策定過程に積極的に関与してきた。連合は、ITUC（国際労働組合総連合）の定期大会やETUC（欧州労働組合連合）のAI・デジタル化に関するワーキンググループにおいて、感情AIの規制動向と各国組合の対応事例を共有する場に参加し、日本の実情に合った対応策を検討すべきである。まずは、ITUCの既存のデジタル労働権に関する協議枠組みに、感情AIのテーマを議題として提案することが第一歩となる。
  • 政策提言への参画：日本政府はAI戦略を策定し、AIの社会実装を推進している。しかし、労働者の視点からの検討は十分とは言い難い。連合は、厚生労働省の労働政策審議会をはじめとする関連審議会に対して、感情AIの職場導入に関するガイドライン策定のための委員派遣を積極的に要請すべきである [6]。具体的には、AIを活用した労務管理に関する専門検討会の設置を働きかけ、労働者側委員として参画することが重要である。
  • 産業横断的な情報共有：感情AIの導入は業種によって速度や形態が異なる。コールセンター、介護、小売、製造業など、それぞれの業界で何が起きているかを産業別組合間で共有する場を設ける。具体的には、連合AI対策フォーラム（仮称）を年1回開催し、先行して導入が進む業界の経験や交渉事例を他の業界の組合が事前に学べる仕組みを作ることを提案する。

7. おわりに：「まだ早い」が「もう遅い」になる前に

本稿で述べてきたことをまとめる。感情AIの判定には根本的な不確実性があり [3]、現行のシステムはそれを利用者に伝えない [2]。この技術が不確実性を隠したまま職場に組み込まれれば、労働者はAIの判定に反論する手段を持たないまま評価される危険がある。誤解のないように言えば、著者は感情AIを使うなと主張しているのではない。メンタルヘルスの早期発見やコミュニケーション改善など、有益な活用法もある。しかし、そのためには技術の限界が正しく理解され、労働者の権利が制度的に守られていることが前提となる。その前提を作るのが、労働組合の仕事である。著者が感情主権という言葉を用いたのは、感情はデータではなくその人自身のものだという当たり前のことを確認したかったからである。AIがいかに精密に分析しても、その判定は「参考値」にすぎない。自分の感情の意味を決めるのは本人である。この原則がすべての労働者に当てはまり、制度によって裏づけられていること——それが、働くことを軸とする安心社会の一つの条件ではないかと考える。労働組合は100年以上にわたり、そのつど新しい課題に向き合い、制度を作ってきた。感情の権利は、その歴史に加わる次の章である。まだ早いと思えるうちにこそ、動くべきである。

参考文献