中国の感情認識技術は、人種差別的偏見があり不正確だとして技術の禁止を求める人権団体から批判を受けている。
感情認識技術とは何ですか？
この技術は、カメラと機械学習を利用して、怒り、悲しみ、喜び、退屈などの表情を識別する。このシステムは、顔の筋肉の動き、ボディランゲージ、声のトーン、その他の生体信号に基づいて当局が人の感情を推測するのに役立つはずである。データベースから顔を比較する顔認識技術とは異なり、感情認識は人の行動について推測する。国内の一般市民はこの技術に満足していないが、この件に関して選択の余地はほとんどない。
しかし、顔認識と同様に、人物を追跡、監視、プロファイリングするために機密性の高い個人データを大量に収集し、機械学習を使用して表情やその他の手がかりを分析します。
参照: クラウドウォッシングとは何か、そしてなぜ企業がそれを避けることが重要なのか?
Taigusysとその技術に関する意見
Taigusys はこの技術を専門とする企業のひとつだ。同社の代表である Chen Wei 氏は、感情認識は、囚人の危険な行動を予測したり、検問所で潜在的犯罪者を特定したり、学校で問題を抱えた生徒を認識したり、老人ホームの高齢者の認知症を認識したりする手段だと語る。同社のシステムは 300 の刑務所や拘置所に設置されており、6 万台以上のカメラと接続している。
「拘置所では暴力や自殺が非常に多く見られます。最近の警察は囚人を殴ったりはしませんが、眠らせないようにして疲れさせようとします。その結果、囚人の中には精神を病んで自殺しようとする人もいます。私たちのシステムは、そのような事態を防ぐのに役立ちます」とチェン氏は言う。
Taigusys 社のシステムは、生徒、職員、教師を監視するために学校にも導入されている。学校でのこの技術の使用は批判を招いているが、当局による市民に対する感情認識の使用についてはあまり議論されていない。
参照: Microsoft Viva とは何ですか? なぜ気にする必要があるのですか?
技術に対する批判
この技術の妥当性に対する批判は、疑似科学に基づいており、固定観念に大きく依存していると言う。多くの人権活動家は、この技術が表現の自由、プライバシー、人権に深刻な悪影響を及ぼす可能性があると言う。新興技術の社会的法的影響に焦点を当てた弁護士であるヴィドゥシ・マルダは、英国の人権団体Article 19のデジタルプログラムマネージャーでもある。彼女は、「生体認証による監視の多くは、脅迫や検閲と密接に結びついていると思います。そして、感情認識はまさにその一例だと思います」と言う。