Netflixドキュメンタリー映画『AI に潜む偏見 人工知能における公平とは』感想（ネタバレあり）〜アルゴリズムを駆使するNetflixが本作を制作した意義は大きい〜
Netflixオリジナルの新作ドキュメンタリー映画『AI に潜む偏見 人工知能における公平とは』ネタバレを含めた感想です。アルゴリズムを駆使するNetflixがこの傑作ドキュメンタリーを制作した意義は大きいと思います！
＜作品情報＞
あらすじ
MITメディア・ラボのジョイ・ブオラムウィーニが顔認識によりなりたい顔になれるシステムを考えたが、黒人女性である彼女の顔は認識されず、白いお面を付けると認識された。実は、AIにたくさんの顔と顔でないものを学習させる過程で、白人男性の顔ばかりを認識させられていたのだ。顔認識技術の問題点から、現代社会の基盤であるアルゴリズムに潜む偏見を検証する傑作ドキュメンタリー。
感想
評価：★★★★☆
AIの問題点
本作はまずAIなどの機械すべてを「悪」とみなしているわけではなく、豊富な実例によって的確に問題点を指摘する作りのため、とてもわかり易い作りになっています。以下がポイントとして挙げられています。
①人間が差別や偏見にまみれているのだから、アルゴリズムも不平等で破壊的になり得る。そのため、特定の人間から大量の歪んだデータを覚えさせられるAIにも差別や偏見が潜む可能性がある。それにもかかわらず、AI の問題になると人は差別的だったことを忘れ、ビッグデータを盲信してしまう。
②「アルゴリズム」＝「数学モデル評価査定ツール」＝「ブラックボックス」。算出実態は不透明で、理解も難しく、説明責任もない。
③そもそもAIも絶対ではなく、顔認識システムの精度も低い。
AIの世界が今いる世界の複製だとしたら、世界から差別はなくなっていない証拠ですよね…。AIと人間が合わせ鏡のような関係になることで、この世に差別や偏見が潜んでいる事実が露わになっていく現状は皮肉を感じます…。
顔認識をめぐる各国の状況
不完全な顔認識システムが国家権力に結びつくとどうなるか。劇中でも少し映像で紹介されるスティーヴン・スピルバーグ監督『マイノリティ・リポート』をはじめ、SF映画が警鐘を鳴らし続けてきた事態が既に世界各地で生じていることを紹介していきます。
例えばロンドンでは完全ではない顔認識システムを警察が使用し、過剰に顔を隠す人は違法とする。香港では顔認識されないようにデモ隊がレーザーポインターで撹乱する。GoogleやFacebook、AmazonやMicrosoftrといった技術系企業の拠点となっている（そしてこの中にはNetflixも含まれている）アメリカでは、攻撃されるリスクがある個人のデータ保護に関して無効状態。全く他人事とは思えないですよね…。
一方で既に顔認識システムが国全体に浸透している中国では、共産党が国民を監視・追跡し、共産党に関する発言は社会信用スコアに影響する友人や家族のスコアにも影響する。スコアが全ての基準になるという一見「悪」とみなされているシステムに対し、時間を無駄にせず信用できる友達が一瞬で分かるとポジティブに捉える中国人女性の話はとても興味深く、透明性という観点だけで言うと他の国と比較して圧倒的に高いという紹介は、優れたドキュメンタリーとしての公平さやバランスを感じます。
国家だけでなく、各業界に問題が波及
さらに本作は、顔認識システムの問題は国家権力だけでなく、金融や法律、教育や住宅といったあらゆる業界にも波及していることを示すことで、より多面的に問題を炙り出していきます。「数学破壊兵器」による不均衡の時代、目に見えないやり方で評価され分類され、知らず知らずのうちに権力者の望む道を歩かされている人間たち。そんな日常の無意識に警鐘を鳴らした傑作ドキュメンタリーだと思います。
顔認証システムではないですが、ごく身近なところで言えば、Netflixが個人の視聴データから最適なコンテンツをレコメンドする機能も同様のことが言えるかも知れません。個人の趣味趣向を分析され、オススメの映画をドンピシャで紹介される。自分の知らない世界を見せてくれる、あるいは自分の見地や好みを拡げてくれる未知の映画とますます出会いづらくなっていく状況は、個人的には寂しい限りです…。
