アメリカの現実⑯「過去のデータから未来を予想するAIには、バイアスが存在する」

Alphabetに勤務していたAI研究の第1人者の解雇問題は、私に将来の社会への不安をもたらした

2020年12月、Alphabetに勤務していた「倫理的な人工知能（AI）研究の第1人者」のTimnit Gebru 博士が、退職した(彼女は解雇されたと明言している）。

解雇理由として、彼女は、自分の研究論文撤回を拒否したことと、女性社員昇進に関する彼女自身のフィードバックをAlphabetが無視したと同僚へのメールで批判したことを、挙げている。

その後CEOのSundar Pichaiは、文書で「博士の退社に対する反応は、はっきりと聞こえている。それは疑念を植え付け、われわれのコミュニティの一部がGoogleにおける立ち位置を自問するに至った」と指摘し、「非常に申し訳なく感じており、信頼回復に努める責任を受け入れたい」と述べている。

私は、今後の私たちの生活に与えるAIの影響力を考えると、この件を目にして、背筋が、ぞくっとしたことを思いだす。

Gebru事件は「経営者が職場で聞きたくない問題、差別が常に存在する」ことを示唆する

Gebru博士は、AI倫理研究分野のリーダー的存在であり、AI関連の黒人団体「Black in AI 」の共同設立者でもある。彼女は「顔認証が女性や有色人種の顔を認証する上での正確性は他より低く、顔認証の使用はこうした人への差別となりかねない」と指摘する、革新的な論文を共同執筆したことで有名な人物でもある。

彼女が解雇されてから、Alphabet社員2,500人以上と学術・産業・市民社会の支持者4,000人以上がGebru博士を支持する請願書に署名した。請願書は、「Gebru博士は、類まれな才能を持ち大きな功績を収めた貢献者としてグーグルから受け入れられるのではなく、保身的な対応や人種差別、Gaslighting（相手が自分の考えを疑うよう仕向ける心理的策略）、研究の検閲を受け、最後に報復として解雇された」と主張している。

2020年のLeadership IQによる5,778人の米国成人対象の調査「Many Leaders Don’t Want To Hear About Discrimination In The Workplace（多くのリーダーは、職場での差別の話を聞きたくない）」でも、職場で自分への問題を起こすことなく常に報告できると感じていた黒人社員はわずか13％だった。また、職場での差別に関する懸念を報告すれば、経営陣は常に解決のため意義のある行動を取ってくれると答えた女性はわずか23％だった。

多くの企業は「聞く姿勢」を見せるが、企業はその際に自己弁護や正当化を試みる。

経営者にとって、職場における差別問題や懸念を聞くことは容易ではなく、尚且つ時には不快な気分になる。これは「認知的不協和」、即ち心理的に相反する2つの考え（或いは態度や意見）を持つ時に生じる不快な緊張状態を創出してしまうからである。

私は、当初AlphabetのCEOのPichaiも非白人であるのに、なぜGebru博士の見解を理解出来ないのか?と一瞬考えたが、シリコンバレーにおけるアジア系非白人は、マイノリティとは言い難い点から考えれば、これは納得がいった。Gebru博士の場合は「黒人+女性」というマイノリティの比重は乗数となり、尚且つAIという今後社会において最も重要な影響力を及ぼす領域で、「女性と有色人種への差別にもつながる、顔認証の不正確さの指摘」は、Alphabetにとって、かなり耳が痛い話である。

Alphabet社員たちのGebru事件以降の急速な動き

2021年1月Alphabetでは、シリコンバレーでは非常に稀な動きであるが、労働組合が結成された。現在社員200名以上が「Alphabet Workers Union」に加入した（Alpabetの社員は13万2,000人以上）。Communications Workers of America Local 1400（米国通信労働組合の1400支部）と提携し、全社員及び契約・派遣社員を対象とする初の労組で、年間の基本給とボーナスの1％を組合費として、毎年支払う組合員によって支えられる。組合の目標は、団体交渉やAlphabetによる正式承認ではなく、「キャリアへの影響に直面することなく、社員が自社について発言できるようにすること」だという。

Alphabetは長年、社員の開かれた議論を促してきたが、一方では社員間の政治的な会話を抑制する狙いのルールも導入している。こうした状況下で、社員の不満は増加し、2018年には数千人の社員が、セクシャルハラスメントの加害者を昇進・保護する職場文化があると訴え、抗議運動に立ち上がった。組合員は、Alphabetが自社に批判的な社員に報復している、差別や嫌がらせの苦情にほとんど対応していないと指摘する。また今回の組合結成の大きな理由の1つとして、Gebru博士の解雇も挙げられており、積極的な行動に打って出ない限り、社内改革は行われないことを実感したという。

Gebru博士に続いて、またしてもAI倫理研究の女性が解雇される

2021年2月19日、Alphabetは、AIの倫理研究の共同責任者だったMargaret Mitchellを解雇した。Alphabetによると、解雇理由は「ビジネス上の極秘文書と他の社員の個人情報をひそかに流出」させたためであるという。但しこれは、彼女はGebru博士を不当に扱った証拠を探っていたために、解雇されたと、言い換えることが可能である。

Mitchellは「私は自分の立場を行使して、Googleに人種と男女の不平等に関する疑念を提起しようとした。こうして解雇されたことに呆然としている」と、Finantial Timesの記者に語っている。

Alphabetの多様性に関する最新の報告によれば、社員のうち女性は3分の1以下で(2019年よりもわずかに減少）、米国の社員の黒人が占める割合は5.5％である（米国人口の黒人比率は13％）。

Alphabetに限らずハイテク企業の人種及びジェンダーの不均衡は常に指摘されている事柄である。但し今後は、労組結成に見られるように、株主以上に「モノ言う社員」の圧力は増大する可能性が高い。さらに、これは人種やジェンダー以外に、労働者の権利や企業の環境問題の取り組みなど、広範囲な課題が取り上げられる傾向にある。

AIに倫理的で公平な判断をさせるためには、多くの人間の力が必要

Gebru問題は、AIが持つバイアスの問題に、人々の注意を向けさせた。膨大な数の過去のテキストから学習するAIは、人種やジェンダーに関する過去のバイアスを取り込んでしまう。より公正な判断をするAIの開発には、時間と資金を犠牲にしてでも、人間のチェックを介在させる必要がある。

政治科学者Virginia Eubanksの2018年の著書『Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor(自動化する不平等）』では、医療や給付金、治安関連の業務で用いられるAIシステムは、官民問わず、偏ったデータと人種的・ジェンダー的なバイアスに基づいて、不安定で有害な判断を下すという。また、AIシステムは判断に至るまでの思考回路がブラックボックス化されているため、たとえ判断結果が間違っていても、それを確認したり、異議を申し立てたりするのが難しいという。

AIは過去から未来を予想するため、バイアスが必ず存在する。この危険性を我々は認知すべきである

Gebru博士が論文で非難したツールは、Google検索システムで検索結果が表示されるまでの過程において、重要な部分を占める。このシステムは、我々の生活を効率的で便利なものにしてくれる。但し、AIは人間の活動や発言について莫大な量のデータを調べ上げて、そこからパターンや相関関係を見いだそうとする。いわば、過去の人間の動きから、未来を予想するという仕組みである。

これは誰もが思い当たるように、膨大な人種やジェンダーに関するステレオタイプ、偏見、差別が過去の我々の言動に存在する以上、それらのバイアスは当然AIに反映される。じゃあ、これを取り除くために、人間の介入や判断を取り込むとすると、どうなるか?　1つ目はその人間の倫理観念が本当に適性であるかどうかを誰が判断するのか?　2つ目は人間の介入によってデータ処理速度は低下してしまう、3つ目は費用がより大きくかかる、といったことが問題として、生じる。

この辺りを考え始めて、私はアタマを抱えてしまった。特に1つ目の「誰の倫理観念を適正と判断するのか?」が、重しのようにのしかかる。

2015年6月28日、NYのプログラマーがアプリGoogle Photoにアップロードしたガールフレンドとの写真(2人は黒人）が「ゴリラ」にタグ付けされた話は有名である。「ゴリラ」に限らず「イヌ」とタグ付けされた例もあり、その後、Googleは「ゴリラ」のタグの削除やキーワードでの検索停止などの対応策を表明したが、抜本的な解決は今もされていない。

コロナ禍の米国において、特にコロナ発生源として中国が、前大統領の言動で煽られて、最近はアジア人へのヘイト発言や行動も事件化するほど目に付く。AIのバイアス問題は、様々な課題を私たちに突き付けてくるが、少なくとも、このAIのバイアスを持ちやすいメカニズムを理解して、多く人達がより偏見や差別のない言動をしていくしかないと思う。そのためにも、あらゆる場所における『Diversity ＆Inclusivity』が重要となり、企業内ではこの問題にしっかり立ち向かう必要がある。

困難な問題であるけれども、早急に解決しなければならない、非常に切迫した問題でもある。未来のために、今手を打つしかない。

アメリカの現実⑥「変化を求められる広告エージェンシーの企業文化」

日本では理解し難いエージェンシー内の白人中心文化

今朝目にしたDigiDayの記事 「エージェンシーの「白人文化」に、黒人社員が変革を求める：「プレッシャーは効いている」」を読んで、すっかり忘れていたが、自分も24年前、米国の広告代理店San Francisco McCann Ericksonで勤務していたことを思い出した。1996年私は、デューティフリー製品を販売するDFS Group担当のAccount Supervisorとして雇用された。DFSのターゲットオーディエンスは、日本人買い物客で、広告は日本の雑誌に掲載することがメインだったので、米国に移住したばかりで職探しに苦労していた私は、自分のStrengthを発揮できると有頂天になった。但し、実際はメディアバイイングを日本のマッキャンエリクソンに委ねていたことから、日米のグループ会社は利害関係が異なり、私はリエゾン的な立場で、両者から球を投げられ、それを捌くという、非常に難しい立場だった。

当時日米間のコミュニケーションは電話とFax主体で、毎晩日本の媒体担当と電話で話し、SFから出るCaltrainの最終の1本前の22:35発に乗りたいが、殆ど乗れず、最終の0:05発に乗ることが多かった。朝はまだ星が出ている時間に家を出て、夜は最終便だったので駅員にもすっかり顔を覚えられて、また今晩も遅かったねと声を掛けられるぐらいだった。

嫌な思い出の1つは、週に1度の英語だけで話す日米のチーム電話会議で、米国チームは英語でまくし立て、日本チームは殆ど反論しないという流れだったが、会議終了間際に日本の担当が「大柴、これが終わったら残れ。日本語で話をつける」と言い放った瞬間である。米国チームは「今、彼は何と言った?」と聞くので、仕方なく私は「彼は私だけ残って日本語で話を詰めたい」と答えると、全員が激昂して「絶対に電話に出てはいけない。彼は会議で全員に話すべきで、ひさみ1人に日本語で話しあうというのはルール違反だ」とわめきだした。私は日本に送る原稿入稿の時間がかなりきついので、今晩彼と話さないと間に合わなくなると説明して、結果日本からの電話を取った。日本の担当者は怒りに震えた声で、米国チームの勝手な言い分を罵り、私はいやいやながら彼を宥めて、何とか原稿入稿を終わらせた。

今思えば、当時の私は日本から来たばかりで、英語がフルーエントではないというコンプレックスによって、米国エージェンシーというプリマドンナ(自分が目立つ・注目されることだけを望む人）だらけの業界で、チームリーダーでありながら、チーム内で嫌われることを恐れて「良い人」であろうと、必死にもがいていた。今日書こうと思ったエージェーンシー内の人種差別とは異なるが、「英語が出来ないというだけで、まるで能力ゼロのように見られる外国人という差別」の中で苦しんでいたのは事実である。

特にエージェンシーでクライアントとの窓口となるAccount SupervisorやAccount Executiveは、24年前は白人が殆どで、それも外見の良いような人が担当者となって、クライアントに通っていた。San Francisco McCann Ericksonで、私が覚えている限りでは、営業は全て白人で、それ以外の部署にアジア系が1人、ヒスパニック系が1人、アフリカ系は皆無で、外国人は私1人ということで、全て白人中心で回っていた。

エージェンシーの中の黒人社員は「白人文化に馴染んで同化するように仕向けられる」

米国の人気Sitcom television seriesに「Black-ish」という番組があるが、黒人のアッパーミドルクラスの家庭を描く、2014年から続く人気番組である。主人公のAndre 'Dre' Johnsonは、白人ばかりのエージェンシーで唯一の黒人のエグゼクティブで、黒人をターゲットするプロジェクトでは、Strategistとして、白人チーム内で常に意見を求められる。彼は白人の上司及び同僚達のステレオタイプな黒人像に、いつも呆れて激昂しながら、エージェンシー内で苦労している。

このTV番組で訴求されるメッセージと同じことが、今朝のDigiDayの記事の中に書かれてあった。

あるエージェーンシーグループに勤務する黒人のStrategistであるBrandon（仮名） は、仕事は好きだが、常に黒人社員が「白人文化に馴染んで同化する」よう仕向けられる、エージェンシーの「一枚岩」文化に悩ませられているという。複数のエージェンシーで経験した人種差別的カルチャーについて、以下のように語っている。

“I’ve always been like, ‘I can take that, I can deal,’” “But right now, the combination of what’s happening with how my agency has handled everything up to this point—to be candid, I feel disrespected. We’ve received a number of emails but not one of them has any points of action. So obviously when the fifth one comes through, I’m like, ‘Ok, now you’re insulting my intelligence.’”「『これくらい受け入れられる、問題ない』と、いつも自分を納得させていた」「だが、いま起こっている事態と、エージェンシーがこれまで問題にどう対処してきたかを考え合わせると、はっきり言って私は軽んじられてきたと思う。（会社から）たくさんのeメールを受け取ったが、どれひとつとしてアクションポイントを示していなかった。だから、5通目のメールを見たときは、『私の頭が足りないと思っているのか』という気分だった」。

広告業界に勤務する黒人社員達の改革を求める公開書簡

今世界中でBLM（Black Lives Matter）の抗議運動の嵐が吹きすさぶ中、Brandonを含む広告業界に勤務する600名の黒人社員達が「エージェンシーの変革を求める公開書簡に署名した。これを主導したのは、Periscopeのグループ戦略ディレクターのNathan Youngと、Aerialistの創業者のBennett D. Bennettで、黒人社員とそれ以外の有色人種の社員が働きやすいよう職場環境を改善するための12の具体的なアクションを列挙した。

これはエージェンシーのリップサービスや旧態依然ぶりに辟易している社員たちが、真のDiversity  & Inclusionのために変化を求めて、ボトムアップの圧力をかける事例である。この書簡で社員たちはエージェンシーに、黒人社員の割合を増やす努力、Diversityに関するデータを公表することを求めている。エージェンシーがどう対応するかは、いまのところ未知数である。

Black agency professionals have an unequivocal response for U.S. advertising agencies: release your diversity data and reform your practices now.
Kacy Burdette

記事によれば、IPG、WPP、Omnicom Group、Publicis Groupe、電通からは現時点で回答は得られていない。唯一Havasは、フランスの法律で社員の民族的出自に関するデータの収集は禁じられているものの、「彼らが作成したリストを指針として利用し、包括的な取り組みに基づいて、ビジネスにおける意思決定を行う」としている。

もうエージェンシーは社内の人種差別を無視出来ないレベルに近づいている

このエージェンシーにおける人種差別は、長い間言われてきたことで、ことさら新しいコトではない。ただ往々にして、エージェンシーが実施した主な対策といえば、Diversity ＆ Inclusionの担当責任者を採用して、彼らに丸投げするだけで、成果をあげるために必要なリソースを提供してこなかった。要は、誰も真剣に取り上げて改善する意思がなかったといえる。

但し、今回はそうはいかない。

すでにGorge Floyd事件から3週間以上経つが、抗議行動は収まらず、BLMを求める一般の眼は、政府・行政・警察のみにとどまらず、お為ごかしの言葉のみでBLMに賛成する企業に対しても、「本当に人種差別や社会的不平等撤廃を行動を伴って実施する気はあるのか?」と鋭い眼差しを投げつけている。そうした企業をクライアントとして抱える広告業界が、いつまでも「白人中心文化」というぬるま湯につかっているとしたら、クライアント側は、そうしたエージェンシーを切っていく。これは今後間違いなく起こりえる現実である。