TOPマネジメント > データ処理やAIが苦い経験につながった5つの事例(下)

マネジメント

データ処理やAIが苦い経験につながった5つの事例(下)

2020/11/20

Thor Olavsrud CIO

 世界で最も価値が高い資源は、今や石油ではなくデータだ──そんな記事を英紙The Economistが掲載したのは2017年のことだった。これ以降、同様の話はさまざまな形で繰り返され、あらゆる業種の企業が、データやアナリティクスに多額の投資を続けている。だが、石油と同じように、データやアナリティクスも、光があれば影もある。

前回から続く)

採用候補者を判定するAmazonのAIが男性を優遇

Credit: Ryan McGuire / Gratisography

 米Amazon.comのような大企業は、採用候補者の中から有望な人材を選び出せるシステムを求めている。そこで同社は2014年、AIを活用した候補者判定システムの開発に乗り出した。だが、こうしてできたシステムには、男性の候補者に有利な判定を下すという問題があり、結局Amazonはこの開発プロジェクトを断念した。この件については、2018年の英Reutersの報道で明らかになった。

 Amazonが開発したシステムは、採用選考の応募者に1~5点で評価を付ける仕組みだったが、その核となる機械学習モデルは、過去の応募者が提出した10年分の履歴書のデータを使ってトレーニングしたもので、大半は男性の履歴書だった。その結果、例えば履歴書に「女性の」という言葉が出てくると評価を下げたり、女子大卒の候補者を低く評価したりするものになっていた。

 Amazonは、こうした判定を中立的に行うようプログラムを修正したが、別の面で差別的な選考の仕方を学習しない保証はないと判断し、プロジェクトの終了を決めた。

 当時のAmazonの説明によると、同社の採用担当者がこのシステムを応募者の評価に使ったことはないとしている。

↑ページ先頭へ