TOPマネジメント > データ処理やAIが苦い経験につながった5つの事例(中)

マネジメント

データ処理やAIが苦い経験につながった5つの事例(中)

2020/11/18

Thor Olavsrud CIO

 世界で最も価値が高い資源は、今や石油ではなくデータだ──そんな記事を英紙The Economistが掲載したのは2017年のことだった。これ以降、同様の話はさまざまな形で繰り返され、あらゆる業種の企業が、データやアナリティクスに多額の投資を続けている。だが、石油と同じように、データやアナリティクスも、光があれば影もある。

前回から続く)

医療サービスの判定アルゴリズムが白人を優遇

Credit: Nathan Dumlao

 米誌Scienceが2019年に掲載した研究結果で、米国の医療機関や保険会社が使用しているアルゴリズムの問題が明らかになった。医療サービスの対象とする患者を判定するためのアルゴリズムが、黒人より白人にとって有利なものになっていたというものだ。

 この医療サービスは、慢性疾患があり合併症のリスクが高い患者をアルゴリズムで判定し、合併症を防ぐためのケアを提供することを狙いとしていたが、このアルゴリズムが出すスコアに従うと、黒人より白人の患者をケアの対象と選出する確率がはるかに高かった。

 米誌Scientific Americanの記事によると、このアルゴリズムでは、一人ひとりのケアの必要性を判断する指標の1つとして、医療費の負担額を使っていた。だが、黒人の患者と白人の患者とでは、医療費が同水準でも、疾患の程度は黒人の方が重かった。この結果、ケアの必要性が高い黒人でも、スコアのうえでは白人より不利になっていた。

 調査を行った研究チームは、原因として考えられるいくつかの要素を挙げている。例えば、黒人の方が白人より収入が低い傾向があり、たとえ保険に加入していても、医療機関をさほど利用していない可能性がある。また、無意識バイアスにより、黒人の方が質の低い医療を受けている可能性もある。

 調査結果では、具体的なアルゴリズムやその開発元の名前を挙げていないが、Scientific Americanによれば、調査を行った研究チームが開発元と協力して対処を進めているという。

↑ページ先頭へ