コンピューターは多くの仕事を人間よりも早く実行できますが、人間の間違いを真似する傾向があります。結局のところ、コンピューターは人間を見てそれを学んだのです。科学者たちはそれを発見しました病院で使用されている主要なアルゴリズムは黒人患者に対して偏っている, なぜなら、すでに存在していた人種間の健康格差を反映しているからです。
研究者らは、特定のソフトウェアやそれが使用されている医療システムを名指しして恥をかくことを望んでいないため、特定の病院を避けるべきとは言えません。しかし彼らは、これは「広く使用されているアルゴリズムであり、この業界全体のアプローチの典型であり、何百万もの患者に影響を与えている」と指摘しています。
病院はこのアルゴリズムを使用して、最も病気の患者を特定し、専任の看護師やプライマリケアの予約への迅速なアクセスなどの治療に優先順位を付けます。しかし、誰が最も病気であるかを決定するために使用される主な数字の 1 つは、単純に、最近の過去に誰が最も多くの医療費を負担したかであることが判明しました。
これは、あなたが病気であるにもかかわらず、本当に医者に行くべきときに仕事を休むことができなかった場合、システム上では病気が軽いかのように見えることを意味します。あるいは、あなたが黒人患者で、医師があなたの苦情を真剣に受け止めない場合も、同様に、アルゴリズムに対してそれほど病気ではないと思われるでしょう。コンピュータは、次のような人々を想定しています。得る最も気にかけているのは、必要最も注意すべきことですが、実際にはこれらの数字は単純に一致しません。研究者らは、黒人患者が協調的治療プログラムへの参加を推奨するスコアを獲得するには、白人患者よりも著しく症状が重い必要があることを発見した。
患者にとってすぐに得られるものはありませんが、この研究により、これらのアルゴリズムの問題が明らかになりました。研究者らはこのアルゴリズムの作成者と協力して、偏った仮定を立てない方法でアルゴリズムを再プログラムしている。これまでのところ、バイアスを84%削減することができたという。
結局のところ、作業するのに十分なデータがあれば、次のようなアルゴリズムをプログラムできると著者は指摘しています。対抗する人間が作り出したバイアスの一部。問題は、プログラマーが普段そんなことをわざわざやらないため、コンピューターは自分たちが住んでいる世界をコピーすることを学習するということです。
