人工知能は私たちの日常生活に浸透しており、電話写真をキュレートします、メールを管理します、 そしてテキストを任意の言語から別の言語に翻訳します。 Google、Facebook、Apple、Microsoftはすべて、AIを主要なサービスに統合する方法を大幅に調査しています。すぐに、携帯電話を手に入れるたびにAI（またはその出力）と対話する可能性があります。あなたはそれを信頼するべきですか？常にではありません。
AIは、人間よりも迅速かつ正確にデータを分析できますが、バイアスを継承することもあります。学習するには、大量のデータが必要であり、データを見つける最も簡単な方法は、インターネットからテキストを送ることです。しかし、インターネットには非常に偏った言語が含まれています。スタンフォードの研究インターネット訓練を受けたAIは、ステレオタイプの白い名前を「愛」や「失敗」や「癌」などの否定的な単語のブラックネームに関連付けていることがわかりました。
ライト最高科学責任者のロブ・スピアはオープンソースのデータセットを監督しますConceptNet NumberBatch、AIシステムの知識ベースとして使用されます。彼はNumberBatchのデータソースの1つをテストしました彼らの単語の関連性に明らかな問題が見つかりました。類推の質問を与えたとき、「男性は女性に、店主は...」「主婦」で満たされたシステムに満たされています。同様に、女性を縫製や化粧品と関連付けました。
これらの協会は特定のアプリケーションに適しているかもしれませんが、求職者を評価するなどの一般的なAIタスクで問題を引き起こします。 AIは、どの関連性が問題になっているかを知らないため、男性からの同一の履歴書よりも低い女性の履歴書をランク付けすることは問題ありません。同様に、Speerがレストランのレビューアルゴリズムを構築しようとしたとき、「メキシコ」を「違法」のような否定的な言葉と関連付けることを学んだため、メキシコ料理を低く評価しました。
スピアが入って行きましたバイアスコンセプトネット。彼は不適切な関連性を特定し、それらをゼロに調整し、「男/叔父」や「女性/叔母」などの適切な関連性を維持しました。彼は人種、民族性、宗教に関連する言葉で同じことをしました。人間の偏見と戦うには、人間が必要でした。
NumberBatchは、バイアッシングが組み込まれた唯一のセマンティックデータベースです、Speerは電子メールで述べています。彼はこの競争上の優位性に満足していますが、彼は他の知識の基盤がそれに続くことを望んでいます：
これは、短期的なAIの脅威です。ロボットが世界を引き継ぐSFシナリオではありません。それは、特定の人々のグループを傷つける決定が判断された場合、私たちが理解していない決定を下すAI駆動のサービスです。
このバイアスで最も恐ろしいことは、それがどれほど目に見えないかを引き継ぐことができることです。 Speerによると、「一部の人々は、なぜ彼らがより少ない機会を得るのか、警察やTSAとのやり取りの増加を得るのかわからない人生を経験するでしょう...」もちろん、彼は、人種差別と性差別が焼き付けられると指摘します社会、そして有望な技術の進歩は、明示的にそれらを打ち消すことを意図していたとしても、しばしばそれらを増幅します。主観的なデータに基づいて構築された客観的なツールのようなものはありません。そのため、AI開発者は、AIの欠陥を見つけて対処するという大きな責任を負います。
「リアルと誇大宣伝が何であるかをもっと理解する必要があります」とスピアは言います。 「ほとんどの人がまだそれを理解するための適切な比phorを持っていないため、AIを誇張するのは簡単です。それは、人々が適切に懐疑的でないことを妨げています。
「人間の脳のように機能するAIはありません」と彼は言います。 「誇大広告に対抗するために、脳について話すのをやめて、実際に何が起こっているのかについて話し始めることができることを願っています。それは主に統計、データベース、パターン認識です。それがそれほど面白くないはずです。」
