「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に

その他

1: 稼げる名無しさん 2018/10/11(木) 20:09:52.79
人工知能(AI)アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。

25388747874b5c0b42ad7k-550x309



ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。

このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。

システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。

私たちはAIを本質的にバイアスがないものとして扱うことはできない。バイアスのあるデータでシステムを訓練すれば、アルゴリズムもまたバイアスを含むことになる。もし、今回のような公平性を欠いたAI人材採用プログラムが導入前に明るみにならなければ、ビジネスに長年根付いている多様性の問題の数々は解決されず、むしろ固定化されてしまうだろう。

2018年10月11日 10時24分
アスキー
http://ascii.jp/elem/000/001/755/1755527/

他ソース
アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku
 えっ、でもこういうのってビッグデータに基づいて算出してるんだから、むしろ調整するほうが男性差別に繋がる可能性があるんじゃないのかお?

nn
うーん、現状に問題があると考えているなら、ビッグデータ通りに採用を行うのは間違えていると思うけれどな。
あと今回のAIの判断が合理的なのか、それともただの差別なのか非常に気になるところ。

続きを読む

Source: 稼げるまとめ速報