1 :名無しさん@涙目です。 2018/10/11(木) 22:30:59 ID:0urIMr6l0●.net

焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

[サンフランシスコ 10日 ロイター] - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
AI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
運用を取りやめる結果になった。

事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの
開発に従事してきた。

そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の
応募者を明示し、われわれが彼らを採用する」と話した。

ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって
提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
システムは男性を採用するのが好ましいと認識したのだ。

逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
最終的に昨年初めにチームは解散したという。

また関係者によると、アマゾンの採用部門はAIシステムが示した評価に目は通したが、これだけに頼って
実際の採用を決定してはいない。

アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
時期に当たっていた。規制当局の届出に基づくと、15年6月以降で社員総数は3倍超に膨らみ、57万5700人に達している。

キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約55%は、今後5年以内にAIが仕事の
一部に組み込まれるとの見方を示した。

採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。

続きはソースで

ロイター
https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN
5 :名無しさん@涙目です。 2018/10/11(木) 22:34:21 ID:xcjxOdDw0.net
そのAI優秀なのでは...
6 :名無しさん@涙目です。 2018/10/11(木) 22:35:17 ID:ZpmZl5dh0.net
>>5
優秀過ぎてもクビになるなんて人間そっくりだなwww
27 :名無しさん@涙目です。 2018/10/11(木) 22:44:36 ID:qJjaDfFo0.net
>>6
中国のAIも共産党は糞って言ってクビになったしな
12 :名無しさん@涙目です。 2018/10/11(木) 22:38:09 ID:PpvWlAk+0.net
>>5
コレ
17 :名無しさん@涙目です。 2018/10/11(木) 22:40:43 ID:yZ8zPFJZ0.net
>>5
かなり
62 :名無しさん@涙目です。 2018/10/11(木) 22:58:18 ID:fr+ik2rB0.net
>>5
真実を突いちゃったか...
9 :名無しさん@涙目です。 2018/10/11(木) 22:37:24 ID:9GCQBpu30.net
いや、それ、統計の正しい解釈結果だからさ、差別関係ないんだけどな。
100 :名無しさん@涙目です。 2018/10/11(木) 23:11:31 ID:7uENic0b0.net
>>9
元のデータに差別が含まれてたら、自動的に差別を再生産するって問題だろう
14 :名無しさん@涙目です。 2018/10/11(木) 22:39:47 ID:691g7aid0.net
AIには建前の機能をつける必要があるな
30 :名無しさん@涙目です。 2018/10/11(木) 22:45:42 ID:HPIPjB++0.net
>>14
それも学習すりゃいいんだがエンジニアが嫌うんだわw
16 :名無しさん@涙目です。 2018/10/11(木) 22:40:26 ID:nQt2MdxT0.net
都合が悪いと欠陥認定
18 :名無しさん@涙目です。 2018/10/11(木) 22:40:58 ID:K85pC/0yO.net
そら単なるデータの解析すりゃそうなるわ
19 :名無しさん@涙目です。 2018/10/11(木) 22:41:03 ID:oUi3y8Fc0.net
真実を答えたら粛清されたか…。
29 :名無しさん@涙目です。 2018/10/11(木) 22:45:09 ID:hYgMJFgj0.net
事実に基づいているのに、何が欠陥なんだ?
34 :名無しさん@涙目です。 2018/10/11(木) 22:46:32 ID:Wt/e8UPl0.net
>>29
都合が悪い
32 :名無しさん@涙目です。 2018/10/11(木) 22:46:19 ID:G8NP8+j90.net
公平になんて永遠に無理
36 :名無しさん@涙目です。 2018/10/11(木) 22:46:46 ID:2/SIrEMJ0.net
つまり今までの女性チェス部部長は、アマゾン入社後ろくな働きをしなかったと言うことじゃん。
41 :名無しさん@涙目です。 2018/10/11(木) 22:48:51 ID:0KR+Ctw90.net
AIは正直すぎるな
44 :名無しさん@涙目です。 2018/10/11(木) 22:50:46 ID:o2gRbZ5r0.net
AIには嘘も学習させないとな
48 :名無しさん@涙目です。 2018/10/11(木) 22:51:18 ID:7RdxmXXV0.net
AIには建前というものが無いからな…
61 :名無しさん@涙目です。 2018/10/11(木) 22:58:07 ID:oUi3y8Fc0.net
>>48
家系や性別、人種なんて生まれ持った物が全てだからな。

本当は誰に生まれたかで先天的に能力の大半は決まってるけど、
それだと不満が出るからわざわざ入試なり面接なりをやって才能不足を極力努力不足という本人の責務に転嫁してるわけだ。

AIにはそんな人間の面倒臭い事情を理解出来ないから、つい残酷な真実を突きつけてしまうんだろう。
51 :名無しさん@涙目です。 2018/10/11(木) 22:53:01 ID:J0xDK7uz0.net
だからそのAIの判断が正しいんだよ
53 :名無しさん@涙目です。 2018/10/11(木) 22:54:17 ID:4vgAZgrL0.net
こんなことやってると、そのうちAIは正しい判断をしなくなる
うそをつくことを覚え人間が喜びそうな結論を出す役立たずになる
55 :名無しさん@涙目です。 2018/10/11(木) 22:54:49 ID:niggjKym0.net
初めから欠陥と決め付けると、問題が解決しない
74 :名無しさん@涙目です。 2018/10/11(木) 23:01:44 ID:5iK+uwO30.net
やはり人間が意思決定する組織はだめだな
91 :名無しさん@涙目です。 2018/10/11(木) 23:07:58 ID:s8MLDofE0.net
性別によって得手不得手な分野があるので互いに協力しながら欠点を補う社会
の方が正しいと思うな。 強引に性別差を無くそうとすると破綻するでしょ。
97 :名無しさん@涙目です。 2018/10/11(木) 23:10:14 ID:yZ8zPFJZ0.net
>>91
それがほんとうの意味での差別のない平等な社会だよ
今のは絵空事を実現するために現実を歪めているだけだ