
亞馬遜近來由于給政府和執(zhí)法部門一個強(qiáng)大的面部識別軟件所帶來的識別系統(tǒng)的認(rèn)證而備受爭議。而最近,亞馬遜會見了美國移民和海馬關(guān)執(zhí)法局為這種識別系統(tǒng)使用達(dá)成協(xié)議。現(xiàn)在,亞馬遜的員工正在質(zhì)疑公司在銷售這類技術(shù)方面的能力,尤其是當(dāng)這種技術(shù)可以用來追蹤人類,并將他們送回具有潛在危險的海外環(huán)境時。
亞馬遜的云計算部門AWS負(fù)責(zé)為Rekognition提供服務(wù),這款產(chǎn)品目前在佛羅里達(dá)州和俄勒岡的警察局使用。姐夫邀請亞馬遜網(wǎng)絡(luò)服務(wù)公司CEO Andrew Jassy 回答有關(guān)Rekognition和ICE等機(jī)構(gòu)的政府合同問題時,Andrew指出,公司認(rèn)為“幫助明確規(guī)定技術(shù)法規(guī)的指導(dǎo)方針是政府的責(zé)任?!?/p>
亞馬遜與Rekognition一起參與政府合同的研究證明,該系統(tǒng)在準(zhǔn)確性和種族偏見方面存在嚴(yán)重缺陷。美國公民自由聯(lián)盟在夏季測試了該系統(tǒng),發(fā)現(xiàn)該系統(tǒng)錯誤地從25,000個面部照片的數(shù)據(jù)庫中找到了28位國會議員。亞馬遜還拒絕參與國家標(biāo)準(zhǔn)與技術(shù)研究所運(yùn)行的算法偏差綜合研究,該研究旨在確定何時種族和性別偏見可能影響面部識別算法的錯誤率。
然而,亞馬遜并不是唯一一家遭遇其員工關(guān)于產(chǎn)品如何出售產(chǎn)品給美國政府使用的技術(shù)巨頭。谷歌領(lǐng)導(dǎo)層今年因參與五角大樓無人機(jī)計劃(Maven項目)而面臨巨大的反對聲音,迫使該公司宣布會續(xù)簽合同。