面部識別研究員將亞馬遜與偏見的ai打架

面部識別技術已經滲透到日常生活中 - 從您的照片從Facebook上的照片到警察掃描Mugshots - 當Joy Buolamwini注意到一個嚴重的故障時：一些軟件無法檢測像貝爾斯這樣的黑皮膚面孔。

該啟示引發了馬薩諸塞州理工學院研究員的研究人員，推出了一個項目，即對辯論對人工智能如何部署的辯論的影響。

亞馬遜等名牌科技公司SoftwareCreats的Hertests在分類膚色的性別的情況下揭示了比較淺膚的女性的性別更高的錯誤率。

一路上，Buolamwini刺激了微軟和IBM，改善了他們的系統和Irked Amazon，公開攻擊了她的研究方法。星期三，一群艾吉學者，包括計算機科學的最終獎品，推出了她的工作的有吸引力的假人，并呼吁亞馬遜停止將其面部識別軟件銷售給警方。

她的工作也引起了院位和國會的政治領導人的關注，并導致一些人尋求利用計算機視覺工具來分析人類面的限制。

“需要做出選擇，”麻省理工學院媒體實驗室研究生和研究人員Buolamwini說。“現在，發生的事情是這些技術正在廣泛部署而不進行監督，他們認為，當我們醒來時，它幾乎太晚了?！?/p>

Buolamwini難以謹慎地謹慎表達關于從商店到公寓綜合體的警察，政府機構和企業的努力采用面部識別。許多其他研究人員已經顯示了AI系統的研究，這些系統在巨大的數據旅行中尋找模式，將模仿嵌入在他們正在學習的數據中的機構偏差。例如，如果使用大多數白人的圖像開發了AI系統，系統將在識別白人身上努力。

這些差異有時可能是生命或死亡問題：電腦視覺系統的onerecent研究，使自動駕駛汽車能夠“看到”這條路表明，他們更加難以探測具有較深的膚色的行人。

關于Boulamwini的和弦的作品，這是測試由知名公司創建的系統的方法。她將這些系統應用于皮膚科醫生使用的膚色級，然后姓名并欣賞那些展示種族和性別偏見的尺寸。Buolamwini，誰也成立了學者聯盟，活動家和其他稱為算法大法聯盟的其他人，并將她的學術調查與激進主義共同組成。

“它增加了越來越多的證據，即面部識別對不同的群體不同，”華盛頓州的美國公民自由聯盟的Shankar Narayan表示，該集團對該技術進行了限制?！皻g樂的工作是建立這種意識的一部分?！?/p>

亞馬遜，他的首席執行官杰夫貝斯，她去年夏天直接通過電子郵件發送電子郵件，通過積極瞄準研究方法來回應。

一年一多的Buolamwini-LED研究發表了一年一多的學習，發現了IBM，Microsoft和中國公司面孔Plus加上性別分類的面部分析系統的差異。膚色較暗的女性是最錯誤分類的小組，錯誤率高達34.7％。相比之下，較輕呈皮膚的雄性的最大誤差率小于1％。

該研究要求“緊急注意”解決偏見。

“我幾乎沒有回應，”IBM Research首席科學家Ruchir Puri說，描述了他去年從Buolamwini收到的電子郵件。

從那時起，他說，“這是一個非常豐富的關系”知情IBM“揭幕是今年的新100萬圖像數據庫，以便更好地分析人類面的普及。以前的系統過度依賴于Buolamwini稱之為“蒼白的男性”圖像存儲庫。

Microsoft有最低的錯誤率，拒絕評論。留下了megvii的消息，它擁有面部加上加上，Weren立即返回。

在她第一次學習后的幾個月后，當Buolamwini與多倫多大學研究員inioluwa deborah Raji一起進行后續測試時，所有三家公司都表現出重大改進。

但是，這次他們還添加了亞馬遜，這已經銷售了它調用重新識別的系統到執法機構。在1月下旬發布的結果表明，亞馬遜嚴重誤導了較暗的婦女。

“我們驚訝地看到亞馬遜是競爭對手是一年前的競爭對手的地方，”Buolamwini說。

亞馬遜駁回了所謂的Buolamwini“錯誤聲稱”，并表示研究了面部識別的困惑面部分析，用來評估后者的技術不當地測量前者。

“對新技術令人焦慮的答案是不與服務如何使用的”測試“不一致，并通過新聞媒體，通過新聞媒體（人）總經理Matt Woods亞馬遜的云計算廣告智能，在1月博客帖子中寫道。亞馬遜拒絕了接受采訪的要求。

“我沒有知道他們的反應會非常敵意，”Buolamwini最近在她的麻省理工學院實驗室進行了面試。

周三來到她的國防是一個研究人員的聯盟，其中包括TINES獎的最近贏家的冠軍，據考慮了諾貝爾獎的科技領域。

他們批評了亞馬遜的反應，特別是它在面部識別和分析之間的區別。

“與木材博士的索賠相比，一個系統中發現的偏見是對另一個系統的疑慮，特別是在使用案例中，這些情況可能嚴重影響人們的生命，例如執法申請，”他們寫道。

它少數公知的客戶捍衛了亞馬遜的系統。

華盛頓縣警長辦公室俄勒岡州的克里斯·阿齊亞斯表示，該機構表示，亞馬遜的重新識別以確定其收集大約350,000杯鏡頭的最有可能的匹配。但是，由于人類做出最終決定，“該計算機系統的偏見不會轉移到任何結果或采取的任何行動中，”阿茲米納說。

但越來越多的監管機構和立法者正在懷疑。國會的兩黨票據尋求對面部識別的限制。華盛頓和馬薩諸塞州的立法機構正在考慮自己的法律。

Buolamwini表示，她的研究的主要信息是，如果他們“重新將用于公眾使用，因此需要仔細審查和始終監測AI系統。她說，不僅僅是為了準確性，還要確保面部識別不是濫用侵犯隱私或導致其他危害。