亞馬遜不顧算法缺陷,仍向政府提供人臉識(shí)別軟件互聯(lián)網(wǎng)+
亞馬遜人臉識(shí)別存在嚴(yán)重偏見,仍堅(jiān)持要協(xié)助刑事調(diào)查
一鳴網(wǎng)10月24日消息(謝東霞)據(jù)外媒披露,美國(guó)聯(lián)邦移民官員正考慮使用亞馬遜提供的人臉識(shí)別技術(shù)。但美國(guó)移民和海關(guān)執(zhí)法局(ICE)發(fā)言人馬修·布克表示,該機(jī)構(gòu)目前還沒有與亞馬遜簽訂協(xié)議。他還表示,該機(jī)構(gòu)會(huì)定期會(huì)見供應(yīng)商,了解他們能夠提供哪些工具。
“ICE的國(guó)土安全調(diào)查部門過去曾經(jīng)使用人臉識(shí)別技術(shù),在跟欺詐活動(dòng)、身份盜竊和兒童剝削有關(guān)的犯罪調(diào)查中獲取過幫助,他們今后還將繼續(xù)使用尖端技術(shù)來協(xié)助刑事調(diào)查。”布克說。亞馬遜發(fā)言人尚未對(duì)此置評(píng)。
根據(jù)非營(yíng)利組織Project on Government Oversight獲得的一些郵件,亞馬遜AWS云計(jì)算部門的員工曾經(jīng)跟加州的聯(lián)邦機(jī)構(gòu)會(huì)面,向其展示人工智能工具。這些工具包括Rekognition,它可以使用人工智能技術(shù)快速識(shí)別照片和視頻中的人。該軟件也讓執(zhí)法機(jī)構(gòu)可以通過攝像頭追蹤人們?cè)诠矃^(qū)域的活動(dòng)。
美國(guó)公民自由聯(lián)盟今年5月批評(píng)俄勒岡和佛羅里達(dá)警方使用這項(xiàng)技術(shù),認(rèn)為此舉對(duì)民權(quán)構(gòu)成威脅。今年七月,美國(guó)民權(quán)聯(lián)盟(ACLU)做了一項(xiàng)測(cè)試,將國(guó)會(huì)議員照片與資料庫內(nèi)的嫌犯照片進(jìn)行對(duì)比,結(jié)果亞馬遜的人臉識(shí)別軟件Rekognition,竟將28名議員誤認(rèn)為嫌犯,外界呼吁在執(zhí)法中導(dǎo)入人臉識(shí)別技術(shù),必須經(jīng)過更嚴(yán)謹(jǐn)?shù)挠懻摗H四樧R(shí)別系統(tǒng)還有一個(gè)很大爭(zhēng)議,就是算法偏見,因?yàn)橄到y(tǒng)一開始使用大量的白人男性資料作為學(xué)習(xí)基礎(chǔ),因此一直以來有色人種以及女性遭到系統(tǒng)誤認(rèn)的比例極高。在這次ACLU測(cè)試中,比對(duì)結(jié)果出錯(cuò)的28位議員中,11人是有色人種約占整體39%,過去ACLU也曾發(fā)信給貝佐斯強(qiáng)烈表達(dá)對(duì)人臉識(shí)別系統(tǒng)偏見的疑惑。
但亞馬遜在今年6月向ICE表明,公司不想理會(huì)員工和公民自由團(tuán)體的批評(píng),準(zhǔn)備繼續(xù)向政府執(zhí)法機(jī)構(gòu)推銷軟件。本月早些時(shí)候,有超過450名亞馬遜員工給貝佐斯寫了一封公開信,希望公司能夠停止向警方出售Rekognition軟件。但CEO貝索斯表示,他的公司將會(huì)繼續(xù)支持美國(guó)國(guó)防部。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。