IBM聯(lián)手紐約市警察局開發(fā)AI系統(tǒng)：根據(jù)種族搜索人員

　　北京時(shí)間9月7日早間消息，美國科技媒體The Intercept和美國國家研究院非盈利調(diào)查基金的最新報(bào)告顯示，IBM與紐約市警察局合作開發(fā)了一種系統(tǒng)，讓警方可以根據(jù)膚色、發(fā)色、性別、年齡和各種面部特征去搜索相關(guān)人員。

　　該報(bào)告引用“機(jī)密公司文件”(confidential corporate documents)以及對項(xiàng)目參與工程師的采訪稱，IBM大約在10年前開始與“紐約下曼哈頓安全項(xiàng)目”(New York’s Lower Manhattan Security Initiative)反恐中心合作開發(fā)數(shù)據(jù)分析平臺(tái)。此前IBM還與芝加哥進(jìn)行過聯(lián)合試驗(yàn)。當(dāng)時(shí)，IBM是微軟旗下Vexcel的分包商。

　　利用紐約市警察局提供的來自大約50個(gè)攝像頭的數(shù)千張照片，IBM的計(jì)算機(jī)視覺系統(tǒng)從1.6萬個(gè)數(shù)據(jù)點(diǎn)去進(jìn)行學(xué)習(xí)，識別服裝顏色等身體特征，以及其它可能的威脅因素，例如無人看管的包裹、闖入禁區(qū)的人，以及車輛在車流中的加速行駛。

　　報(bào)道稱，紐約市警察局官員早在2012年就對這款軟件進(jìn)行了測試。

　　不過，警察局發(fā)言人皮特·唐納德(Peter Donald)回應(yīng)稱，其過濾工具只是用于“評估目的”，警察會(huì)被告知將某些膚色的人排除在搜索范圍之外。他同時(shí)表示，紐約市警察局已經(jīng)向“民選的領(lǐng)導(dǎo)人和利益相關(guān)方”告知了這方面的工作，但沒有公開透露任何細(xì)節(jié)。

　　唐納德還證實(shí)，紐約市警察局最終決定不部署這個(gè)項(xiàng)目，并明確拒絕了一個(gè)可以根據(jù)種族進(jìn)行人員搜索的改進(jìn)版本。

　　IBM回應(yīng)稱：“IBM致力于負(fù)責(zé)任地推進(jìn)和使用新技術(shù)，并在促進(jìn)多樣性和包容性方面得到認(rèn)可。這就是為什么我們向其他公司公開提供100多萬張圖像的注釋數(shù)據(jù)，以幫助解決面部識別中最大的問題之一：缺乏多樣化的數(shù)據(jù)去訓(xùn)練人工智能系統(tǒng)。”