北京时间9月7日早间消息,美国科技媒体The Intercept和美国国家研究院非盈利调查基金的最新报告显示,IBM与纽约市警察局合作开发了一种系统,让警方可以根据肤色、发色、性别、年龄和各种面部特征去搜索相关人员。
该报告引用“机密公司文件”(confidential corporate documents)以及对项目参与工程师的采访称,IBM大约在10年前开始与“纽约下曼哈顿安全项目”(New York’s Lower Manhattan Security Initiative)反恐中心合作开发数据分析平台。此前IBM还与芝加哥进行过联合试验。当时,IBM是微软旗下Vexcel的分包商。
利用纽约市警察局提供的来自大约50个摄像头的数千张照片,IBM的计算机视觉系统从1.6万个数据点去进行学习,识别服装颜色等身体特征,以及其它可能的威胁因素,例如无人看管的包裹、闯入禁区的人,以及车辆在车流中的加速行驶。
报道称,纽约市警察局官员早在2012年就对这款软件进行了测试。
不过,警察局发言人皮特·唐纳德(Peter Donald)回应称,其过滤工具只是用于“评估目的”,警察会被告知将某些肤色的人排除在搜索范围之外。他同时表示,纽约市警察局已经向“民选的领导人和利益相关方”告知了这方面的工作,但没有公开透露任何细节。
唐纳德还证实,纽约市警察局最终决定不部署这个项目,并明确拒绝了一个可以根据种族进行人员搜索的改进版本。
IBM回应称:“IBM致力于负责任地推进和使用新技术,并在促进多样性和包容性方面得到认可。这就是为什么我们向其他公司公开提供100多万张图像的注释数据,以帮助解决面部识别中最大的问题之一:缺乏多样化的数据去训练人工智能系统。”