转载:本文来自微信公众号“量子位”(ID:QbitAI),作者:萧箫,转载经授权发布。
只因和小偷长得像,就被人脸识别“抓”进监狱关30个个钟头。
而人脸识别系统嘅依据,剩只系一张驾照照片。
这是发生在2019年嘅事,被错误逮捕嘅对象,系一位名叫Robert Williams嘅黑人男子,喺交1000美元后,他才被保释出去。
据《连线》(Wired)杂志报道话,呢可能系同类案件中已知嘅第一个案例。
而直到而家,呢起案件才正式向联邦提起诉讼。
人脸识别错误第一案
事得从三年前说起。
2018年,一个小偷喺一家Shinola零售店偷几块名表,被店里嘅监控拍下来。
监控拍到嘅图像非常模糊,噉名小偷全程没有抬头睇监控。
在呢种情况下,警方用人脸识别技术,并仅凭借一张驾照照片锁定42岁嘅Robert Williams。
2019年,警方拿住他嘅照片询问店中嘅一个保安,后者确定系佢,但其实这名保安并没有目击现场事发。
在被逮捕时,Robert Williams刚下班翻屋企,就喺自己嘅妻女面前被警方带走,期间根本没问佢係否有不在场证明。
随后,他在监狱里肮脏嘅水泥地板上躺30个个钟头。
直到缴纳1000美元嘅保释金,Robert Williams才被放出来。
而家,美国公民自由联盟(ACLU)、密歇根大学法学院,代表Robert Williams正式提起联邦诉讼。
从诉讼文件来睇,呢系喺美国第一齐因人脸识别错误被非法逮捕嘅案件。
但Robert Williams想要嘅,不只是赔偿损失。
他希望这起案件能修改相关政策,以制止人脸识别技术嘅滥用。
Robert Williams本人表示:
剩只因为机器算法嘅问题,就喺妻女面前被逮捕,希望呢种事唔好再发生在第啲人身上。
相似案件不止一齐
但事实上,人脸识别“抓”错人嘅事,喺这之后又发生好几起。
第二起因人脸识别导致嘅错误逮捕,同样系一个黑人男子Michael Oliver,他在上年起诉警察局。
而据NJ Advance Media报道,新泽西州也发生过同样嘅事,警方在用人脸识别逮捕一位名叫Nijeer Parks嘅黑人男子后,将他在监狱关10天,先发现抓错人。
在此期间,警方没有验指纹、没有测DNA,剩只凭借人脸识别系统就锁定嫌疑人。
目前,Nijeer Parks也仍然在上诉度,新泽西州也已经禁止使用呢种软件。
但据认识,数以千计嘅执法机构已经在采用人脸识别嘅技术,查找罪犯。
人脸识别系统,却往往并唔那么可靠。
2017年嘅欧冠比赛上,英国警方采用人脸识别系统,总共发出2470次警报,错误率高达92%。
而美国警方采用嘅人脸识别软件,通常只依赖于数十亿张社交媒体照片来识别犯罪嫌疑人。
从技术上嚟讲,人无办法从人脸识别中确定某个嫌疑人嘅唯一性。
该不该用人脸识别?
人脸识别技术,已经被美国警方采用二十多年。
但来自MIT和NIST嘅研究人员发现,呢项技术对于白人男性嘅识别效果相对更好,呢也和人脸识别数据集中嘅样本数量有关。
而第啲人种,喺呢类数据集下训练出来嘅识别效果往往并唔理想。
不止数据集。
人脸识别嘅另一个问题是,监控摄像头会压缩视频图像,导致用来区分嫌疑人嘅皮肤、静脉和痣等图案被去除、损坏或变形。
事实上,由于采集视频嘅光照条件不同,一啲伪影可能会被误认为是面部特征(如痣)之一。
最重要嘅系,人脸识别所用嘅AI模型算法,可解释性非常差,缺乏支持法医意见嘅经验数据。
目前,微软、IBM和亚马逊等互联网巨头,已经保证不将人脸识别系统出售畀警方。
但人脸识别技术本身,却处在一个有啲尴尬嘅位置上。
一方面是技术伴随嘅隐私和准确率嘅问题,另一方面却是佢带来嘅便利性和商业利益。
就连国内售楼部嘅摄像头,都已经对准路人,进行“身份识别”。
人脸识别用在边里、点样使用,仍旧亟待商榷。
参考链接:[1]
cantonese.live 足跡 粵字翻譯
2021-04-14 17:35:20
请登录之后再进行评论