挑战隐私、人脸识别技术存在滥用!纽约议员提出法案要求透明化
统计 阅读时间大约7分钟(2630字)

2019-01-07 19:50:23 挑战隐私、人脸识别技术存在滥用!纽约议员提出法案要求透明化

在快速发展的生物识别技术中,面部识别是最具侵入性、但监管力度却最小的一种形式。

【猎云网(微信号:ilieyun)】1月7日报道(编译:柠萌)

纽约市在什么时候开始使用人脸识别?为什么使用人脸识别?这些问题很难回答。但是,Ritchie Torres想要改变这一切。

2018年3月,纽约市议会成员从《纽约时报》获悉,纽约市标志性的体育和娱乐场所麦迪逊广场花园将使用面部识别软件来对入口处的观众进行扫描。麦迪逊广场花园是尼克斯队和纽约游骑兵队的主场,无数的表演、游行在此上演。目前关于面部识别软件的应用还没有足够的细节,但这项技术旨在通过将参与者的面部与数据库中存储的面部进行匹配来识别出“有问题”的参与者。Ritchie Torres是布朗克斯区的一名代表,对此,他感到非常震惊。他说:“使用这种基本上不受监管的技术,而且不告诉公众如何对他们的脸进行处理、识别,这从根本上对我们隐私提出了挑战。”

去年10月,他提出了一项法案,要求企业公开披露其在企业入口使用人脸识别技术的情况,从而提高企业使用生物识别技术以及虹膜和指纹扫描技术的透明度。

“在我们现在生活的市场上,企业会在未经公众同意或知情的情况下收集大量个人数据,而且这种情况愈演愈烈。”他表示,“在一个自由开放的社会,我有权知道某个公司是否会收集我的个人资料、为何会收集我的资料、是否会保留我的资料,以及要将我的资料用于何种目的。”

根据该法案,公司必须在每个入口处公开表明其是否会收集、保留、转换和存储客户的生物特征数据,以及要以何种方式对这些数据进行处理,并在入口处用清晰的标识向公众展示。该法案还对公司的在线信息提出了要求,公司必须在网上公开四条信息:它保留和存储的信息数量;收集的信息种类;隐私政策以及与第三方共享的信息。对于Torres来说,最关键的是与第三方共享的信息内容。

Torres认为,在快速发展的生物识别技术中,面部识别是最具侵入性、但监管力度却最小的一种形式。

“面部识别甚至比指纹更具有侵入性,因为指纹是对我隐私的一种有形侵犯。” Torres解释说道。“不同的是,这种面部识别是一种隐形,甚至无形的入侵,造成的伤害更大。不止如此,获得这些数据的企业、公司正在建立一个私人信息的数据库,然后可以将其商业化。”

他还提到了人脸识别系统存在误报的可能性。例如,在伦敦警察厅最近进行的一系列测试中,在公共场所发现的秘密人脸识别匹配结果的成功率为零。算法训练不足往往会影响对非白人的脸的识别,这对布朗克斯的居民来说尤其令人担忧。根据人口普查数据,在美国,布朗克斯地区的人口肤色是最多样化的。

但是无论你住在哪个区,企业将这些信息对公众公开都应该是“完全没有争议的”,Torres说。“如果你认为企业在你不知情或未经你同意的情况下收集你的个人资料是可以接受的,那么我们在基本原则上就存在分歧。”

2.jpg

在缺乏联邦法规监管的情况下,这项技术正在向公共场所扩散:机场、赌场和零售商都在购买能够通过不断改进的闭路电视摄像头实时传输数据的软件。该软件通常可以访问可疑人物的面部数据库,不过目前还不清楚这些数据库是如何建立的,以及如何从数据库中删除这些人脸信息。目前,联邦执法机构运行着一个庞大的数据库,据说该数据库包含半数美国人口的面部数据。

美国国土安全部在全国各地的机场登机口推出了人脸识别系统,这是9.11事件后生物识别系统大规模应用的一部分。亚马逊最近因其Rekognition服务而引发争议。Rekognition是一种面部扫描软件,被ICE等执法机构以及许多其他云计算客户使用。Facebook以其面部识别算法而闻名,该算法允许公司识别用户,并据此针对他们投放广告。上个月,微软总裁呼吁制定人脸识别规则,而谷歌则表示,鉴于隐私和道德方面的担忧,该公司暂时不会提供人脸识别服务。

去年3月,在《纽约时报》报导麦迪逊广场花园使用人脸识别技术的同时,美国公民自由联盟(ACLU)询问了20家美国顶级零售商,他们是否对顾客使用了面部识别技术。除两家公司外,其余公司均拒绝证实或直接予以否认。其中一家名为Ahold Delhaize(Ahold delhaize旗下拥有多家超市,例如Food Lion、Stop & Shop、Giant和hannaford)的公司回应说,他们没有使用人脸识别技术,而硬件公司Lowes则表示,他们确实使用了人脸识别技术来识别商店扒手。

Torres说,他不知道纽约市还有哪些企业目前正在对客户使用面部识别技术,也不知道它们是如何使用这项技术的。这就是问题所在。“由于没有监管,甚至连最基本的透明度标准都没有,我们不知道面部识别技术在纽约市或美国其他地方的使用有多广泛。”他说,“企业没有义务报告面部识别技术的使用情况。我认为,该法案的目的之一就是向公众展示一个生物识别技术的世界。在之前,这个世界一直不为公众所知。”

虽然在麦迪逊广场花园这样的地方使用人脸识别技术被吹捧为一种安全措施,但这些数据也很容易用于其他目的。几年来,广告商一直在电子广告牌的广告中使用面部识别技术,Bidooh公司正试图通过创建一个户外广告网络来主导这个市场,该网络将通过配备面部识别功能的电子广告牌,向目标客户投放广告。Bidooh的创始人Abdul Alim表示,他的灵感来自科幻电影《少数派报告》(Minority Report)。Bidooh的目标是成为户外广告市场上的谷歌AdWords和Facebook Ads。

“麦迪逊广场花园向我保证,面部识别技术的使用仅限于保障安全方面,”Torres说。“但我对企业普遍存在的一个担忧是:一开始人脸识别可能是作为安全措施,但是很容易会演变成其他东西。一旦数据被保留,企业就可以很容易地将其用于盈利目的。我担心的是私人数据的商业化。”

在伊利诺伊州,面部扫描公司必须遵守美国最基本的生物特征隐私法。公司在收集消费者的面部信息或将数据出售给第三方之前,必须获得消费者明确的同意,并且必须在数据收集后的三年内删除所有数据。德克萨斯和华盛顿对人脸识别也有限制。伊利诺斯州的法律还允许人们在法庭上强制执行他们的数据权利。自2015年以来,谷歌、Snapchat、Facebook和其他公司都面临着涉嫌违反该法律的诉讼。但上个月底,芝加哥的一名法官驳回了针对谷歌的诉讼,称原告并没有受到“具体伤害”。在这起诉讼中,原告的面部在无意中被谷歌Photos的一名用户拍摄下来。

与此同时,不顾隐私专家的抗议,芝加哥市政法规最近提出的一项修正案将允许企业在其商店和场所使用人脸监控系统。与Torres的法案一样,该法案将要求这些企业只需张贴告示,告知顾客他们的一些监视行为,同时绕过州法律提供的更强有力的保护。

Torres说,他“乐观”地认为,他的提案将在未来几个月内即将举行的委员会听证会前获得通过。但他表示仍面临一些阻力。一些利益相关者担心这项法律可能会打开诉讼的闸门。也有一些支持者认为,他的立法可以进一步规范面部识别和其他生物识别技术。

例如,该法律没有涉及政府对该技术的使用,包括纽约市警察局(NYPD)的使用。去年,The Intercept报导了一种基于种族检测的人脸识别系统的试验,纽约市警察局因此受到抨击。但纽约市另一项由前议员James Vacca撰写的法律,最近成立了自动决策系统工作组(Automated Decision Systems Task Force),该工作组将研究所有政府机构在公共决策基础上的各种算法。市长Bill de Blasio于去年5月宣布,该工作组将于2019年12月发布一份报告,在报告中,它将推荐审查和评估纽约市算法工具的程序,以确保公平和机会。

Torres在谈到他的提议时表示:“我认为该法案是一个下限,而不是上限。在我看来,信息披露是一个自然的起点,如果我们发现面部识别或面部筛查技术存在滥用,那么我们就可以通过这些法案来阻止滥用。”

1、猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网(微信号:ilieyun
)字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
0
评论
推荐阅读
记者名字
{{item.author_display_name}}
{{item.author_user_occu}}
{{item.author_user_sign}}
×
ai2019峰会 ×