“太危险了”:为什么连谷歌都不敢发布这项技术

admin 2023-11-28 18:48:48 浏览量:6
问题描述:
最佳经验
想象一下,你漫步在一条繁忙的城市街道上,拍下一个陌生人的照片,然后上传到搜索引擎上,几乎可以立即识别出这个人。

这不是假设。现在,多亏了一个名为PimEyes的网站,它被认为是最强大的在线公开面部识别工具之一。

在TikTok上,PimEyes已经成为试图识别陌生人的互联网侦探的强大工具,有数百万次观看的视频显示,PimEyes和其他搜索工具的组合如何能够找出泰勒·斯威夫特(Taylor Swift)演唱会上随机一位摄影师的名字。

@anothertwinkla

它最初是由波兰的两名黑客开发的,是一种人工智能工具,就像打了类固醇的反向图像搜索——它扫描照片中的人脸,爬上互联网的黑暗角落,以显示许多人甚至不知道自己存在的照片,比如餐馆或参加音乐会的背景照片。

虽然该公司声称这是一项可以帮助人们监控自己在线状态的服务,但它却引发了争议,因为它被用作跟踪者的监控工具,收集了无数儿童的照片,并在未经许可的情况下将死者的照片添加到数据库中。

由于美国没有任何管理面部识别技术的联邦法律,预计未来几年,模仿PimEyes的服务将会激增。

记者Kashmir Hill说,考虑一下每个人决定在公共场所随时使用这项技术的后果。

《纽约时报》记者希尔说:“在火车上发生了一些事情,你撞到别人,或者你穿了一些令人尴尬的衣服,有人可能会拍下你的照片,找出你是谁,然后在推特上发关于你的推文,或者叫出你的名字,或者在网上写一些关于你的坏话。”希尔最近出版了一本关于面部识别技术的书,名为《你的脸属于我们》(your Face belong to Us)。

PimEyes的基本版对任何人都是免费的,但该公司提供了高级功能,比如当新照片出现在网上时,用户可能会感兴趣的图像提醒,但需要每月支付订阅费。

TikTok用户指出,人们可以选择不让自己的照片出现在PimEyes的数据库中,但对该搜索工具的测试表明,这并不总是能保证自己从该公司的海量照片库中删除。

@seansvv

希尔表示,meta和谷歌等大型科技公司已经开发出了超级强大的面部搜索引擎。然而,滥用的可能性是如此之大,以至于一些高管——比如前谷歌首席执行官埃里克·施密特——一直不愿将它们公之于众,在快节奏、竞争激烈的硅谷,这几乎是不可想象的举动。

希尔说:“早在2011年,埃里克·施密特就说过,这是谷歌开发的一项技术,但他决定保留,因为如果它被独裁者使用,那么它在坏人手中就太危险了。”

这项技术的潜在用途可能是有益的。例如,对于盲人来说,或者快速识别你忘记名字的人,以及正如该公司所强调的那样,密切关注自己在网络上的照片。

但这项技术有可能损害公民的隐私。例如,政府和私营公司可以利用这项技术在公共场合对人们进行侧写或监视,这一点已经引起了研究该工具的隐私专家的警惕。

波士顿大学法学院(Boston University School of Law)专攻面部识别技术的教授伍德罗·哈特佐格(Woodrow Hartzog)说,“这些好处被政府和行业用作借口,只是为了扩大他们的权力和利润,没有任何有意义的收获。”“所以,我根本不认为有了面部识别,人类会比没有它更好。”

总部设在东欧国家格鲁吉亚的学者乔治?戈布罗尼泽(Giorgi Gobronidze)现在经营着PimEyes。他没有回应NPR的多次采访请求,但他在采访中表示,PimEyes的规定规定,人们只能搜索自己,或者是同意搜索的人。不过,没有什么能阻止任何人在任何时候对其他人进行搜查。

当然,一些版本的面部识别工具已经问世了。用苹果的Face ID解锁iphone。在机场,运输安全管理局可以通过面部扫描来确认某人的身份。

但是面部搜索引擎将这个想法带到了一个完全不同的高度。

虽然大型科技公司一直在退缩,但推动这项技术的小型初创公司正在获得动力,比如PimEyes,以及另一家名为Clearview AI的公司,该公司为执法部门提供人工智能面部搜索引擎。

PimEyes和clearview没有安排任何人接受采访。

哈特佐格说,华盛顿需要在这些工具变得过于普遍之前对其进行监管,甚至是彻底禁止。

哈茨佐格说:“我认为这确实应该告诉你,面部识别是多么具有放射性和腐蚀性,大型科技公司一直拒绝涉足这一领域,即使它可以赚到很多钱。”

大多数硅谷观察人士预测,这只是时间问题。

把人工智能聊天机器人看作一个有益的教训。多年来,硅谷的巨头们一直在实验室里开发强大的聊天机器人,但一直保密,直到一家规模较小的初创公司OpenAI将ChatGPT向公众开放。

科技分析师表示,为了保持竞争力,大型科技公司最终可能别无选择,只能公开先进的面部搜索引擎。

哈佐格说,他希望这样的未来永远不会发生。

他说:“如果面部识别技术得到广泛应用,那么隐藏在众目睽睽之下的能力实际上就会终结,我们一直在这样做,却没有真正考虑到这一点。”

在欧盟,立法者正在讨论禁止在公共场所使用面部识别技术。

布鲁塞尔的活动人士埃拉·雅库博斯卡(Ella Jakubowska)希望监管机构能更进一步,彻底禁止这些工具。

Jakubowska发起了一项名为“重塑你的脸”的活动,该活动警告人们不要去看医生,在大学校园里散步,甚至过马路,都会让人的脸被扫描。在世界上的一些地方,它已经成为日常生活的一部分。

Jakubowska说:“我们在意大利看到了生物识别技术的使用,他们称之为‘智能’监控系统,用来检测人们是否在闲逛或非法侵入。”

Jakubowska表示,欧盟所谓的人工智能法案将提出有关如何监管人脸、指纹和声音等生物识别数据的规定。

她说:“我们不接受这样的想法:作为人类,我们应该被当作行走的条形码,以便政府可以监视我们,即使我们没有做错任何事。”

与此同时,在美国的一些地方,比如伊利诺斯州,有法律保护人们免受私人公司如何扫描和使用他们的脸。该州的一项法律对未经同意扫描居民面部的公司处以经济处罚。

但在联邦法规出台之前,私营公司记录人脸的方式和地点几乎不受限制,而且在很大程度上取决于开发这些工具的亿万富翁科技公司。

信息源:
举报收藏 0打赏 0评论 0