您的当前位置： 新闻>>江海文化>> >> 正文

时评：禁用刷脸或是对AI狂热的降温

2019-04-21 08:45:58 来源：

□张田勘

近日，旧金山市通过了对《停止秘密监视》条例所作的一些修订，条例强调：“人脸识别技术侵害公民权利和公民自由的可能性大大超过了其声称的好处；这项技术将加剧种族不公正，并且威胁到我们的生活不受政府持续监视的能力。”这意味着，美国第一个城市禁用人脸识别软件将成为现实。

（据光明网）

旧金山市禁止人脸识别的最大理由是，它将公民置于政府的持续监视之下，侵害公民权利和自由，同时也会造成种族歧视。这些是AI伦理的一部分，人类社会不能为了使用技术而发展技术，更不能以发展和使用技术为由违反甚至破坏人类社会公认的伦理底线。

人脸识别和其他AI技术一样仍存在较大问题。首先，人脸识别技术并不可靠。亚马逊及其他公司的人脸识别技术由于它们缺陷——对非裔美国人的误认而受到审查，甚至还发生过亚马逊的人脸识别工具认为，535名国会议员中，有28名议员看起来像是罪犯的事件。美国佐治亚理工学院的乔伊·布拉姆维尼团队分析了3500张肤色各异的人的照片，发现自动驾驶技术在识别黑色皮肤人群时的准确度平均降低了5%，得出了皮肤较黑的人比皮肤较白的人更容易被自动驾驶汽车撞到的结论。

人脸识别技术还可能被模仿并用于造假。一项被称为GAN（生成对抗网络）的新兴技术可以把任何人的相貌换成另一个人并通过检测。实际上，GAN是一种生成模型，可以自动生成图像，也能自动篡改图像，可以轻而易举地通过人脸识别技术的检测进行造假和欺诈。

类似的情况，还有2017年问世的Deepfakes换脸技术，能将《神奇女侠》主角盖尔·加朵的脸嫁接到另一位女影星的身上，看起来天衣无缝，也使得使用这项技术对任何人换脸并通过人脸识别成为可能。统计表明，互联网有大量的合成信息，如合成声音、生成图像、AI合成不存在的人像等，这让人脸识别在尚未被普遍使用之时，可靠性就遭遇空前危机。

人脸识别的不可靠之处还在于，其不安全性是长久的。相较于个人的生物信息，保护个人的其他密码是可更换的，但个人生物信息一旦泄露和遭到改变，就会是终身泄露，除了影响人们的生活，还让人处于永远的不安全中。

从这个意义上讲，旧金山市禁用AI人脸识别技术，是在平衡AI技术的利弊之后进行的立法。未来，如果技术的进步和法律能保证人脸识别技术到达更稳妥更可控的安全程度，也许禁令会被撤销。

相关新闻