第A06版:南通新闻

AI“复活”应用的边界在哪里?

背后可能存在侵权、伦理等诸多争议

最近,网络上出现了一批AI“复活”逝去亲人的商家,从“能活动的照片”到“可以进行对话”应有尽有。他们的服务价格从5元到上万不等,效果也不尽相同。一些网络博主使用AI技术“复活”逝世明星的做法也备受争议。AI“复活”亲人服务虽然为部分有需求的人群提供了一条情感慰藉的新途径,但其背后可能存在隐私泄露、侵权、诈骗等风险。

“你看,我的手机里保存着爷爷的一段视频,他不但‘活’了过来,还在视频中和我对话。我觉得对爷爷的思念和深深的情感有寄托了。”昨天下午,在市区一所高校就读大二的陈书晴通过网络购买“AI复活”服务,花费366元制作了一段爷爷影像短视频。

陈书晴告诉记者,她和爷爷的感情特别深。“这钱,我觉得花得值。”陈书晴说道。

记者在采访中了解到,AI“复活”技术确有一定的市场需求。从事AI教育与咨询的张先生开玩笑表示“自己恰巧站上了风口。”他告诉记者,前不久,一个市民找到他,反映其父意外去世,家里人都瞒着高龄的奶奶,但时间一长还是瞒不住,于是作为孙子他想到了用父亲生前视频、照片、语音样本等素材,请他们使用AI技术“复活”父亲,通过换脸实时视频的形式,让奶奶看看儿子,用善意的谎言安抚老人。

失独的母亲希望可以再见到自己的女儿,妻子希望可以再跟亡夫聊聊天……不少人借助AI“复活”技术,疗愈了自己或家人心中的创伤。

重现微笑,需求不同价格不等

记者打开抖音,输入“复活老照片”,很快跳出一个“微笑重现服务”的账号,记者根据提示点击“修复”,跳出一个“思念AI”的平台。当记者进入平台选择“购买AI重现微笑服务”时,页面显示“重现微笑一位”价格为99元,“重现微笑两位”价格为169元。

记者在电商平台上继续搜索,可以看到多个提供此类商品的店铺,标价从5元到数百元不等。不少店方均表示:具体收费需要根据买家的需求而定,如是否需要配音、视频时长等。

专业人士告诉记者,此类“数字陪伴”主要通过两种方式交付,一是机器驱动,通过视频、照片、声音等数据及资料训练开源模型,生成可与用户对话的虚拟人,以软件形式交付给客户;二是在此基础上的人工驱动,即给真人换上“复活”对象的脸,如此可以实现与用户更逼真的互动,交付周期一般在5天至7天。由此,根据需求不同,定制收费可以在数千元到一万元。

不可否认,在网络上,用AI重现已故亲人的音容笑貌已经成为一门新生意。

提供服务,也要确保不逾矩

用AI技术“复活”亲人服务为人们提供了情感慰藉的新途径,但这门生意背后隐藏的侵权、隐私和个人信息泄露、诈骗等风险,应该引起重视。

“AI‘复活’技术是否涉嫌侵权、隐私和个人信息泄露,我觉得还是要具体问题具体分析。譬如,你是将AI‘复活’技术正常使用的话,我觉得是没有问题的。但如果你利用这项技术来做一些侵犯别人隐私的不法之事,也就是说这些侵权行为被具体化之后,肯定就会涉及这方面的法律风险。”昨天下午,我市一家律师事务所律师蒋忠顺在接受记者采访时表示。

蒋忠顺认为,这就好像是网络刚刚兴起时,大家也表现出不同程度的担忧。事实上,任何东西都是一把双刃剑。“对于AI‘复活’技术所带来的一系列问题,我认为要随着事物发展过程实行‘渐进式管理’。在事物发展和时间演进中通过相应的立法和规范,确保对包括AI‘复活’技术在内的新技术做到可控的、合理地运用。”蒋忠顺强调。

同时,蒋忠顺提醒提供AI“复活”技术的商家,一定要注意保护用户的肖像名誉权和隐私权,确保对这一新兴工具的权力行使不逾矩,更要防范诈骗事件的侵害。

另一名业内人士认为,从伦理上看,AI“复活”技术的应用,模糊了现实和虚拟的边界,涉及复杂的道德伦理问题,“克隆”出来的人究竟是谁?“数字永生”后该如何看待生死等,这些争论并不多余。

有识之士表示,生死与孝道,在中国文化传统中一直有着“中国化”的表达方式,亲友逝去后,“祭如在、死如生”的祭祀、缅怀代表了一种虔敬,AI“复活”技术能否在新的叙事方式中找到合适的新定位,还有待观观察。

本报记者周朝晖 奚柯柯

2024-03-27 背后可能存在侵权、伦理等诸多争议 2 2 江海晚报 content_167901.html 1 3 AI“复活”应用的边界在哪里? /enpproperty-->