花10元就可以让照片上原本静态的人开心地笑起来;花50元就能让照片上的人开口说线元就能还原照片中人物的声音
在音乐人包小柏利用AI技术“复活”因病去世的女儿后,有网友“复活”了李玟、高以翔、乔任梁等已逝明星,由此引发一系列关于伦理、法律等问题的讨论,“AI复活”也被推上的风口浪尖。
清明节前夕,早已嗅到商机的商家们,纷纷推出“AI复活”业务。极目新闻(报料邮箱:)记者在一些电商平台发现,只需要一张正脸照片,花费数十元至数千元不等,就能让逝者行动乃至开口说话等。
业内人士于浩认为,用AI技术复刻逝者生前的形象、声音等,可以称为“AI数字人”。它对逝者亲人能起到一定的哀伤疗愈作用,不过需要专业的心理咨询团队引导,才能达到科技向善的效果。消费者选择为逝者做“AI数字人”时,由于涉及隐私数据安全,建议尽量找专业企业制作。
今年初,知名音乐人包小柏“AI复活”已经病逝的女儿。“女儿”可以与人互动交流,还在妈妈生日时为她唱了一首生日歌。网友们为之感动的同时,也有部分网友并不认同这一做法:“已经快要抚平的伤口,又要重新再痛一次。人总要面对现实,不能活在虚幻的世界里。”
之后,一些网络博主为了获取流量,擅自用AI技术“复活”李玟、高以翔、乔任梁等已逝明星,吸引了大批粉丝关注。乔任梁的父亲表示,对于这样的视频“不能接受,感到不舒适,希望对方尽快下架”;李玟的母亲则委托律师发表声明,称此举给家人带来了二次伤害,要求商家7天内下架侵权内容。一系列关于伦理、法律等问题的讨论,将“AI复活”推上了的风口浪尖。
事实上,“AI复活”明星,是部分商家引流的噱头。有商家趁着清明时节,专门推出“AI复活”逝者业务。
在电商平台,极目新闻记者以“AI复活”为关键词进行搜索,出现多个店铺链接,页面价格多在10元至50元之间,且基本以老年人的照片为封面,照片上还标注着“怀念亲人”“照片开口说话”等文字。
记者咨询了几家成交量靠前的店铺。一家店铺的客服介绍,只需要提供一张正脸照片,人物动起来不说线元起步。该客服还表示,他们目前无法模拟逝者的声音,不过可以提供配音,或由商家用普通话配音。“不做人脸识别,涉及眨眼、摇头、点头、张嘴等动作均不做。只做老人,只做去世怀念。”商品详情页面写道。
还有一家店铺向记者提供了6种选择:照片动态收费10元,基础AI语音套餐50元,亲人声音克隆普通线元。“我们只给逝者做服务,还有别的引流渠道,主推398元的产品,最近咨询的人很多。”该客服说。
“复活”效果如何?记者花费50元,用自己的照片进行了体验。不到一个小时,客服便发来一段17秒的视频,自己边微微摆头边说话,显得比较僵硬。
在社交平台,也有不少人做起“AI复活”的买卖。记者随机询问了2位商家,他们主推88元的基础套餐,称还原度可达80%至90%。
“这不能叫复活,它离复活还有很远。”浙江云家族科技有限公司CEO于浩告诉极目新闻记者,用AI技术复刻逝者生前的形象、声音等,称为“AI数字人”更合适。
于浩曾在殡葬行业工作。他认为,传统殡葬行业主要提供物理设施服务,缺少精神陪伴和文化传承。直到投入数字生命服务后,他发现科技可以拓展生命服务的维度,提供更有温度的人文服务。
“给逝者做AI数字人,对于一些特殊的用户群体,可以起到一定的哀伤疗愈作用,也是一种更好的缅怀方式。通过记忆上传,AI数字人保留了一个人一生的珍贵记忆,相当于我们的人生备份。”于浩说,随着AI技术的发展,“AI数字人”可以产生情感寄托的效果,加上不少人已经接受chatGPT等AI软件,又有包小柏等人的明星效应,清明节前夕,他的公司接到了近100个做“AI数字人”的订单。
于浩介绍,这些订单中,给逝者做“AI数字人”的订单仅占三分之一。“我们有一个专门做哀伤疗愈的心理咨询专家团队,他们负责打造AI数字人哀伤疗愈的逻辑,通过还原逝者的形象和声音,用心理治疗的方式给逝者的亲人做心理疏导,实现科技向善。”于浩说,“因为效果逼真,AI数字人能让逝者的亲属产生情感寄托,如果使用得当,确实能帮助他们尽快走出悲伤。不过,这需要专业的心理咨询团队引导,不然很危险。”
余下的三分之二订单,有子女给在世的父母做“AI数字人”,也有客户给自己做“AI数字人”。两三个月前,一位顾客告诉于浩,她的父亲估计只能再活2年,她希望通过“AI数字人”留住父亲逐渐衰退的记忆。
于浩也注意到关于“AI数字人”的种种争议。“如果是给逝者做,我们需要其近亲属的授权以及他们的关系证明;如果是给自己做,则需要通过人脸识别验证是本人。对于采集的个人数据,我们会通过区块链技术进行加密和保护,还会寻求和相关政府部门合作。”于浩说。
制作“AI数字人”的过程中,会涉及大量个人隐私数据。于浩提醒消费者,为了安全起见,建议尽量找专业公司制作。
“如果逝者的近亲属通过AI复活方式对逝者进行追思,在法律上没有问题。”浙江理工大学数据法治研究院副院长郭兵接受极目新闻记者采访时表示,“但是,一些人没有经过逝者近亲属等权利人的同意,随意使用逝者的个人信息进行AI复活或制作AI数字人,涉嫌侵犯人格权。”
河南泽槿律师事务所主任付建介绍,根据《民法典》第九百九十四条规定,逝者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;逝者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。因此,没有经过逝者亲属等许可,擅自使用AI技术“复活”逝者,并通过视频等方式传播,是违法行为。
付建认为,“AI复活”既揭示了科技的进步,也涉及伦理、法律等问题,需要划清边界。“完善相应法律法规的同时,还要建立伦理审查机制,确保AI复活AI数字人产业的发展符合伦理标准,不侵犯人类尊严,不造成社会伤害。”付建说。
北京京师律师事务所律师王辉介绍,《互联网信息服务深度合成管理规定》规定:“深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。”因此,使用深度合成服务时,需要取得被编辑人的同意;如果被编辑人是逝者,应当取得具备义务保护逝者肖像权益的亲属的同意。此外,深度合成服务提供者和技术支持者应当加强训练数据管理,采取必要措施保障训练数据安全;训练数据包含个人信息的,应当遵守个人信息保护的有关规定。
王辉表示,随着AI技术的发展和应用,大量个人数据被用于训练AI模型,以提高其准确性和效能。这些数据包括个人身份信息、位置数据、消费习惯甚至生物识别信息等。如果这些敏感数据被不当处理,可能导致隐私泄露,损害个益,甚至威胁到公共安全。因此,“数据隐私保护”等相关法律需要持续完善。
1、凡本网注明“来源:荆州新闻网、荆州广播电视台”的所有作品,版权均属于荆州新闻网,未经本网授权不得转载、摘编或利用方式使用上述作品。
2、已经本网授权使用作品的,应在授权范围内使用,并注明来源:荆州新闻网。违反上述声明者,本网将追究其相关法律责任。