198元就能让已逝亲人开口说话,“AI复生”生意火爆背后暗藏哪些风险?

每经影视
越来越多的人开始尝试使用AI技术来“复活”逝去的亲人或明星,仅需198元—598元,便能定制一个你想要的数字人视频。

“真的很忙,一天加这么多,真的回复不过来”。十天前,微信名为“AI复活师”的微信好友申请已经“爆炸”。他在朋友圈发文:“加不完,根本加不完”。

音乐人包小柏利用AI技术“复生”了女儿包容、商汤科技的下属公司制作汤晓鸥数字人……这些视频在社交媒体上广泛传播,让更多人看到了AI技术的强大潜力。

随着这些案例的走红,越来越多的人开始尝试使用AI技术来“复活”逝去的亲人或明星,各类AI复活真人的尝试犹如雨后春笋般冒了出来,尤其是具备丰富数据素材库的已逝明星:李玟、张国荣、高以翔、乔任梁,甚至于科比,均被AI“复活”了,真假难辨。

与此同时,数十个与“AI复活”相关联的ID出现在社交平台上。他们表示,仅需198元—598元,便能定制一个你想要的数字人视频。

“AI复生”随着技术发展变得更加逼真,但“火热”生意背后仍潜藏诸多风险。

“AI复活师”账号猛增,“人手不够用”

近日,李玟、张国荣、高以翔、乔任梁被AI“复活”的视频登上微博热搜。这些离我们远去的公众人物纷纷被AI技术“复活”,以视频的形式重新回到大众视野。

3月15日,高以翔生前经纪人转达高以翔家人的意见称,不希望高以翔肖像被他人任意使用,谴责并坚决抵制该行为,若不立即停止侵权行为,家人会采取法律行动;乔任梁父亲也对媒体表示,无法容忍AI技术使儿子复活,这让他感到极度不适,“我希望对方能尽快将视频下架,他们未征求我们同意,这是在揭伤疤”。

AI“复活”的乔任梁。图片来源:短视频平台截图

如今,在社交平台上搜索“AI复活”,有各种相似的账号在活跃。通过发布科比、李玟、高以翔等已逝名人的AI视频吸引观众,并以此招揽客户,声称可以定制祝福、修复照片、复活亲人等。

记者联系到其中一位名为“AI复活师”的博主,该博主提供了包括“AI复活套餐”,包括“逝者照片+AI配音”“逝者照片+逝者声音克隆”“逝者视频+逝者声音克隆”等服务,这些服务的价格根据内容的复杂程度和个性化需求,从198元到598元不等,发在社交平台上的明星示例为598元版本,制作此版本,用户只需提供10秒以上的声音和一段有正面肖像的视频。

说起技术,该“复活师”十分自信,“市面上基本超越不了,我们598(元)的效果,他们都是大几千”。

除AI视频服务外,这名“AI复活师”还表示正在收徒及寻找下游代理,可提供AI视频制作教学服务。收徒价格为980元,仅可以学习售卖价格为198元的“逝者照片+AI配音”技术,学会后接单,每单提成50元,基本每天都会有单子。而如果要学会全套技术,学费则近2万元。

代理的收费价格同样为980元,收入来源包括制作业务、收徒、招收代理,提成分别为40%、40%和80%。该“复活师”建议记者选择代理,“只需要去平台上推广就行,基本3天就能回本。”他表示,目前市场上需求很大,不用担心没单的情况,“团队代理30多人,人手根本不够用”。并称,接下来会上线小程序,支持视频通话,用户可以直接在小程序下单。在他看来这是个很“积德”的事情,“我们客户接触下来,总体反馈都是特别感恩”。

所有交易都是以微信转账的形式进行,问及如何保证安全,对方表示,“你自己考虑”。当记者提到,其中可能涉及的侵权风险时,该“复活师”表示,“告也是告‘总部’,代理不用担心这些”。

目前,《每日经济新闻》记者发现该账号已下线所有明星视频,但在其朋友圈还能看到相关推广,其中一条是,“订单多,急需学徒”。

谁在为“AI复生”买单?

早在2016年,小冰公司就开始研究AI“复生”技术。小冰CEO李笛在接受《每日经济新闻》采访时曾提醒,比起AI复生带来的好处,更需要担心其被滥用的风险。

“当大量没有严格自我规范的企业进入市场时,他们可能会借助人们的情感需求进行勒索,其中包括个人隐私数据以及金钱。”李笛说,对于普通公众,“AI复生”的价格可以不贵,昂贵的地方在于一旦被滥用后产生的巨大破坏力。

一语成谶,担忧的事情很快应验了。在这场关于AI复活技术的伦理和法律风暴中,舆论的喧嚣和争议不断升级。

随着AI技术的快速发展和普及,生成视频的成本和难度正在迅速降低。过去人们难以想象离开后还能以数字形式“复活”于这个世界,但现在这个问题已经变得不再遥远。

谁在为“AI复生”买单?“AI复生”这门生意背后有哪些风险?

北京市京师律师事务所合伙人王荣梅、实习律师孔嘉琦(下称“王荣梅团队”)在接受《每日经济新闻》记者的采访时表示:“根据《中华人民共和国民法典》,死者肖像权等人格利益受法律保护,未经其近亲属允许,擅自使用死者人脸信息利用AI技术制作视频推广盈利构成侵权,其近亲属可向侵权者主张承担民事责任。”

王荣梅团队还提到,《互联网信息服务深度合成管理规定》第14条规定,死者在生前作为其肖像权的权利人,有权同意或拒绝他人在其生前或死后对其肖像权的使用,若其明示拒绝在死后任何人以AI技术对其肖像进行使用,任何第三人包括其近亲属均无权使用AI技术对其进行“复活”。

当死者肖像权被侵害时,死者近亲属可以向人民法院提起诉讼维护死者人格利益,既可以根据《中华人民共和国民法典》第179条的规定要求行为人承担民事赔偿责任,也可以根据《民法典》第996条和《最高人民法院关于确定民事侵权精神损害赔偿责任若干问题的解释(2020修正)》第3条的规定向行为人主张精神损害赔偿。

然而,侵害权益的责任并不仅在于制造人。作为平台方,也有责任对涉嫌侵权的内容进行审查并及时下架。王荣梅团队进一步称,《中华人民共和国民法典》第1195条规定,网络用户利用网络服务实施侵权行为的,权利人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。网络服务提供者接到通知后,应当及时将该通知转送相关网络用户,并根据构成侵权的初步证据和服务类型采取必要措施;未及时采取必要措施的,对损害的扩大部分与该网络用户承担连带责任。

因此,平台作为管理者,应承担对涉嫌侵权的内容进行审查并下架的责任。如平台未及时采取相应措施,应与侵权行为人共同承担连带责任。

警惕AI技术诈骗风险

AI数字人以惊人的速度席卷到大家的日常视野中。《每日经济新闻》记者发现,市面上除了做逝去亲人的“复活”视频外,就以做明星相关的数字人视频为主。“除了做明星,普通人谁会做AI视频?”某位“AI复活师”告诉记者。

随着技术实现难度的降低,人们越来越难以分辨视频中的真假。例如,某段视频中,周杰伦“亲口”推荐的投资项目,若不仔细辨认,很难发现那其实是“数字人”。

“定制祝福”,同样是AI复活产业链中的重要一环。2023年底,据新京报报道,明星送祝福已明码标价形成了产业链,价格从800元至10万元不等。当AI介入后,无论多大牌的明星,最高几百元便能为你量身定做一段祝福。

AI复活技术仿佛打开“潘多拉魔盒”。日前,商汤科技数字空间事业群数字文娱事业部总经理栾青在接受《每日经济新闻》记者的采访时表示,目前从技术本身来讲,我们只要十几秒、二十秒的素材就可以制作一段数字人视频。“普通人想做,肯定是做得起的。我看到新闻1万元左右就能‘复活’亲人,大概就在这样的范围,甚至有些简单的视频价格可以更低。”

“过去想要用AI‘复生’一个人的性格和三观,可能需要两到三个月的时间,而现在,这一过程可能仅需一到七天。”李笛亦对记者表示。

目前,大家对于如何解决AI“复生”的风险问题还没有明确的答案。就连包小柏在表达对女儿的思念时,也不忘提醒公众警惕AI技术诈骗的风险,呼吁大家好好保留生前的数据资料,不要轻易交给外人。

本文作者:每经记者,来源:每经影视,原文标题:《198元就能让已逝亲人开口说话,“AI复生”生意火爆背后暗藏哪些风险?》

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。