蚂蚁要消灭“AI换脸”的隐患

技术向善。

作者 | 刘宝丹

编辑 | 周智宇

AI技术在推动社会进步的同时,带来不少安全隐患。蚂蚁则希望用自家技术,杜绝这些隐患。

4 月 16 日,蚂蚁数科旗下科技品牌ZOLOZ发布了新产品ZOLOZ Deeper,这是一款深度伪造(Deepfake)综合防控产品,解决的是日益增长的AI安全隐患问题。

该产品已率先应用在身份安全领域。通过全链路安全技术,帮助用户规避在刷脸认证场景中的“AI 换脸”风险。

ZOLOZ Deeper的推出是蚂蚁数科发力安全科技的关键一步。也是蚂蚁数科启动独立化运营之后的第一款身份防御产品,标志着蚂蚁数科要在安全领域“掘金”。

所谓深度伪造,指的是基于深度学习算法,从大量的视频和图像数据中学习,伪造出逼真的面部动画和语音。近年来,全球Deepfake事件呈10倍速度激增,北美、亚太地区等地已经成为 Deepfake 攻击的重灾区。

这对安全科技提出了新的挑战。中国信通院人工智能研究中心安全与元宇宙部主任石霖指出,随着深度学习算法不断优化和创新,Deepfake带来的安全风险和隐私侵犯问题愈加严峻,且生成的内容越来越难以区分真伪。

同时,这也意味着,身份安全领域正在孕育着巨大的市场需求。安全科技是蚂蚁数科的关键技术布局,旗下蚁盾、ZOLOZ 分别瞄准产业风控安全和身份安全领域提供技术方案,目前已经成为数科高速增长的引擎。

尤其,ZOLOZ以生物识别技术见长,历经支付宝App等大规模场景验证,核心产品囊括可信身份认证、反洗钱、终端安全等,为中国、印尼等14个国家和地区的70余家合作伙伴提供技术服务。

ZOLOZ产品总监陶冶对华尔街见闻表示,ZOLOZ Deeper之所以能够快速推出,一方面源于本身的经验积累,另一方面也是基于在不断攻防过程中,在技术上有较多的演练。

具体来看,ZOLOZ Deeper搭建了端云一体的全链路技术体系,以应对系统、服务器、应用等多环节的Deepfake安全威胁,比如,在用户操作过程中,深度学习模型可以捕捉微表情、肌肉纹理等细微特征。

攻防演练主要依赖于蚂蚁集团的天玑实验室,GAN模型会生成超30万测试样本,交给 ZOLOZ Deeper 进行判别训练,每个月还会对其进行超过20000次的攻防测评,模拟上百种伪造攻击情况。

值得一提的是,ZOLOZ 联合蚂蚁安全响应中心(AntSRC)设立了超百万的奖金池,支持安全极客来挖掘 ZOLOZ Deeper 的漏洞。

ZOLOZ Deeper能否打响第一战还需要在时间中验证。可以确定的是,人工智能技术发展越快,其潜藏的技术风险也越大,这场关于反深伪的技术竞赛,也许才刚刚开始。

上月,蚂蚁集团董事长兼CEO井贤栋宣布新一轮组织架构升级,作为创新业务,蚂蚁数科成立董事会,蚂蚁集团CTO倪行军任职蚂蚁数科董事长,赵闻飙任蚂蚁数科 CEO。未来,蚂蚁数科将独立面向市场实现商业化运营。

赵闻飙有深厚的安全基因及20多年的风险管理经验,他认为,安全科技不仅是数字化发展的“压舱石”,更是“助燃剂”。这也意味着安全科技能够在未来蚂蚁数科的业务版图中,起到更大作用,并体现在营收、利润上。

蚂蚁数科也随之进入新的发展阶段。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。
相关文章