“蚂蚁呀嘿,蚂蚁呀呼,蚂蚁呀哈,蚂蚁呀哈哈......”
过去一周,在社交媒体、短视频平台,相信不少人都被这个魔性的音乐配合着夸张扭动的变脸视频刷屏了。然而这款名为Avatarify,火爆全网的AI换脸软件从2月底冲上苹果App Store免费榜第一,到3月2日凌晨从App Store中国区悄然“下架”,只用了不到一周的时间。业界猜测该款软件可能涉及隐私安全等问题。截至3月2日15时,#蚂蚁呀嘿#话题在某短视频平台已经拥有25.8亿次的播放量。到3月5日,某短视频平台上#蚂蚁呀嘿#相关话题播放总量已超29亿次,特效被785万人使用。这款软件通过AI换脸技术让图片动起来,为网友带来新奇好玩的娱乐体验,同时,蚂蚁呀嘿短视频的灵魂在于BGM,为人物增加了反差效果,从科技公司大佬到演艺界明星,再到蒙娜丽莎等世界名画,甚至猫猫狗狗们,都唱起了“蚂蚁呀嘿”。
该软件运行的原理是将别人的脸套在自己的表情上进行实时驱动。
用户只需要三步:导入手机里的人脸图片,选择视频模板,软件就能自动生成短视频,再一键保存即可。值得注意的是,由于Avatarify采用的是免费下载+内购的形式,用户若想在生成的动图及视频中去除水印、增加内存,则需要付费。据了解,此前Avatarify一周的使用价格为人民币18元,包年价格为253元,首周免费。对于这个价格与服务,用户的接受度并不高。于是,网店看到了这一商机。有网友表示,在网购平台上有人可以代为制作,定价从几元钱到几百元不等,每张图片单人10元。以“蚂蚁呀嘿”为关键词在某电商平台中搜索发现,类似店铺有将近百家。也有不少网友担心,在网上请他人代为制作视频,以及网友擅自使用明星照片制作视频,是否存在风险呢?当然是存在的,“刷脸”时代,网民的个人正面照片或者视频一旦泄露,有可能会被不法分子在非法领域使用。网民表面上只是委托他人代为制作一个视频,因换脸技术的存在,有可能到最后其个人信息被不法分子通过层层兜售,被用于借贷、办银行卡,造成网民的金钱损失。就在一众网友玩的兴起的时候,3月2日,在火爆了不到一周后,Avatarify却悄然从App store下架了。关于下架原因,目前官方并未说明。有网友表示,Avatarify只从中国区App Store下架,其余地区仍可正常下载,下架原因或与此前火爆一时的“ZAO”下架原因类似,涉及隐私安全等问题。央视新闻就此事报道,类似”蚂蚁呀嘿“这样的特效存在相应的安全风险。上图为央视记者演示如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。至此,小珊帮大家整理一下换脸技术蕴含的风险:一是涉嫌侵权,可能包含名誉权、肖像权、知识产权等;二是隐私,可能涉及生物信息泄露带来的资产安全乃至人身安全等;三是数据,可能包含数据倒卖、数据保护与存储等。近年来,围绕人脸识别的争议不断,用户的个人信息安全问题也引起了有关部门的重视。早在2019年11月底,国家网信办、文旅部和广电总局三个部门就联合发布了《网络音视频信息服务管理规定》,其中第十一条指出,基于deepfake技术制作的换脸视频“应当以显著方式予以标识”,且不得利用该技术“制作、发布、传播虚假新闻信息”。
除了社会治理和监管部门的重视外,网民个人也要加强个人隐私防范意识,跟风虽快乐,风险需自知。