|
小心“AI李鬼”背后骗局！-绍兴抖音短视频直播商城制作开发为你呈现时间：2025-02-27 大家好，我是小珊 最近刷短视频总有种魔幻感 “张文宏”突然开始带货保健品 “雷军”深夜直播卖山寨机 甚至“刘德华”在K歌软件疯狂营业 这些看似离谱的场景 背后都藏着一个关键词：AI 今天我们就说说“AI仿冒名人”的事儿 带大家一起擦亮眼 01 名人“AI变形记” 近期“张文宏”推荐保健品的视频引发轩然大波。视频里“张医生”推了推眼镜，用他一向沉稳的语调说“提升免疫力，我推荐XX”，细节还原度极高，连嘴角微抿的小表情都逼真复刻。
要不是他火速辟谣，恐怕有更多的受害者上当购买了三无产品。实际上这是AI“仿冒名人”，提前生成的视频片段竟达到了以假乱真的地步。这种“专业人设+带货”的“AI李鬼”套路，成了滋生网络黑产的新温床。 除此之外，小珊还看到了“雷军”放着总裁不当，去说起了相声。有人觉得“让AI雷军说段相声”无伤大雅，事实上却隐藏着诸多危险：某诈骗团伙用AI合成某市领导声音，要求下属企业转账；某粉丝用偶像“AI分身”开付费语音直播，一晚上收割上万元。 “AI造假名人”已经不是孤例，而且医疗专家、企业家等具有公信力的群体，成了AI仿冒的对象，这伤害的不仅是个人名誉，更是整个社会的信任链。 02 黑产链起底： 200元就能让名人“开口” 在某平台搜索“AI声音克隆”，跳出的服务令人咋舌：200元定制明星语音包，500元制作名人换脸视频，甚至支持“情绪调节”要求——想要明星笑着推荐理财产品，加钱就能实现？！ 这些商家用的不过是AI开源工具：15分钟的名人原声就能训练声音模型，一段公开演讲视频即可生成换脸素材。技术创新本应用于普惠大众，却意外催生出“灰色影棚”。 由于仿冒名人的内容制作成本低，账号打一枪换一个马甲，让人实在难以招架，背后的经营机构利用AI仿冒名人进行不当营销、恶意博取流量的行为，显然已经侵犯了个人肖像权。 根据相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。而网店接单帮人仿冒名人音视频，已经触碰了法律底线，需要承担相应的法律责任。 2023年，国家网信办、工信部、公安部联合发布出台的《互联网信息服务深度合成管理规定》要求，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。2024年国家网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》也提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。 03 AI防骗小妙招 针对AI“仿冒名人”现象，我们要提高防范意识，注意鉴别，这里给大家科普一些避雷的小妙招。 个人要想养成“防诈体质”，需要多留心多注意。AI生成的内容其实也有瑕疵。比如，AI语音常有机械尾音，多听几分钟就能辨别到AI味，在重音停连方面语气不够自然。 AI换脸视频中眨眼频率固定，嘴角肌肉运动可能会不自然，也无法及时和弹幕用户互动。如果用0.5倍速观察微表情，可能就会看到AI端倪了。 重要的是，你需要保持警惕生活中的反常场景，如果明星跑来推销三无产品，专家突然跨界推荐理财产品，那么一定要小心上头了。 内容创作者在微信视频号发布AI相关视频内容时，也需要明确标注“AI技术生成”声明，添加的标识会在视频底部进行显示。 如果在微信内发现疑似“仿冒名人”的AI音视频，大家也可以向平台投诉，避免更多人上当受骗。 小结 AI本是拓展现实的工具 而非制造虚妄的魔镜 让我们一同规范AI使用 抵制侵权违规行为 成为“数字真相”的守护者 维护风清气正的网络安全环境 —— END —— |
