这两年，直播带货的火爆吸引着不同行业领域的人加入。其中，奥运冠军、演艺明星等公众人物的直播普遍具有很高的关注度。从靳东化身“妇女之友”和网友畅聊，到全红婵直播售卖“土鸡蛋”，您刷到过这些“名人”的直播吗？明星直播之所以广受关注，首先是因为他们自带流量，再者受众认为相较于普通商业网红，公众人物有更强的公信力。但网友们每天追捧的“明星直播”都是真的吗？
据央视新闻报道，近期在互联网上，不少奥运冠军的“声音”突然开始推销农产品，知名演员的“声音”24小时不间断在直播间与粉丝互动……这些以假乱真的AI克隆声音正成为部分自媒体博主的流量密码。
在短视频平台上，一个网名为“我是小助理吖”的账号利用AI仿冒奥运冠军全红婵，带货“老家的土鸡蛋”。其发布的17件作品，内容全部是利用AI仿冒全红婵声音带货土鸡蛋的视频，其中一个视频点赞量高达1.1万。大量粉丝误以为这就是全红婵本人，纷纷下单购买链接中的鸡蛋，商品链接显示已售出4.7万件。而全红婵家人曾向媒体证实，全红婵并未给相关农产品代言或授权。此前，奥运冠军孙颖莎和王楚钦等人也遭遇了同样的仿冒，他们的声音同样被AI克隆后在为土鸡蛋带货。
如今，观看直播得留神儿，AI技术挺邪门儿，直接克隆人声纹，您关注的明星，并不一定是真人。据网络安全专家介绍，通过仿冒名人进行直播这种方式不仅可以诱骗粉丝打赏获利，还可以将一个小白账号迅速打造成上万粉丝的账号，从而再为后续牟利来铺路。
从前几年的“一听就假”到如今的“真假难辨”，AI技术的发展速度远远超出了人们的想象。比如天津新闻广播的早间评论栏目《新闻有味道》中，每天介绍新闻背景的女主播声音，就是使用AI技术克隆生成的，当然我们是合规使用。
技术是把“双刃剑”，在合法合规的框架下，合理使用人工智能技术，能够提升工作效率，同时也让新技术和日常工作能实现有机结合。但如果在未经当事人知晓许可的情况下，擅自克隆对方的声音、形象用于营利，则涉嫌侵犯了相关人员的声音权、肖像权、名誉权，同时也对消费者构成了误导，损害了消费者的知情权和选择权。如果推销的商品有问题，还涉嫌欺诈，违反广告法，情节严重的或触及刑法。除此之外，目前AI克隆声音最大的隐患是被诈骗分子利用，一旦与AI换脸等技术结合，生成高度逼真的“数字人”实施诈骗，危害将非常严重。
我国民法典将人格权独立成编，首次以立法形式将保护“声音”写入其中，在第1023条中明确，对自然人声音的保护，参照适用肖像权保护的有关规定。有法律专家就指出，若AI合成声音能让公众凭音色、风格关联到特定自然人，即具法律可识别性，可构成侵权。任何自然人声音均应受法律保护，录音制品授权不等同于对声音AI克隆授权，未经许可使用或授权他人使用权利人的声音均属侵权。
尽管法律层面作出明确规定，但相关乱象依然屡禁不止，究其原因，至少有三个方面。
首先，技术进步使侵权容易。基于开源的语音大模型，现在只需要一段十几秒的清晰语音样本，任何人的声音都可能在极短时间内被克隆，并能被操纵说出攻击者设定的任意内容。在抖音、快手等网络平台上，以“声音克隆”为关键词进行搜索，能轻易找到大量相关教程视频和软件下载信息。部分博主不仅详细演示操作过程，还直接提供软件资源。可见，AI克隆声音早已能轻松实现，而且几乎是零成本、零门槛。侵权成本低且让受众真假难辨，使得乱象频现。
其次，取证繁琐让维权困难。此前，古天乐、张馨予、张文宏等知名人物都曾遭遇类似困境，也都纷纷发布声明表示维权，但实际走到法律层面的并不多。因为这些侵权账号往往变换迅速，发布的内容在短暂收割一波流量实现获利后，就迅速删除、隐藏，给取证造成巨大困难。部分受害方遇到该情况往往会迫于无奈，放弃以诉讼方式维权。在此背景下，助长了侵权方嚣张的气焰。
最后，审核不严使造假泛滥。互联网平台理应在直播带货、广告投放等关键环节完善风险识别机制，对涉及名人头像、声音的带货行为进行重点审核。一旦发现疑似AI克隆造假，应主动拦截、第一时间下架，阻断其传播。目前来看，部分平台还未尽到审核把关之责。
今年9月1号起，《人工智能生成合成内容标识办法》将正式施行，其中明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。另外，中央网信办也在全国范围内部署开展“清朗•整治AI技术滥用”专项行动，强化AI技术源头治理，清理整治违规AI应用程序。
借助相关的规范，打击互联网AI克隆造假就实现了有章可循。但要彻底治理当前乱象，至少还要从三个层面发力。
首先，网络平台层面。互联网平台应当对标要求，进一步完善技术识别、检测鉴伪能力，规范AI内容的标记，并对有意绕开标记规范的账号进行严肃处理，从而规范平台整体的AI应用生态。
其次，政府部门层面。可以考虑和平台建立起被侵权者维权的绿色通道，将传播、取证到司法裁判各环节都打通，提升维权效率。
最后，技术使用层面。技术开源是为了实现普惠，但是在开源的过程当中，应该对这些开源代码做一些使用层面上的限制，包括在使用时长、应用场景上，也需要做一些具体的应用限制。
除了这些具体措施，AI模仿名人声音等现象的出现，也应当引起社会的深度思考：在AI的研发和应用中，如何将“智能向善原则”和“责任原则”贯穿始终，又怎样确保AI始终服务于人的发展方向上，这些都是值得深思与探索的重要问题。
技术变革，促进生产迭代升级，带来效率的全新变化。但技术变革，同样需要坚守人文价值和规则底线。AI生成内容让人耳目一新，有着革命性的意义。只有在发展与监管之间找到平衡，才能真正让AI成为推动社会进步的正向力量，从而构建一个更透明、更可信赖的数字世界。PG电子试玩PG电子试玩