雷军两会建议加强AI换脸拟声侵权治理，回应网络恶搞事件

你要是不起床，我就会远程操控小米 SU7 去撞你。从去年开始就在网络上流行起来的“雷军骂人语音”，被其本人从虚拟的空间带到了今年的全国两会。

全国人大代表雷军是小米科技的创办人。3 月 4 日，他在自己的公众号上公开了今年两会的 5 条建议。其中“加强‘AI 换脸拟声’违法侵权重灾区治理”这一条建议尤为引人关注。因为雷军本人就是 AI 换脸拟声的“深度受害者”。

各类 AI 生成语音、视频软件上线之后，口音辨识度极高的雷军一直是网友热衷于“恶搞”的对象。网友们不仅生成各种骂人语音并上传到社交平台，还把他制成手机、闹钟铃音。他们纷纷涌到雷军本人的微博下询问“最近你怎么在骂人”。雷军回复了三个“发怒”的表情，之后他回应称自己挺困扰且挺不舒服，希望大家不要再玩了。

如果“雷军骂人”是网友借助 AI 软件进行“恶搞”和“玩梗”，那么另一批遭遇 AI 换脸拟声的公众人物已经被用于牟利了。在雷军公开自己两会建议的前一天，演员刘晓庆在社交媒体进行打假，一个名为“晓庆人生”的视频号发布了多条她的视频，这让她感到惊讶，因为画面是她，声音很像她，但实际上不是她。她开始担忧，心里想着：大家以后会不会弄不清楚到底哪个才是真正的自己呢？并且这一视频号的主体被显示为一家生物技术公司。

“AI 换脸拟声”或许仅仅是新技术引发负面影响的开端。在十四届全国人大三次会议的新闻发布会上，大会发言人娄勤俭明确表示：人工智能技术的发展会伴随一系列难以预料的风险与挑战，在安全、社会治理以及道德伦理等方面催生诸多新的课题，“中国政府对人工智能技术的发展和风险防范极为重视”。

存在影响广泛的未知风险，是否该将 AI 技术发展和应用严格限制在“一定范围”内呢？实际上，技术变革引发的这一争论一直都在持续。30 年前在第二届国际大专辩论会上，南加州大学与香港中文大学就“信息高速公路对发展中国家是否有利”这一议题展开了激烈的辩论。30 年后的今日，历史清晰地表明，当时被称作“信息高速公路”的互联网给包括发展中国家在内的全世界带来了积极的变化。

历史上，从工业革命到互联网浪潮，技术革新在发展过程中会带来各种未曾预料的问题。然而，它对于推动经济发展、社会公平和民生福祉有着惊人的能量。人工智能也应是这样。它能够大幅提升人类认识世界以及改造世界的能力，还会成为新一轮科技革命和产业变革的重要驱动力量，肯定会对生产关系产生影响，所以不应该因为噎住就停止进食而限制人工智能技术的发展。并且，以大数据为基础的人工智能，其技术的前进需要更丰富的应用场景，技术的普惠既可以让更多人共享技术进步带来的红利，也能够反过来滋养技术本身。娄勤俭在谈到人工智能时表明了一种态度，中方提出了《全球人工智能治理倡议》。这一倡议旨在推动弥合科技鸿沟，防止科技创新变成“富国和富人的游戏”。中方愿意与世界各国一同，继续为推动人工智能的健康发展、促进世界经济增长以及增进各国人民的福祉而付出努力。

不可否认的是，技术普惠使得人工智能使用的科技门槛降低了，经济成本也降低了，并且让人工智能的应用变得多种多样，雷军和刘晓庆的遭遇就体现了这一点。但是，不管是“玩梗”还是为了牟利，利用 AI 换脸拟声这种行为早就有法律进行了明确规定。《民法典》等法律明确规定，自然人享有肖像权、声音权等权益，利用 AI 等信息技术进行伪造属于侵权行为，在现实中也已经有相关的判例了。

这一问题让雷军代表感到困扰，主要原因在于，与人工智能的快捷回应以及互联网的便利传播相比，通过法律诉讼来维护自身权益需要花费更多时间且成本更高，而 AI 时代需要更高效的解决办法。

用技术来应对技术是一种可行的手段。个人对于 AI 生成音视频的真假难以分辨，那么不妨强化平台的责任，让平台对上传的音视频进行技术检测，并且以显眼的方式提醒用户。在一些规模较大的内容平台上，对于造假冒充真人等内容，已经有了“疑似 AI 生成”的提示和标注，这种类似的做法是消除技术负面效应的开端，但绝不能仅仅停留在这一步。

毋庸置疑，与雷军、刘晓庆等知名公众人物相比，普通人遭遇技术侵权时，维权成本更高。他们很可能会陷入投诉无门的困境，所以更需要一个能清晰明确地反映问题和解决问题的渠道。在现有的条件下，可以整合法律资源，使统一投诉平台和解决办法更加畅通，让普通人能够以更低的成本快速进行维权。待未来AI技术进一步发展后，或许也可适时启动专门立法程序。

技术普惠是当今世界的发展趋势。DeepSeek 坚持开源共享路线，推动了人工智能技术在全世界的普及。中国以智慧努力实现全球的技术民主。技术普惠和技术作恶之间存在着矛盾，这种矛盾或许会长久存在。它就如同悬在人类头顶的一把剑，时刻在提醒我们、拷问我们、鞭策我们。这把剑让我们明白，发展不能停下脚步，但必须要用人性的善良来引导科技朝着善良的方向发展。

继续浏览有关 十四届全国人大三次会议人工智能风险高效解决办法 的文章