当前位置:首页 > 百科 > 正文内容

“假雷军” AI 闹剧:七天骂翻全网,警惕AI声音侵权红线

威海图文店2个月前 (10-11)百科41
印刷厂直印●彩页1000张只需要69元●名片5元每盒-更多报价➦联系电话:138-1621-1622(微信同号)

国庆假期,短视频平台出现大量 “雷军” AI 配音的恶搞视频,话题浏览量过亿。视频中 “雷军” 言辞犀利、爆粗口,引发争议。这不仅涉及 AI 技术滥用,还可能侵犯了雷军的声音权益等知识产权,相关平台正逐步下架视频。

“国庆上网被雷军骂了整整7天”?

国庆假期期间,短视频平台上出现了大量 “雷军 AI 配音” 的恶搞视频。这些视频中,“雷军” 对堵车、假期等热门话题进行锐评,其中还夹杂着一些不雅谩骂的话语。 相关话题在平台上的浏览量过亿,相关创作超过上百条。

图源:抖音

在雷军的微博评论区中

不断有人留言询问此事

10 月 7 日晚

针对网友 “为何骂人” 的询问

雷军回复了三个愤怒表情。

图源:网络

10月9日

有网友在小米集团

公关部总经理王化评论区留言称

“把雷军AI语音骂人的事情

先解决一下吧”

对此,王化回复称

“已经转给他们(小米法务部)。”

图源:网络

经言域科技 CEO 谢伟铎确认,许多恶搞音频由网友使用其公司的 “reecho 睿声” 平台制作生成。该平台日活跃用户数攀升至几十万的量级,社交媒体上还有一些介绍使用 “reecho 睿声” 生成 “雷军” AI 配音的教程。用户除了自行上传雷军音频作为语料,还能直接使用其他用户在平台社区版块发布的音频素材。

AI 合成技术日益成熟,以假乱真的效果容易让普通人难以分辨真伪。这类视频的传播不仅会对当事人造成伤害,一旦泛滥,还会让每个人都可能成为被恶搞的对象,影响社会秩序和公序良俗。如果被用于造谣传谣、诈骗等违法活动,将对社会秩序造成极大的破坏。

目前,相关短视频已被平台逐步下架。这一事件也引发了人们对于 AI 技术应用边界和侵权问题的关注与思考。

AI伪造音视频事件已发生多起

事实上,在行业内,AI 伪造音视频事件早已屡见不鲜。

据《21 世纪经济报道》消息,此前,一段疑似某集团创始人卢文庆醉酒后的音频流出,音频中提及客服投诉、竞争对手以及与三位女主播的关系等内容,一时引发大量讨论。

图源:网络

9 月 26 日,安徽合肥市公安局高新分局确认,相关网传音频系 AI 伪造。 9 月 27 日凌晨,深圳言域科技吉印通发文称,“三只羊事件” 中使用的是 “Reecho 睿声” 大模型,由卢文庆 30 秒的直播片段克隆生成,目前该公司正在加强安全管控措施。

声音是否受到法律的保护

在 AI 技术快速发展的当下,AI 生成声音的应用愈发普遍,从媒体娱乐到客户服务,AI 配音技术为创作提供了新的可能性。然而,AI 配音一旦被滥用,便可能涉及侵权等问题。

《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律对此均有规定;国家网信办等七部门吉印通公布并于2023年8月15日起施行的《生成式人工智能服务管理暂行办法》还专门对侵害个人信息权益的人工智能的责任进行了明确规定。

在数据来源方面,《安全要求》提出不应采集他人已明确不可采集的语料,包括个人已拒绝授权采集的个人信息(第5.1条c)2)项);

为保证数据来源可追溯性,《安全要求》进一步提出,服务提供者将使用者输入信息当作语料时,应具有使用者授权记录(第5.1条c)4)项);

从内部管理角度,《安全要求》要求对训练语料的知识产权侵权风险进行识别,不使用存在知识产权侵权问题的训练语料(第5.2条b)2)项)。

此外,前不久,国家互联网信息办公室起草了《人工智能生成合成内容标识办法(征求意见稿)》,明确指出,人工智能生成合成内容标识包括显式标识和隐式标识,且不得恶意删除、篡改、隐匿标识。

所以,即便用 “雷军们的 AI 配音” 只是出于恶搞目的,也该恪守边界,不要以恶搞之名行侵权之实。

最后提醒相关产业和企业,应根据相关法律规范及技术规范,严格把控语料来源安全,重视对知识产权、个人信息的安全保护,建立和完善内部管理制度,以避免侵权事件的发生。

收藏0
标签: AI

发表评论

访客

看不清,换一张

◎欢迎参与讨论,请在这里发表您的看法和观点。