8月18日，央视新闻曝光AI克隆声音乱象，一些博主在社交平台利用AI仿冒全红婵、孙颖莎、王楚钦等名人声音进行带货或直播，网络上克隆声音教程和软件随处可见。为规范AI生成内容应用，相关法规即将施行。
AI克隆声音用于带货与直播
央视新闻曝光，在某社交平台上，有博主利用AI仿冒奥运冠军全红婵的声音卖土鸡蛋，“克隆”孙颖莎、王楚钦的声音，为“婵宝家土鸡蛋”高调带货。被AI仿冒的“全红婵”在带货视频中称：“我是你们的婵宝，今天有事请大家帮忙，婵妹就想着帮助妈妈，让家里的生活过的更好一点，同时把老家的土鸡蛋分享给粉丝们尝尝，今天先让妈妈拿出300单老家土鸡蛋给大家放福利。”评论区不少网友误以为是奥运冠军本人，纷纷下单购买。此外，还有博主“克隆”演员靳东等的声音，进行24小时语音直播。
克隆声音技术易获取
记者调查发现，在网络平台上可以轻易找到大量AI克隆声音的教程和软件下载信息。甚至有卖家表示，任何人的声音，只要有一分钟素材，都可以轻松“克隆”。依托成熟的语音大模型技术，仅需十几秒就能“克隆”任何人的声音。部分博主不仅详细演示操作过程，还直接提供软件资源。
规范AI生成内容的法规
为进一步规范AI生成内容的应用，便于用户更好的辨别虚拟内容，国家互联网信息办公室等四部门联手发布《人工智能生成合成内容标识办法》，并定于2025年9月1日起正式施行。《标识办法》明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。
以上文章由 AI 总结生成
