AI浪潮下，真人创作频遭平台误判，面临作品被限流、下架等问题。为解决此类乱象，《人工智能生成合成内容标识办法》将于9月1日起施行。当前AI检测标准缺失、准确率有待提高，这一背景下，真人创作者“自证”之路困难重重，相关案例不断涌现。
真人创作被误判现状
“手敲的剧本被以为是AI”“引用的作者原话被判定为AI”……如今，不少“真人创作者”面临作品被平台误判为AI生成的窘境，甚至遭遇作品被限流、下架。画师“月饼”在某社交平台上传原创绘画作品，3小时后被网友询问，才发现作品被平台标注为“疑似包含AI创作信息，请谨慎甄别”，而作者本人却看不到该标注。“月饼”找客服申诉无果，通过人工渠道申诉，将绘图过程、图层以视频方式整理提交，数月后AI标识才消失。“这张画我画了30多个小时，含60多个图层，有2万多笔划。原创被误判为AI，是对作者努力的否定。”“月饼”希望平台建立明确、透明的AI标识撤销渠道，并公开判断标准。事实上，不少网络用户都有类似遭遇，其画作、文案、视频等被标注“疑似AI合成”，包括手绘线稿、自拍照、风景照等。此外，除标注外，有些平台还会对作品隐藏、限流，对用户禁言等，且不少平台缺乏针对“被误判”的申诉机制，用户申诉结果差异大。
AI检测的难度与困惑
今年初，一家大型互联网企业负责人披露，在AI低质内容治理方面，普遍采用“用AI对抗AI”策略，约9成以上审核工作由机器完成，但机器审核准确率难以达百分百，需人工校准并持续输入准确样本训练。目前AI检测无标准，准确率有待提升。AIGClink发起人占冰强表示，各平台采用的AI识别技术不同，常见的特征识别技术因AI生成内容与人类创作日益接近，且人类输出内容包含大量AI生成原始资料，导致效果有限。对文字内容检测难度高于图片、视频，因AI生成的图片、视频不拟人、不拟合世界物理规律之处较多，鉴别相对简单。多位受访者认为，随着AI模型发展，未来检测“是否AI生成”难度会越来越大。即将实施的《人工智能生成合成内容标识办法》对AI生成内容标识作了规定，国内某视频平台相关负责人称，平台为创作者提供主动声明功能，鼓励标识AI生成内容，对疑似内容也会主动标识，行业内识别技术包括搭建AI内容识别模型等，且需不断迭代。占冰强则认为，可在上游AI模型生成方添加标识并开放查询接口，还提出应关注内容独创性，而非过度关注是否为AI生成。
全国首例AI误判案详情
北京互联网法院近期审结全国首例平台运用算法工具进行AI生成合成内容检测识别引发的案件。在某网络平台“高考后应该是学车还是打工”的提问下，网民李先生评论了两三百字内容，却被平台判定因“包含AI生成内容但未标识”违规，该内容被隐藏，李先生账户被禁言一天。
以上文章由 AI 总结生成