2026年1月1日,中共国家广播电视总局宣布了一项为期一个月的整治行动,旨在治理被称为“AI魔改”的内容,进一步收紧对短视频和人工智能生成内容的监管。长期从事短视频教育内容的专业人士指出,AI生成的内容常常不符合官方的预期,“魔改”作品中包含的独立思考元素让当局感到棘手。

“AI魔改”是指利用人工智能技术对现有的图片、视频、音频或文字进行二次创作、风格转换或大幅度修改。中共的官方媒体在2025年12月31日发布的通知中明确表示,此次整治将重点清理历史题材、革命题材以及英模人物等相关影视作品的“AI魔改”视频。根据北京方面的消息,一些网络账号通过AI换脸、语音合成和片段重组等手段,将影视内容转化为短视频形式。

整治行动要求各大平台实行“先审后发”的机制,并对“乱象突出账号”进行整治。这意味着,使用生成式人工智能工具再造影视内容的网络账号将可能面临行政处罚。周姓创作者在元旦接受采访时表示,近年来他注意到许多小学生使用AI换脸工具制作动漫片段,并叠加网络语音。他指出,孩子们所用的多是免费应用,“只需三下点击就能换脸,一分钟就能出片”,这些视频一旦制作完成便被迅速分享。

他还认为,此次整治不仅仅针对青少年,更深层次地涉及到价值观的导向问题,因为AI生成的内容有时可能与当局的主流意识形态不符。中共当局对政治内容的担忧也在不断增加。

官媒央视网站在12月的报道中提到,一些革命题材影视片段经过重新剪辑、配以网络语音后被指责为“背离原作精神”。报道同时指出,当局要求各平台加强对相关内容的识别,并执行“分类管理、先审后发”机制,以防止未经授权的改造内容扩散。

长期参与平台审核工作的技术人员李先生表示,审查的难点在于逻辑颠覆而非简单的换脸。他强调,当前的审查系统主要基于影像识别,难以判断内容的实际含义,最终的判断往往还是依赖人工审核。李先生还提醒网民,过去半年中,网信办向各个平台发布了一系列治理提示,表明相关管理措施将持续下去,而非一次性通告。

多位受访创作者对未来的治理范围表示担忧。有业内人士在社交平台上私下表示:“我们并不惧怕规则,而是害怕规则的无限延伸。”在2024年至2025年间,涉及政治人物影像的虚构传播也遭到越来越多的限制,例如社交平台曾出现使用AI技术将政治人物面孔合成到娱乐视频中的短片,但在引发大量转发后被迅速下架。

有文化评论人士指出,此次治理的名义上是为了保护未成年人,但实际上更可能是对表达空间的限制。北京时事评论员贺方表示:“当剪辑、二次创作和再制作都被纳入监管范围时,允许表达的形式将越来越单一。”他认为,这一轮整治不仅影响内容的生产,也将影响新一代如何理解创作和想象。

观察人士指出,监管部门开始将人工智能视为新的内容“风险”,并采取集中式治理的政策走向。截至目前,中共当局尚未公布此次专项治理的效果评估及后续处理计划,业界也在关注未来是否会将治理范围扩大至更广泛的二次内容创作和个人表达领域。本报将持续关注这一动态。

作者 author