极客网·流媒体1月22日 进入2026 年， 将打击 “AI 垃圾内容”、识别深度伪造列为年度优先事项。公司CEO 尼尔・莫汉在年度公开信中明确表态，随着 AI 生成内容的爆发式增长，分辨真实与合成内容的难度陡增，而泛滥的低质量 AI 衍生内容已成为平台亟待解决的核心问题。
所谓 “AI 垃圾内容”，按照莫汉的说法，主要指那些通过 AI 批量生成的低质重复内容。这类内容缺乏原创价值，多为同质化信息的简单堆砌，仅以博取点击量为目的；此外，未经授权使用他人面部的深度伪造内容、违反平台准则的有害合成媒体，以及未经披露的 AI 修改内容，也被纳入重点治理范畴。这些 AI 垃圾不仅扰乱平台内容生态，更给用户判断、创作者权益和广告主利益带来潜在风险。
为应对这一挑战， 正升级反垃圾与反点击诱导技术体系，同时强制要求 AI 生成视频明确标识，创作者需主动披露内容是否经过 AI 修改，违规有害内容将被直接移除。此前该公司推出的 “相似性检测” 功能已覆盖数百万合作伙伴，用于识别侵权类深度伪造内容。
值得注意的是，打击AI垃圾内容背后， 始终将 AI 定位为创作辅助工具，2025 年日均超百万频道使用其 AI 创作工具，未来还将拓展至 短视频、AI 音乐创作等场景，在打击AI垃圾内容的同时，不排斥利用AI助力优质原创内容产出。
生成海报
云衔科技是一家专注于企业数字化广告营销解决方案的服务商。公司凭借深厚的行业经验和专业技术能力，致力于为企业客户提供全方位、更高效的数字化广告营销与运营服务。