9 月 1 日起，国家网信办、工业和信息化部、公安部、国家广播电视总局联合制定的《人工智能生成合成内容标识办法》正式施行，明确规定所有 AI 生成的文字、图片、视频等内容都必须 “亮明身份”。
近年来，随着人工智能技术的快速发展，AI 生成内容在提升信息生产效率的同时，也带来了诸多问题。例如，今年西藏定日县发生 6.8 级地震后，一系列 “小男孩被埋图” 在互联网平台广泛传播，后经公安机关网安部门核查，这些图片确由 AI 工具创作，涉案人员已被依法行政拘留。
《标识办法》明确，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。其中，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示，从而在传播端阻断虚假信息扩散。
据了解，《标识办法》与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等，这些信息能够帮助执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或者用户。
在 “AI 新规” 实施前夕，不少内容平台已经开始行动。8 月 31 日，微信发布关于进一步规范人工智能生成合成内容标识的公告。其中提到，用户在发布或传播 AI 生成合成内容时，不得以任何方式删除、篡改、伪造或隐匿平台添加的 AI 标识。对于违反法律法规及平台规范的行为，平台将视违规情况进行处罚。
今日，抖音也发布《关于升级 AI 内容标识功能的公告》，进一步规范平台上的 AI 内容创作与传播。《公告》显示，结合《人工智能生成合成内容标识办法》要求，抖音已上线两项核心功能：一是 AI 内容标识功能，协助创作者为 AI 内容添加提示标识，方便用户区分辨别；二是 AI 内容元数据标识读写功能，可识别并写入 AI 内容的元数据信息，为内容溯源提供技术支撑。
