今年两会期间，AI生成内容可能带来的虚假信息传播和侵权问题成了不少全国人大代表关注的焦点。多位代表明确提出建议，呼吁建立“不可去除的数字水印”制度，让所有AI生成内容都强制添加永久性标识。
全国人大代表、山东省音乐家协会名誉主席刘晓静就指出，现在AI换脸、拟声技术已经被不法分子盯上，用来搞诈骗、侵权，还制造虚假信息，危害不小。她建议建立AI生成内容强制标识制度，像视频、音频这类AI生成的内容，都得嵌入不可去除的数字水印。这么做，一方面能保护原创者的权益，另一方面也能保障受众的知情权，还能给监管部门提供溯源的依据。
据了解，数字水印可是国际上公认的AI内容监管手段。显性水印能让公众一眼就识别出来，隐性水印则能防止恶意篡改，还能给跨平台追踪提供支持。
值得一提的是，从 2025 年 9 月 1 日开始，我国《人工智能生成合成内容标识办法》就正式施行了。这个办法要求所有AI生成的文本、图片、视频等内容，都得添加显性或者隐性标识。目前已经有 490 多个大模型完成了备案，抖音、腾讯、DeepSeek等平台也都已经开始执行这个规定了。