近年来，生成式人工智能快速发展，正在改变信息生产和传播方式。随着技术门槛不断降低、应用场景持续拓展，文字、图片、音视频等内容生产更加便捷，越来越多普通用户也能通过简单指令生成多模态内容，知识生产和创意表达的参与范围不断扩大，信息服务边界持续拓展。
AI内容真假难辨，网络治理面临挑战
技术进步在带来便利的同时，也让不实信息的生成和传播变得更加容易。尤其是在深度伪造、智能换脸、虚假音视频生成等技术不断发展的背景下，不实信息的制作成本明显降低，传播速度也更快。部分内容可以被批量生成、快速扩散，给公众辨别真伪带来更大困难。
与传统不实信息相比，AI生成的不实信息具有更强的迷惑性。一方面，这类内容往往缺少清晰的创作痕迹，来源识别和责任追溯更加困难；另一方面，部分不实内容会借助情绪化表达吸引关注，在社交平台和内容平台之间不断传播，进一步放大不实信息的负面影响。
与此同时，AI生成内容仿真性较强，合规创作与不实信息有时较难区分，事实核查和治理处置面临更大压力。如何在鼓励创新和有效治理之间找到平衡，成为当前面临的重要问题。
此外，不实信息的传播链条也变得更加复杂。从内容生成、二次加工到跨平台扩散，每个环节都可能产生新的变体。即使在某一环节进行了处置，也很难完全阻断其继续传播。特别是面对跨平台流动的文字、图片和音视频内容，不同平台在治理规则、识别能力和处置标准上仍存在差异，容易出现衔接不足的问题，给不实信息扩散留下空间。
不实信息治理中的平台角色
作为信息传播的关键枢纽，互联网平台在AI不实信息治理中承担着关键作用。生成式人工智能的发展一方面让平台治理面临新的挑战，另一方面也为治理提供了新的技术手段。
目前，AI技术已经被广泛应用于内容识别、风险预警、传播追踪和事实比对等环节。多模态识别算法可以对文字、图片、音视频内容进行综合判断，提高海量内容筛查效率；自动溯源和内容标识技术，有助于提升AI生成内容的可追踪性；语义分析和情绪识别能力，也能够帮助平台更早发现潜在风险。与此同时，大模型在风险研判、舆情预警与事实自动比对等方面的能力不断提升，也为平台从事后处置向事前预防提供了更多可能。
面对AI不实信息治理的复杂局面，越来越多平台开始加大技术投入，探索用技术应对技术带来的问题。当前，平台治理已经从单一内容审核，逐步发展为覆盖文本、图片、音频、视频等多种形态的综合治理体系。
以今日头条为例，其于2026年上半年利用平台不实信息识别技术，处置AI低质虚构军警形象、虚构自然灾害、人群冲突等社会负面内容超过43万条，处置美妆类、本地生活品牌类虚假用户体验评测等AI水军文章382万余例，治理力度进一步加大，有效遏制了AI不实信息的传播与扩散。此外，部分平台还探索将AI生成内容标识技术嵌入内容分发流程，从源头增强内容的可追溯性，为后续治理提供技术支撑。
不实信息的传播，并不只是单条内容的问题，背后还可能涉及账号运营、流量分发、批量生产和商业变现等多个环节。如果只对单条内容进行删除或下架，往往难以从根本上解决问题。因此，平台治理正在从“内容处置”向“链条治理”延伸。针对不实信息的生产和传播链条，平台可以通过治理违规账号、限制异常流量、切断变现渠道等方式，压缩不实信息的传播空间。
在自然灾害、重大赛事、公共卫生事件等热点场景中，不实信息往往更容易借势传播。对此，平台也在建立专项治理机制，对借热点传播的AI不实信息进行优先识别、优先研判和优先处置，以提升特殊情境下的治理效率和响应速度。
除了技术治理，开放治理也正在成为重要方向。近年来，部分平台通过举办治理开放日、发布治理报告等形式，主动向社会公开治理逻辑与难点，接受公众监督。与此同时，围绕不实信息的科普宣传也在持续推进。例如，今日头条联合央视网、中国青年网等央媒及多地反诈官方账号，结合平台真实案例，针对低质AI内容等治理难点面向公众进行科普，形成了平台主导、多方参与的科普传播矩阵。这种开放治理模式不仅有助于提升公众认知，也在一定程度上压缩了不实信息的传播空间。
多方协同是治理关键
生成式人工智能时代的不实信息治理，本质上是一项复杂的社会系统工程，必须构建政府、平台、社会多元协同的治理格局。从政府层面看，需要加快完善法律法规体系，明确AI生成内容标识、溯源等方面的法律要求，推动标准与规范建设，为技术治理提供统一标尺。平台层面，应当持续强化技术能力建设，不断提升检测、预警、处置水平，积极推动治理能力开放，在保障安全的前提下共享检测技术与风险数据，提升全行业治理效能。社会层面，要着力提升公众媒介素养，面向全社会开展人工智能认知教育，充分发挥第三方监督作用，支持媒体、学术机构参与治理监督。
总的来说，生成式人工智能时代的不实信息治理应转向社会共治的系统思维，在促进技术创新与守牢风险底线之间寻求动态平衡，在各方主体的协同联动中构建具有韧性的治理体系。技术始终向前发展，治理的智慧不在于阻止技术进步，而在于善用技术、明确边界、凝聚合力。治理体系的升级速度最终取决于社会协同的深度与广度，一个更加清朗、真实、富有韧性的网络信息生态，有赖于政府、平台与社会每一方的共同努力。
（作者系清华大学新闻与传播学院党委副书记、长聘副教授陈梁 清华大学新闻与传播学院助理研究员、博士后符伦瑞 清华大学新闻与传播学院博士研究生谭心莹）
