整治AI技术滥用乱象:让真相“跑赢”谎言

2月21日,中央网信办发布2025年“清朗”系列专项行动整治重点。明确提出整治AI技术滥用乱象,突出AI技术管理和信息内容管理,强化生成合成内容标识,打击借AI技术生成发布虚假信息、实施网络水军行为等问题,规范AI类应用网络生态。

1月7日,西藏日喀则市定日县突发6.8级地震。很快,一张令人揪心的照片在社交媒体上传播:头戴彩色毛线帽的孩童被压在废墟下,稚嫩的面庞满是尘土,一双黑亮的眼睛望向远方。

这张照片被一些自媒体账号配上“日喀则地震”相关标签迅速传播。有网友在评论区留言,询问孩子安全。然而几天后,“地震废墟中小孩图片是AI生成”的话题登上网络热搜。原来,这张照片2024年11月已出现在网络上,当时创作者明确标注该图系AI生成作品。部分自媒体账号却移花接木,用来博取眼球、收割流量。

“利用灾难加儿童的‘情感组合’,这条谣言在网络上成为‘病毒式传播’。”清华大学新闻与传播学院副教授陆洪磊在接受中青报·中青网记者采访时表示,在AI技术的加持下,网络谣言已呈现出一些新特征,谣言制造者已形成“工业化造谣”模式,需通过平台、有关部门与公众协同构建防御体系。

陆洪磊指出,传统谣言传播具有模糊性和隐晦性,但伴随技术发展,“AI 使得谣言越来越清晰、逼真,一些专业人士需要进行专门的事实核查来确认真伪,普通公众更是难辨真假,需要引起警醒。”

北京师范大学法学院院长、教授梁迎修讲述了身边的一起真实案例。2024年年底,一名学生与前女友分手后,遭遇对方的网络诽谤,因而陷入重度抑郁,不得已报警。

2月24日,今日头条“平台治理开放日”上发布的《2024年度治理报告》显示,平台全年累计拦截不实信息超500万条,拦截和处置涉嫌诈骗内容超200万条。随着人工智能的发展,今日头条面临诸多挑战。去年,平台拦截低质 AI 内容超 93万条,处罚同质化发文超781万篇。

那么,如何将谣言扼杀于萌芽阶段,防止其进一步扩散传播?

梁迎修指出,法律是治理网络谣言的有效手段,我国法律为网络谣言治理提供了充分依据。刑法中有编造传播虚假恐怖信息罪、侮辱罪、诽谤罪等罪名;民法典对谣言侵权责任有详细规定;治安管理处罚法规定对网络谣言传播的行政制裁措施;网络安全法等互联网专门法律条款,明确了公民和平台在维护网络安全、打击网络谣言方面的责任。

“目前,生成式AI 技术加剧了谣言的欺骗性,权利受损的个体维权需投入大量时间与经济资源,维权成本很高,治理谣言还需要法律与技术的双重干预。”梁迎修表示,政府应建立信息发布辟谣平台,平台要采取必要措施防范谣言传播,切实履行维护网络生态的社会责任。媒体要及时转发权威辟谣和真实信息,携手推动谣言治理。公众要提升网络素养,积极参与相关培训。

陆洪磊表示,如果没有AI 技术助力谣言识别,仅靠传统手段,此类虚假账号及谣言的治理难度将显著增大。

陆洪磊建议平台建立谣言知识库,对虚假内容实施前置拦截,以AI 技术识别AI 谣言,着重强化机器识别模型训练,对多次违规账号予以严惩,并对AI 生成内容进行明确标注;建立跨平台线索互通机制,推动相关法律细则落地实施。

“一方面要消灭假的信息,另一方面要主动传播真实信息。”今日头条内容策划负责人刘姗姗表示,2023年以来平台推出《头条讲真的》项目,联合医学、财经、法律等领域专业创作者,为平台治理工作拓展新的思路。截至2024年,《头条讲真的》发布科普、辟谣等主题视频,全网话题讨论量超36亿,成为今日头条健康和优质内容生态的重要一环。

“针对谣言需要进行协同治理,希望大家能够携手同行,助力网络空间清朗健康发展。”陆洪磊说。

(中国青年报客户端北京2月24日电)