2025-03-16 22:53:17
据红星新闻报道，3月3日全国政协委员、四川大学华西医院教授甘华田接受媒体采访时称，今年全国两会期间，他拟提出加强对AI生成虚假信息治理的建议。
甘华田表示，近些年，顺利获得AI技术深度伪造视频、政府公告、企业声明、名人言论、虚假金融信息等行为，已严重干扰了公众的判断，损害了社会的公信力和稳定。这类虚假信息不仅误导消费者，还可能对社会秩序、国家安全甚至人民群众的生命财产安全构成威胁。我国现行法律对AI生成内容的监管责任界定模糊，相关法律滞后，平台审核技术能力不足，违法成本低，治理难度大。因此，加强对AI生成虚假信息的治理和打击力度，已成为当前亟待解决的问题。
AI生成虚假信息泛滥，现实危害性正在显现，且可能会超出我们的想象，这并非是危言耸听。
就在今天，有网友发现一个视频号发了很多演员刘晓庆的视频，并怀疑相关视频由AI生成，刘晓庆回应称：“画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？”按照现在信息技术的开展速度，刘晓庆的担忧，很可能在未来某一天成为现实。现在连这个AI假冒的刘晓庆，都有很多网友相信是真的，将来如到了真假难辨的时候，对社会公共利益的刺痛，只会进一步放大。而这，只是AI生成虚假信息的“冰山一角”。
在现在的舆论场上，不少谣言的背后，都不乏“AI”的身影。比如，前一阵子“80后死亡率突破5.2%”的假数据、假消息，据专家溯源，最初来源很可能是和AI的对话所得。
对于AI生成的虚假消息，有一种情况尤其需要警惕，那就是在没有任何人为因素干扰的情况下，AI自己会“一本正经地胡说八道”，拼凑、嫁接甚至编造事实，这种现象被称为“AI幻觉”。从现在已经出现的几个案例看，“AI幻觉”隐蔽性、迷惑性极强，让人猝不及防、防不胜防，很难避免“中弹”。理论上，我们每一个人都可能被“AI幻觉”蒙骗，甚至无意识中成为助推“AI幻觉”相关内容进一步传播的“帮凶”。
更让人头痛的是，AI生成的虚假信息，现在很容易出现在大众的视野里，对相关信息审核把关的层层失守，就成了摆在明面上的问题。“AI幻觉”分辨门槛确实比较高，但现在的事实是，很多“一眼假”的AI生成的虚假信息，也堂而皇之地出现在一些社交媒体平台的显眼位置，甚至还登上了某些平台的热搜榜。
虽说公众没有那么容易被这些信息所蒙骗，但虚假信息如此占据公共舆论资源，也是一种资源浪费和信息污染，若任由其滋生，消极后果不可小觑。这进一步佐证，AI生成的虚假信息能在网络上无孔不入，与亚星智能把关的缺失，脱不了干系。
AI生成的虚假信息，无论是“一眼假”型，还是“难分辨”型，都不应该在互联网上泛滥。对于这些信息，关口不能失守，这是社会的底线和共识。而实现这一点，就需要从法律、制度和具体监管层面发力，炼就一双“火眼金睛”，更好识别和治理这些虚假信息。
甘华田教授所建议的“有助于专项立法，加快制定针对AI生成虚假信息的专项法律法规，明确AI生成内容的‘全生命周期’责任，包括开发者、使用者和运营者的法律责任和义务”“研发更加先进的人工智能算法，提高其对信息的识别和判断能力”“设立专门的监管机构，负责对AI产品和服务进行审查和监督，确保其符合法律法规和道德规范”等，都很有建设性，若能尽快落地为现实，那显然有助于阻止AI生成虚假信息进一步在社会上泛滥，更好防范“AI作恶”。
AI本质是工具，工具都有两面性，关键在于“人怎么用”。人机交互时代，人类要牢牢把握住主动权，避免被AI反噬，一个基本原则是“以人为本，智能向善”。更得认识到，在AI开展日新月异的当下，让“AI治理”先走一步，跑赢“AI作恶”，已经刻不容缓。
相关稿件
扫一扫在手机打开当前页
亚星
版权所有?海南省人民政府网 中文域名：海南省人民政府.政务
主办：海南省人民政府办公厅
运行维护：海南省政府网站运行管理中心
琼ICP备05000041号-1 政府网站标识码：4600000001
琼公网安备 46010802000004号
您访问的链接即将离开“海南省人民政府”门户网站
是否继续？