随着人工智能技术近年来的迅猛发展,一些不法分子为博取流量、吸引关注,利用 AI 工具编造虚假信息,严重破坏网络生态,扰乱社会秩序。山西网警今日集中曝光数起近期查处的利用 AI 技术制造传播网络谣言的典型案例。
为博流量虚构“工厂爆炸”场景,企业员工被依法查处近日,大同网安部门在工作中发现,有网民在某平台发布称:“山西大同一车间内发生爆炸,现场只有一名工人受伤,伤者面部烧伤面积 100%”,引发网民关注。经查,涉事企业并未发生任何安全事故,相关内容系该企业员工赵某某通过 AI 工具生成的虚假文案和虚假,在互联网平台发布后,引发网民关注,造成不良影响。目前,公安机关已依法对赵某某作出行政处罚。AI 生成“高速车祸”谣言,编造“2 [*] 6 重伤”被依法查处近日,长治网安部门在工作中发现,网民赵某在某网络平台发布题为“长治人速看!长晋高速大客车侧翻致 2 [*] 6 重伤,道路结冰预警生效,这些行车规则必须记牢!”的贴文,配发多张所谓“事故现场图”,引发网民转发。经查,长晋高速未发生此类交通事故,文中所述内容纯属虚构。赵某承认其为吸引粉丝关注,利用 AI 工具生成重大事故不实信息并发布。目前,公安机关已依法对赵某作出行政处罚。利用 AI 伪造“演唱会现场火灾”,为博流量被依法查处近日,晋城网安部门在工作中发现,某平台网民发布一段内容,显示为某体育场内疑似发生火灾,并配文称“太原红灯笼体育场突发火情”,该迅速引发网民关注与转发,造成不良社会影响。经查,网民张某某在未核实事件真实性、无任何事实依据的情况下,利用 AI 工具擅自编造“太原红灯笼体育场突发火情”的虚假信息。目前,公安机关已依法对张某某作出行政处罚。AI 生成虚假,发布“五台县车祸”谣言被依法查处近日,忻州网安部门在工作中发现,某平台网民发布
提醒:当前,利用 AI 生成虚假图文、音已成为网络谣言传播的新趋势。此类信息仿真度高、传播速度快、误导性强,极易引发社会恐慌。面对 AI 炮制的不实信息多存疑心,审慎甄别,不信谣不传谣。










