今年以来，上海警方连续破获了“利用AI软件合成故意纵火虚假视频”“利用AI软件编造社会知名人士重病离世”等多起网络谣言案。
近日，青浦公安分局网安支队民警在日常工作发现，一网民发帖称，2月29日上午上海市青浦区发生了一起2人死亡命案。经青浦警方核实，本区未发生此类案件，该帖文所述内容和图片均系不实信息，存在造谣嫌疑。经深入调查和综合研判，民警很快就锁定了位于广东的王某。随后，依托打谣协作机制，青浦警方迅速将线索流转至广东警方。3月9日，广东警方在王某的暂住地将其抓获并传唤至派出所作进一步调查。
男子为博取流量竟用AI杜撰“命案”。本文图片均为上海市公安局供图
经查，违法人员王某出于提高曝光度、博取流量牟利的目的，2月29日从网上随意下载了一张照片，然后通过某AI软件以命案为关键字杜撰了一篇关于青浦区发生命案的文章，并通过个人社交媒体账户发布上网，吸引了大量关注和阅读。
目前，违法人员王某因实施了虚构事实扰乱公共秩序的行为被警方依法处以行政拘留。
今年2月，长宁分局网安支队民警在工作中发现，在某网购平台上出现了一则“某著名女星命运多舛、含恨离世”的短视频，引发大量点赞和转发，社会影响恶劣。
经查，该视频内容完全系子虚乌有，视频内容也存在人为拼接痕迹。在对发布该视频的账号进行深入调查后发现，该账号之前也发布了大量以“名人去世”为噱头的短视频，全部为不实信息，影响极为恶劣。长宁警方依托打谣协作机制，将上述谣言信息流转至该网民户籍所在地吉林网警部门继续开展深挖调查。
长宁警方查处一女子利用AI技术编造明星死亡谣言。
经视频发布者杜某到案后交代，其在某网购平台上开了一家网店，平时主要经营土特产。由于销量不佳，杜某萌生了编造夺人眼球虚假新闻的方式给网店账号带“流量”的念头。因为杜某本人不会视频剪辑，便利用AI技术生成文本和视频，编造大量社会知名人士重病、离世等无中生有，夺人眼球的谣言视频。
果然，这些短视频给杜某的网店带来了不少流量，正当杜某暗自高兴，准备进一步炮制该类视频的时候，殊不知自己的行为已经触犯了相关的法律。
目前，吉林警方已依法对杜某做出行政处罚，并将网络上所有的虚假视频全部清除，及时消除不良社会影响。
去年12月，公安部部署打击整治网络谣言专项行动以来，上海警方针对网上恶意炒作、造谣生事等网络违法乱象开展全力集中整治，依法从严快处网络造谣违法人员、全链条打击网络谣言犯罪、持续开展网络谣言生态综合治理。截至目前，累计查处网络谣言384起，依法查处造谣传谣人员530余人，清理网上谣言信息53000余条，依法关停违法违规账号5000余个，坚决维护清朗有序的网络环境。
责任编辑：薄晓舟
