隨著生成式人工智能技術(shù)的應(yīng)用普及，越來越多的網(wǎng)民開始使用AI軟件輔助作品編輯，提升工作效率。但一些人為了吸引流量，利用AI合成技術(shù)編造謠言，甚至生成逼近真實的圖片、音視頻，顛覆了“有圖就有真相”的常規(guī)認(rèn)知，讓網(wǎng)絡(luò)謠言難辨真假。公安部部署打擊整治網(wǎng)絡(luò)謠言專項行動以來，甘肅公安機關(guān)依法嚴(yán)厲打擊編造傳播網(wǎng)絡(luò)謠言違法犯罪行為，切實維護(hù)清朗網(wǎng)絡(luò)環(huán)境。現(xiàn)公布4起利用AI編造謠言典型案例：

1.慶陽公安機關(guān)依法查處黃某某編造網(wǎng)絡(luò)謠言案

2023年12月，慶陽市黃某某為賺取流量收益，將網(wǎng)上瀏覽到的慶陽合水敬老院相關(guān)信息，利用AI小程序重新生成“近日，合水縣養(yǎng)老院一名73歲退休李姓教師死在床上，身體多處受傷”的虛假信息，并在個人社交賬號發(fā)布，迅速引發(fā)網(wǎng)民關(guān)注，擾亂社會公共秩序。經(jīng)公安機關(guān)依法調(diào)查，黃某某對違法行為供認(rèn)不諱，慶陽市公安機關(guān)已依法對黃某某處以行政處罰。

2.白銀公安機關(guān)依法查處程某編造網(wǎng)絡(luò)謠言案

2024年1月，白銀市程某為博取流量吸引粉絲，在某社交平臺發(fā)布“一場強烈地震在甘肅省白銀市景泰縣席卷而過，給當(dāng)?shù)厝嗣駧砹顺林貫?zāi)難”的謠言文章，該謠言信息被大量轉(zhuǎn)發(fā)，引發(fā)公眾熱議，擾亂社會公共秩序。經(jīng)公安機關(guān)依法調(diào)查，程某所發(fā)謠言信息系利用AI軟件自動生成，白銀市公安機關(guān)已依法對程某處以行政處罰。

3.隴南公安機關(guān)依法查處張某某編造網(wǎng)絡(luò)謠言案

2024年1月，隴南張某某為賺取流量收益，利用AI軟件編造“甘肅紅十字會采購暖手袋，收取160萬管理費”“加拿大鵝捐贈甘肅震區(qū)物資被倒賣”“大反轉(zhuǎn)！甘肅執(zhí)法隊扣押救災(zāi)貨車后續(xù)：更多細(xì)節(jié)被扒，果然有問題”等多條不實信息并在網(wǎng)絡(luò)平臺發(fā)布，擾亂社會公共秩序，造成不良影響。經(jīng)公安機關(guān)依法調(diào)查，張某某對違法行為供認(rèn)不諱，隴南公安機關(guān)已依法對張某某處以行政處罰。

4.隴南公安機關(guān)依法查處范某某編造網(wǎng)絡(luò)謠言案

2024年1月，隴南范某某為吸引流量，利用AI軟件生成“隴南八縣一區(qū)發(fā)生了一場集體示威活動”的虛假圖文信息并在網(wǎng)絡(luò)平臺發(fā)布。該謠言信息被多次轉(zhuǎn)發(fā)，引發(fā)公眾熱議，擾亂社會公共秩序。經(jīng)公安機關(guān)依法調(diào)查，范某某對違法行為供認(rèn)不諱，隴南公安機關(guān)已依法對范某某處以行政處罰。