2024年10月，一則標(biāo)題為“大媽擺攤賣水果被罰16萬，監(jiān)管局回應(yīng)不交就罰145萬”的文章在網(wǎng)絡(luò)上廣為流傳，引發(fā)眾多網(wǎng)民關(guān)注和議論。經(jīng)調(diào)查，這篇文章是一家公司AI炮制出來的，它的背后，隱藏著怎樣一個產(chǎn)業(yè)鏈？
先尋找高熱度文章 再用AI仿寫洗稿
仔細查閱這篇文章可以發(fā)現(xiàn)，除了博眼球的標(biāo)題，文章內(nèi)容也非常具體，聲稱“在山東濟南，65歲吳大娘為給兒子攢錢結(jié)婚，擺攤賣水果，卻因為沒有執(zhí)照被市場監(jiān)管局執(zhí)法人員要求罰款，如果拒絕配合還要提升賠款數(shù)額至145萬”。
如此聳人聽聞的描述引起了網(wǎng)友的關(guān)注。
經(jīng)民警查明，當(dāng)?shù)馗緵]有發(fā)生過這一事件。濟南市場監(jiān)管局隨即發(fā)布了辟謠聲明，并將相關(guān)證據(jù)提交給了警方。
這則虛假信息出自湖南長沙的一家傳媒公司，隨后濟南警方與長沙警方聯(lián)合辦案，發(fā)現(xiàn)這篇引發(fā)熱議的文章，居然是該傳媒公司通過AI工具生成的。
長沙市公安局開福分局通泰街派出所民警 薛猛泉：2024年10月5日，公司的運營人員彭某先是在網(wǎng)上找到了一篇類似的熱點文章，把文章復(fù)制之后，放到AI里面。他們把標(biāo)題、事情的發(fā)生地、時間、金額等內(nèi)容進行更改，也就是所謂的“洗稿”，生成了這樣的文章。
聚焦虛假糾紛 制造對立情緒引流獲利
警方調(diào)查發(fā)現(xiàn)，湖南的這家傳媒公司日常發(fā)布的文章主要聚焦虛假的社會矛盾糾紛，而之所以選擇這樣的題材，是因為他們發(fā)現(xiàn)，矛盾沖突越激烈的文章，閱讀量就越高，也更容易讓自己的賬號盈利。
長沙市公安局開福分局網(wǎng)安大隊民警 韓捷：完全虛假的，實際不存在的這篇文章，在發(fā)布到網(wǎng)上的時候，吸引讀者、網(wǎng)民去瀏覽、去關(guān)注，從而實現(xiàn)流量變現(xiàn)的目的，獲得廣告費用的分成。
在這家公司的運營流程手冊上可見，法律類文章要能引起公憤，比如農(nóng)民被罰、執(zhí)法部門執(zhí)法不當(dāng)，開出天價罰款、政府霸占農(nóng)民土地不還等等，總之他們的宗旨就是：用戶看完感到憤怒的，就是一篇合格的文章。
長沙市公安局開福分局通泰街派出所民警 薛猛泉：特別是標(biāo)題這一塊，要能夠引起人憤怒，能夠把人的情緒值拉滿，就是一篇好文章。他們會從網(wǎng)上自己搜，通過類似的公眾號上搜一些點贊量、閱讀量、轉(zhuǎn)發(fā)量比較高的文章。流量，是他們選取文章的唯一標(biāo)準(zhǔn)，而不是真實性。
提煉關(guān)鍵詞生成假信息 再人工修改細節(jié)
不僅原始網(wǎng)絡(luò)文章不去核實真?zhèn)�，該公司還利用AI技術(shù)把未經(jīng)核實的信息直接轉(zhuǎn)到軟件上，通過AI提煉文章的核心內(nèi)容，將時間、人物、地點等信息作為關(guān)鍵詞再提問給AI，由AI生成一篇核心意思幾乎一樣、但具體內(nèi)容又完全不同的虛假信息，最后再由人工夸大部分細節(jié)，增加能引起觀眾情緒的內(nèi)容，一篇能夠煽動觀眾情緒的虛假文章就出現(xiàn)了。
虛假文章所屬賬號代運營方負責(zé)人 李某：原始文章真實性沒法去考證，主要是把AI生成的一些機械詞，比如說不人性化的詞、不通順的詞、咬文嚼字的詞，把它修改成通俗一點的。
在山東濟南市場監(jiān)管局發(fā)布辟謠后，該賬號迅速刪除了這篇虛假文章。但文章造成的惡劣影響已不可挽回。
記者：按照你們以往的慣例，一旦有人投訴，你們也是這樣的工作流程嗎？
虛假文章所屬賬號代運營方負責(zé)人 李某：一般都是第一時間下架。
長沙市公安局開福分局通泰街派出所民警 薛猛泉：一種賭徒心理，因為地點隨便一寫，天南海北都有，但如果說當(dāng)?shù)匾鹬匾暳�，過來調(diào)查，大不了刪了就是了。刪一篇文章，很簡單，但是這個政府也好，公安也好，要找到這個地方，過來打處，那是很費功夫的。
依據(jù)《中華人民共和國治安管理處罰法》，公安機關(guān)對代運營該賬號的公司法定代表人李某，以及編寫該文章的員工彭某，分別處以行政拘留3日的處罰。
同款假信息除地點人物不同 內(nèi)容基本一致
在多個平臺輸入“擺攤”“罰款”等關(guān)鍵詞，多條各地“小攤販被相關(guān)監(jiān)管部門天價罰款”的虛假文章仍然存在。
這些文章都是以博眼球的罰款金額當(dāng)作標(biāo)題，內(nèi)容多為小攤販擺攤賣草莓、香蕉、煙葉等被罰款，文章除了地點、人物不同，其余的內(nèi)容基本一致。
長沙市公安局開福分局網(wǎng)安大隊民警 韓捷：公安機關(guān)以及國家網(wǎng)信部門都會對這種網(wǎng)絡(luò)謠言進行打處和監(jiān)測，希望各個從事這個行業(yè)的MCN機構(gòu)，或者是賬號運營者，一定要對自己產(chǎn)出的內(nèi)容進行內(nèi)容的審核，確保信息的真實合規(guī)。
文章聳人聽聞還有配圖 調(diào)查后發(fā)現(xiàn)是謠言
利用AI技術(shù)，對他人發(fā)布的文章、信息進行抄襲、改寫、刪減、拼湊，甚至直接編造，變成偽原創(chuàng)內(nèi)容，這種行為被稱為“洗稿”。
2024年4月，一條內(nèi)容為“上海某地驚現(xiàn)‘骨灰房’”的文章發(fā)布在網(wǎng)絡(luò)平臺上。文章除了聳人聽聞的文字，還配有相關(guān)圖片，引發(fā)網(wǎng)友的廣泛關(guān)注和討論。
不過，警方調(diào)查核實后發(fā)現(xiàn)，這篇文章所講的內(nèi)容完全是不切實際的謠言，隨即立案開展調(diào)查。很快，警方找到了這篇文章的發(fā)布者王某。
上海市寶山區(qū)人民檢察院檢察官 陳偉東：發(fā)現(xiàn)發(fā)帖人是住在云南某縣的，然后找到她，她講這個稿子不是我寫的，是人家無償提供給她的，她不過是提供她的賬號予以發(fā)布。
兼職群里發(fā)布信息 教學(xué)員“洗稿”牟利
據(jù)發(fā)帖人王某說，一個月前，她加入了一個兼職微信群，看到有人在群里發(fā)布信息稱，可以教人在網(wǎng)絡(luò)平臺上注冊賬戶，并發(fā)帖掙錢。
王某看到后立即回應(yīng)了對方，表示想要參加學(xué)習(xí)，隨后便根據(jù)對方的指引注冊了某網(wǎng)絡(luò)平臺賬號。對方在傳授王某一些自媒體的學(xué)習(xí)方法后，表示會每天向王某賬戶的草稿箱里發(fā)送已經(jīng)寫好的文章，第二天再通過王某的手機將這些文字發(fā)布，只要文章有瀏覽量王某就能賺取傭金。
謠言稿件分發(fā)給學(xué)員 再由學(xué)員發(fā)布
據(jù)王某說，開始的時候，她面對賬號內(nèi)存入的信息還會瀏覽一下內(nèi)容，后來便逐漸不再對存入的文章內(nèi)容進行關(guān)注。她每天會發(fā)布三四十條信息，而那條“上海某地驚現(xiàn)‘骨灰房’”的不實信息正是對方發(fā)給她的。
依據(jù)王某提供的線索，警方展開調(diào)查，一舉抓獲了為王某提供謠言文章牟利的犯罪團伙成員徐某、羅某、闞某三人。據(jù)徐某等人交代，這條謠言并不是他們?nèi)斯ぞ帉�，而是利用購買來的軟件自動“洗稿”生成完成的。
被告人 闞某：他就是把賬號登進去，然后有指令，把文章用那個文件的模式放進去，然后它會自動改寫，然后自動存到草稿箱里面。
“洗稿”后與原文查重率不超過25%
經(jīng)查，從2024年1月開始，徐某、羅某等人在網(wǎng)絡(luò)上以傳授兼職掙錢、薅羊毛、撿漏等為由頭，吸引招攬學(xué)員實名注冊網(wǎng)絡(luò)平臺賬號。
徐某等人從網(wǎng)絡(luò)中截取關(guān)注度高的熱點文章上傳到購買來的一款A(yù)I軟件，將這些熱點文章重新“洗稿”生成一篇新的偽原創(chuàng)文章。
據(jù)了解，經(jīng)過徐某等人“洗稿”后的文章與原文查重率不超過25%，這也是為了滿足其發(fā)布平臺的審核要求。
上海市寶山區(qū)人民檢察院檢察官 陳偉東：他有指令的，第一個，標(biāo)題要勁爆，第二個，結(jié)論要有爭議的結(jié)論。第三，改寫內(nèi)容要吸人眼球。
偽原創(chuàng)文章自動分發(fā) 學(xué)員點擊發(fā)布即可
據(jù)徐某等人交代，這款軟件會將生成后的偽原創(chuàng)文章，自動分發(fā)到學(xué)員的網(wǎng)絡(luò)平臺賬戶草稿箱內(nèi)，學(xué)員點擊發(fā)布即可。根據(jù)瀏覽量的不同，平臺會給文章上傳者一定的獎勵，徐某團伙通過收取一定比例的傭金，或者收取賬戶草稿箱存稿費，實現(xiàn)牟利。
而這些通過“洗稿”生成的文章，如“三星堆遺址挖出航母、核潛艇”“英語退出高考”等均為不實信息，而這些明顯虛假的文章就有近千條。
上海市寶山區(qū)人民檢察院檢察官 陳偉東：信息來源沒有審核過，自動截取的這些文章真的假的不知道，他們沒有甄別過。它通過AI技術(shù)進行修改、編撰、替換，都不是原創(chuàng)，都是虛假的，因為把時間、要素、人物、地點等等都已經(jīng)進行了修改。
有償發(fā)布虛假信息 掌控1100多個賬號
經(jīng)查，徐某等人掌握和控制的可以供發(fā)布洗稿后文章、信息的賬號，最多的時候有1100多個，共計非法獲利人民幣5萬余元。
檢察機關(guān)以非法經(jīng)營罪對三人提起公訴
檢察機關(guān)認為，徐某、羅某、闞某三人結(jié)伙，違反國家規(guī)定，以營利為目的，編撰虛假信息，通過網(wǎng)絡(luò)有償提供發(fā)布，擾亂市場秩序，情節(jié)嚴(yán)重。
2024年12月，上海市寶山區(qū)人民檢察院以非法經(jīng)營罪對徐某等三人提起公訴。
檢察官提醒，網(wǎng)民、自媒體從業(yè)者，應(yīng)遵守法律法規(guī)和職業(yè)道德規(guī)范，尊重原創(chuàng)作品和知識產(chǎn)權(quán)，同時增強法律意識和自律意識，避免“洗稿”發(fā)布虛假信息等違法行為的發(fā)生。同時，相關(guān)軟件生產(chǎn)者和網(wǎng)絡(luò)平臺更應(yīng)切實負起監(jiān)管、審核職責(zé)。
