央視新聞客戶端訊 前不久，某網絡平臺上出現一條所謂“懷化35歲女子從28樓跳下”的視頻，其中不僅有時間、地點、事件、人物等新聞要素，而且還有事件發生時的所謂現場畫面，該內容一經發布就引起了不少關注。這段看似有模有樣的網傳視頻，真實的情況到底是什么呢？
湖南懷化網警在日常巡查中發現，一條“懷化35歲女子從28樓跳下”的視頻在網絡傳播，視頻的配文中還標注了高空墜亡事件、家庭悲劇等標簽，該視頻一經發布迅速引發熱議，先后獲得數萬次轉發。
然而，懷化警方在調查中卻發現了諸多疑點，首先，從該視頻中的建筑物外立面可以看出，所謂事發地并不是懷化市；另外，視頻中主播的聲畫錯位情況非常明顯。
湖南懷化市會同縣公安局網絡安全大隊民警 閆宏輝：經懷化市公安局核實，當日沒有發生類似視頻墜樓警情，我大隊接線索后立即開展調查，快速鎖定發布視頻嫌疑人員。
湖南懷化市會同縣公安局連山派出所教導員 蒙源：經過我們的縝密偵查，發現違法嫌疑人禹某的住址，隨即我所民警對禹某進行了抓捕。
據禹某向警方供述，為了快速提升自己賬號的關注度，她通過在某AI平臺輸入“高空墜樓、家庭悲劇”等關鍵詞生成視頻片段，并經過二次剪輯后發布到網上。
警方調查發現，在禹某使用的這個AI平臺上，關于“悲劇模板”的使用率非常大，每月的下載量超過10萬次。
嫌疑人禹某：我當時看到別人用AI做視頻漲粉很快，就想跟風試試。平臺里有現成的悲劇模板，輸入關鍵詞就能生成畫面。我根本不知道隨便發這種視頻會違法，更沒想到會給那么多人帶來恐慌。
截至警方查處時，禹某發布的虛假視頻已經引發大量關注，嚴重擾亂了社會正常秩序。懷化警方依法對禹某作出了相應的行政處罰。
博主為博流量 用AI編造某企業不實信息
除了剛才這起利用AI工具編造謠言的案例之外，上海警方前不久也破獲了一起利用AI工具編造企業不實信息的案件。
警方查明，自媒體博主姚某、陳某等人為了吸粉引流，利用AI工具搜集素材，在未做核實的情況下，生成所謂“某茶飲企業使用過期原料被罰款”等不實內容，并發布到網上，不僅嚴重侵害了企業的權益，還造成了惡劣的社會影響。
前不久，上海某茶飲企業向警方報案稱，多個自媒體平臺出現大量針對該企業及其創始人的不實信息，接報后，警方立即成立專案組開展偵查。
上海市公安局長寧分局網安支隊民警 陳昱汀：我們針對100多個自媒體賬號進行溯源，謠言里面有提到使用過期原料被罰款20萬元的事情，還有很多不實內容。
警方通過溯源發現，其中一則不實信息的發布者為自媒體從業人員姚某，為了增加賬號文章的瀏覽量和廣告收益，姚某花費了800元在網上找到了盧某為其代筆。
上海市公安局長寧分局網安支隊民警 陳昱汀：他找到了代理人盧某，盧某也沒有自己編寫文章，而是利用AI軟件自動生成了一篇文章，也沒有經過核實再發還給了姚某。
在收到盧某的這篇文章后，姚某未做核實就發布在了自己的賬號上，其中關于某企業所謂“使用過期原料被罰款”的內容被大量轉發，不僅嚴重損害了企業品牌形象，還導致部分區域門店單日營業額同比下降超20%。
同樣是涉及該企業的不實信息，陳某等人為了獲取平臺對閱讀量的現金補貼，從網上搜集了各類關于該企業創始人的傳言，通過AI工具“洗稿”后生成了相關不實內容并發布在網上，獲得了較高的閱讀量。
上海市公安局長寧分局網安支隊民警 陳昱汀：通過這樣的方式，在自己的自媒體賬號上面發布熱點文章，來博取眼球蹭熱度，漲粉以獲得廣告收益等等，或者可以通過這個賬號獲取直播帶貨的權限。
據了解，發布涉及某茶飲企業不實信息的8名犯罪嫌疑人，目前已被上海長寧警方依法采取刑事強制措施。
利用AI生成發布虛假信息屬于違法行為
在網絡上發布利用AI生成的不實信息觸犯了哪些法律法規？會相應受到什么處罰？北京航空航天大學法學院副教授趙精武做了以下解讀。
趙精武表示，利用AI工具生成、發布和傳播網絡虛假信息的，屬于明顯的違法行為，依據相關法律，情節較輕的將受到罰款、拘留等處罰；情節較重的則可能被判處有期徒刑。
此外，信息發布平臺、服務提供者也可能承擔相應的法律責任，因為根據《人工智能生成合成內容標識辦法》的相關規定，這類主體負有對生成內容添加“AI生成”等內容標識的法定義務，倘若其怠于履行該義務，監管機構則可以依法采取警告、責令限期改正、暫停信息更新、行業禁入等行政處罰和懲戒措施。
鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時間聯系我們修改或刪除，多謝。
