來自新疆的全國政協委員擬為治理“AI生成不實信息”提出建言。
2025年全國兩會即將召開，全國政協委員、新疆新的社會階層人士聯誼會副會長海尼扎提·托呼提擬向大會提交“關于加強AI生成不實信息治理”等提案，建議社交媒體平臺等互聯網平臺加強內容審核機制，建立專門的AI生成內容審核團隊，對平臺內容執行嚴格監管。
隨著人工智能技術的迅猛發展，AI生成不實信息的問題愈發嚴重，成為信息傳播領域面臨的一大新挑戰?！斑@些不實信息通常具有迷惑性強、刺激度高、傳播力廣等特點，不僅侵蝕了信息的真實性，還擾亂了社會秩序與公眾認知。”前述提案舉例說，在甘肅首例AI虛假信息案中，洪某弟利用ChatGPT軟件編造虛假新聞牟利；四川網警公布的多起如“山體滑坡導致8人遇難”、“喜德縣發生地震”等AI造謠典型案例，均造成了不良社會影響。此外，近期西藏自治區發生地震災害后，網絡上出現了多起不當利用AI技術生成災害場景的情況，抖音平臺嚴肅處置了23652條涉及地震的不實信息。還有青海某網民為博取眼球，將“小男孩被埋圖”與日喀則地震相關的信息進行關聯拼湊、移花接木，混淆視聽、誤導公眾，導致謠言信息的傳播擴散。
“這些事件引起了公眾對AI技術濫用和網絡虛假信息治理問題的高度關注。輿論認為，網絡虛假信息的泛濫嚴重侵犯了公眾的知情權和選擇權，破壞了市場競爭的公正性?！碧岚刚J為，由AI生成的虛假信息還可能侵犯知識產權、動搖版權規則，涉嫌侵犯個人隱私、泄露身份信息，甚至存在濫用的風險。這些情況凸顯了加強網絡信息監管、提升公眾媒介素養的緊迫性和重要性。
前述提案為此建議：第一，加強法律法規建設，完善法律體系，強化現有法律執行，明確責任歸屬。第二，強化技術監管措施，建立檢測和識別技術體系，嚴格要求內容標識。第三，提升平臺責任意識，采用技術手段加強平臺內容的審核機制。
具體而言，提案建議進一步細化《網絡安全法》、《數據安全法》、《個人信息保護法》等現有法律法規在AI領域的具體適用條款，確保這些法律能夠有效覆蓋AI生成不實信息的各個環節，明確AI生成內容的標識、審核、責任劃分等具體要求，為AI內容生成企業提供清晰的操作指引。并且應考慮到不同類型AI應用所面臨的不同行業特點，以便制定差異化政策。同時，加大對AI生成不實信息行為的懲處力度，提高違法成本。對于故意利用AI技術生成和傳播不實信息的行為，應依法予以嚴厲處罰，包括但不限于罰款、吊銷營業執照等，從而促使企業自覺遵守相關規定。
在技術監管上，提案建議通過運用尖端技術手段，對AI生成的內容進行實時監測和篩查，可以開發和應用AI生成內容檢測算法，從而提升對虛假信息的辨識能力，及時發現并處理不實信息。同時，嚴格要求網絡信息服務提供者遵循相關強制性國家標準進行內容標識，確保用戶能夠明確識別內容是否由AI生成。
此外，還應該督促社交媒體平臺、新聞網站等互聯網平臺加強內容審核機制，建立專門的AI生成內容審核團隊，對平臺內容執行嚴格監管，及時刪除和處理不實信息。
“這不僅涉及對現有內容的審查，還包括對新上傳內容的實時監控，確保平臺內容的質量和真實性?！鼻笆鎏岚副硎荆膭钇脚_采用內容過濾、關鍵詞屏蔽等技術手段，自動識別并攔截AI生成的不實信息，加強對用戶發布內容的審核力度，有效降低不實信息的傳播范圍，并對未能履行監管職責的平臺，依法進行處罰，以此作為警示，促使平臺自覺履行監管責任，維護網絡環境的健康和秩序。