▲類似謠言接二連三出現，無比迫切地說明，在生成式人工智能時代，我們面臨更為嚴峻更為復雜的謠言治理挑戰。圖/IC photo

所謂“超一線男星澳門賭博輸10億”的傳言被辟謠了。

據央視新聞報道，公安網安部門查明，網民徐某強（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點詞制作了標題為“頂流明星被曝境外豪賭輸光十億身價引發輿論海嘯”的謠言信息，并對外發布，嚴重擾亂公共秩序。公安機關根據相關法律法規，對徐某強處以行政拘留8日的處罰。

所謂的“驚天大瓜”，不過是又一個拙劣的謠言。徐某強“喜提”8日行拘，也算是“求仁得仁，又何怨乎”了。

回過頭來看這則謠言，又是“超一線男星”，又是“澳門賭博”，加上驚悚的“輸掉10個億”這樣的“炸裂”情節，妥妥的爆款話題。但其又不指名道姓，在“似與非似”之間讓網民“猜猜猜”。

被對號入座的周杰倫、黃曉明紛紛無奈辟謠，可誰又在意“六子到底吃了幾碗粉”？造謠者要的是制造話題中心的爽感與流量，“吃瓜群眾”滿足了窺私欲，得到了社交談資，謠言注定一發不可收拾地鋪滿了全網。

這則謠言，讓人想起前段時間那條駭人聽聞的“80后死亡率”傳言。有消息言之鑿鑿稱，“80后死亡率突破5.2%，相當于每20個80后中就有1人已經去世”，配上所謂第七次全國人口普查的“權威數據”，一下子就收割了大批信以為真的群眾。只是，這則傳言最終同樣被證實為“AI造”。

類似謠言接二連三出現，無比迫切地表明，在生成式人工智能時代，我們面臨更為嚴峻更為復雜的謠言治理挑戰。AI加持之下，只要給大模型軟件提供一個清晰指令，它就能快速生成一個有鼻子有眼的謠言，造謠的難度與成本大大降低。與此同時，因為這類謠言借助了豐富的大模型語料庫，生成的謠言足夠以假亂真，這又進一步提高了謠言的辨識與溯源難度，辟起謠來也就更加困難。

謠言的生成與治理，歸根結底還是一個AI技術倫理的問題。應該清醒地認識到，目前能被公開辟謠的AI謠言只是極少數，因為謠言只有進入公共視野，才有機會得到有效介入。還有大量的AI謠言混雜在海量互聯網信息中，逐個兒辟謠如大海撈針，幾乎不可能。眼下最務實的辦法，可能還是從技術源頭入手，堵住AI謠言的制造與傳播路徑。

兩會期間，就有人大代表提出，有必要對AI生成的內容進行強制標識，并明確對人工智能深度合成服務商未履行標識義務的懲罰制度。這一建議得到很多網友的附議。大家相信，只要做到“所見即所得”，謠言就會被輕易識破。

事實上，對AI生成內容強制標識，已經被寫進了《生成式人工智能服務管理暫行辦法》與《互聯網信息服務深度合成管理規定》兩部部委規章。譬如后者就明確規定：深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規和國家有關規定保存日志信息。《辦法》也做了類似要求。

這表明，AI生成內容強制標識在政策層面已經達成了共識，并被納入了治理軌道。但現在，仍有一些大模型工具與平臺，沒有做好銜接與落地。人們經常看到，在一些短視頻平臺上，AI生成的內容會被打上明顯標識，但在圖文類平臺上，這種標識似乎依然少見。

當然，政策層只是提出了一個籠統要求，執行層面如何標識，還需要各大模型公司在實踐中不斷摸索。譬如，怎樣標識才能讓人看出“一眼假”？如何平衡內容安全與創作自由的關系？如果有人在傳播過程中將標識刻意剪掉又該如何預防與處理？這些問題都需要在實際場景中一一對應破解。

AI勢必會給人類生活帶來巨大改變，AI造假也是新技術興起之時難以避免的衍生問題。我們不能奢望AI時代是個一塵不染的美麗新世界，但盡可能地為新技術套上道德倫理籠頭，讓虛假信息遠離我們的生活，值得所有人為之努力。在此過程中，互聯網技術平臺需秉持技術向善，網民需要提高AI素養，監管和法律也必須及時跟上技術進步，確保用戶權益不被AI侵犯。

撰稿 / 新京報評論員 王言虎

編輯 / 遲道華

校對 / 趙琳