從輔助撰寫報告到智能理財、健康咨詢，DeepSeek等國產AI大模型的爆發式普及，正重塑著普通人的生活。然而，技術的普惠性也催生了新型犯罪溫床。
據網絡安全實驗室統計，僅2024年12月1日至2025年2月期間，就出現了超過2000個仿冒DeepSeek的山寨網站，打著“免費內測”“AI暴富課”旗號誘導用戶下載惡意軟件，造成個人信息泄露甚至資金被盜。
不久前，網上出現某知名醫生帶貨的視頻，其售賣一種蛋白。有老人信以為真下單購買。但該醫生澄清，視頻中的人物并非他本人。經過核實，“醫生帶貨視頻”為AI合成。
此類案件暴露出技術下沉中的“認知鴻溝”——普通用戶對AI技術的信任，正被黑產精準收割。
具體到日常生活，AI詐騙已滲透至社交陷阱、消費欺詐和信息泄露三大高頻場景。為了量化AI詐騙的社會沖擊，新京報有理數基于銳研數據平臺，抓取103篇主流媒體報道案例（2023年3月1日至2025年3月1日），通過拆解兩年間的多維度數據，試圖精準刻畫受騙人群畫像（如高凈值企業主、老年群體），追蹤騙局場景的迭代路徑（從“視頻仿冒”到“交友陷阱”），并評估其對網絡應用、生產安全乃至社會信任的沖擊。
誰在被AI詐騙精準圍獵？
傳統電詐中，詐騙分子集中圍獵“一老一少”的情況比較常見，例如中國銀聯曾發布的《2023年移動支付安全大調查報告》顯示，75.7%的大學生和77.7%的大齡群體收到過詐騙信息。
面對完全可以以假亂真的AI詐騙，老年群體和年輕群體更是沒有招架之力。通過抓取的新聞案例我們發現，2023年至2025年，在AI詐騙案件中，老年人和年輕人各占27%，學生和職員群體各占10%。
2024年，封面新聞曾對1500多名大學生做過一個調研，結果顯示半數受訪大學生本人或身邊的人曾遭遇疑似AI詐騙，超7成大學生對AI詐騙感到恐慌，坦言“面對AI詐騙防不勝防”，僅有25.1%認為“騙不到自己身上”。
與傳統電詐相比，在AI技術的加持下，詐騙活動不再搞“大水漫灌”，而是“精準滴灌 ”。詐騙分子不再用傳統的話術去廣撒網，而是利用AI技術事先篩選，摸清受騙者的詳細身份信息，量身定制詐騙套路，進而進行精準詐騙。如此之下，受害者身份更加廣泛、多元，中年企業家和寶媽等群體也被盯上。
據中國青年報報道，2023年，寶媽王枚（化名）在境外求學期間通過社交平臺結識偽裝成房東的男性網友，對方利用AI換臉換聲技術獲取其信任并發展戀愛關系。隨后以投資加密貨幣為名誘騙其小額試水獲利，逐步誘導加大投入，致使王枚抵押房產、網貸累計損失約200萬元，最終提現受阻發現被騙。
同時數據也發現，經濟發達地區更容易成為AI詐騙的高發地帶。在樣本數據匯總中，上海、北京、浙江等省市的案例占比超過45%，海外案例也占到了5%。
一方面，經濟發達地區人口密集，人員流動性大，個人信息更容易被泄露和濫用。另一方面，這些地區的人們對新技術的接受度較高，使用AI相關服務的頻率也更高，這就給了詐騙分子更多可乘之機。此外，經濟發達地區的金融活動頻繁，資金流動量大，詐騙分子也更傾向于選擇這些地區作為目標。
騙子為了用AI騙到你，到底有多“努力”
AI技術普及讓詐騙門檻大幅降低，為“個人獨狼式”詐騙提供滋生土壤。以往我們在電影《孤注一擲》中看到的大多數是由成百上千名詐騙分子組成的大型詐騙集團充當主角，集團內部分工明確。
而現在在AI技術的輔助下，一兩名詐騙分子就可以展開個人作案，AI技術承擔了從目標篩選到身份偽裝，再到實施詐騙和逃避打擊過往詐騙中的關鍵工作，并且這種情形已經超過六成。
在這場新型犯罪中，AI技術被“武器化”的程度令人咋舌。
根據對103篇新聞報道的分析，AI換臉技術在詐騙案件中的使用率近一半，語音合成技術約四成。犯罪分子通過非法獲取的人臉照片和語音樣本，利用開源AI工具生成逼真的虛擬形象。
大行其道的AI換臉技術，既是犯罪分子最喜歡的作案工具，也是公安部嚴厲打擊的重點對象。早在2023年8月，公安部就曾召開新聞發布會稱，針對“AI換臉”導致群眾被欺詐的問題，公安機關發起專項會戰，偵破相關案件79起，抓獲犯罪嫌疑人515名。
但此類案件一直有抬頭趨勢，據央視新聞報道，2024年深圳市民吳先生收到陌生彩信，內有合成其與陌生女子的不雅照并遭勒索轉賬。警方調查發現犯罪團伙利用AI技術偽造照片實施敲詐，最終在多地警方協作下抓獲以王某為首的十余名嫌疑人。
另一方面，AI技術的普及使得詐騙手段更加多樣化和難以防范，沒有深厚技術背景的人也能輕松獲取和使用相關技術進行詐騙活動，詐騙場景的多樣性超出想象，冒充公檢法機關、偽造親友求助、虛擬投資平臺等套路層出不窮。
數據顯示，在所有AI詐騙案例中，冒充類詐騙占比高達62%，其次是金融類和交易類詐騙。內蒙古警方破獲的一起AI換臉詐騙案中，福建某科技公司老板郭先生在視頻通話中目睹“好友”面容、親聞其聲，10分鐘內被騙轉賬430萬元，事后發現對方竟是AI換臉與擬聲技術合成的“數字替身”。
同時，詐騙分子還把AI技術應用到了交友賽道。央視報道，上海劉先生在短視頻平臺結識 “焦女士”，發展為網戀后對方以開店、手術等名義騙取20萬元，警方調查發現該團伙使用AI生成虛假照片實施婚戀詐騙，涉案金額超200萬元。
隨著AI技術的不斷升級，互聯網詐騙手段不斷更新，甚至逐漸形成了一條分工明確、相互協作的完整化黑色產業鏈。上游技術提供者通過暗網兜售“AI換臉套餐”，價格從幾百元到數萬元不等。中游推廣者則利用非法獲取的個人信息庫，通過短信、社交軟件精準投放詐騙信息。下游洗錢者則通過虛擬貨幣、跑分平臺等渠道轉移資金。
整個過程中，技術、數據、資金形成了一個完整的閉環。這條黑色產業鏈的存在，反映出了監管的漏洞和技術的局限性。隨著AI技術的不斷發展，黑色產業鏈也在不斷升級和演變，這給打擊AI詐騙帶來了更大的挑戰。
AI詐騙中的困局
人身安全亟須法律保護
AI幻術肆虐之下，許多受騙人被騙得傾家蕩產，甚至背負巨額債務。2024年3月，一名中國香港的職員在一場“多人視頻會議”后被騙2億港元，最后發現這場視頻只有他自己是“真人”，其他人都是AI換臉冒充的。
依據瑞萊智慧公布的數據，國內AI詐騙案件的涉案金額已經從2020年的0.2萬元，增長至2023年的1670萬元，年復合增長率達1928.8%。2024年剛過半時，發生的AI詐騙案件已經超過1.85億元，態勢嚴峻。
除了財物損失外，受害人還容易遭到其他涉及人身安全方面權益的侵害，如信息誤導、隱私泄露、名譽受損等。
去年7月，河北保定女孩欣欣遭遇AI換臉侵權。其社交賬號照片被他人盜用，通過Deepfake技術制作傳播不良視頻，并泄露其姓名、學校等個人信息。欣欣發現后立即報警并咨詢律師，固定證據鏈。經警方調查，涉事者因傳播淫穢物品被依法處以行政拘留十日。
更令人擔憂的是，詐騙分子的加害對象正在從普通人向知名人士蔓延，危害力可能會進一步加大。此前，“假靳東”詐騙老年人、“國慶7天AI雷軍罵了8天”、“張文宏”深夜帶貨等一眾AI假冒名人的新聞頻頻出現在熱搜榜單上，已經引起今年兩會代表委員的高度關注，呼吁通過法律手段來加強對AI詐騙的管理和約束。
（全國人大代表、小米集團創始人雷軍談對于AI發展看法）
有研究認為，在法律規制層面，現行制度呈現明顯滯后性和監管真空。AI詐騙的實施基礎是大規模收集個人隱私信息，當詐騙分子非法獲取包含社會關系、財務數據、生物特征等敏感信息后，其實施詐騙的條件即初步具備。現行《數據安全法》雖發揮一定作用，但在技術標準、保護范圍及措施方面仍需完善。
《深度合成管理規定》第16條顯示，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識。這一表述在實踐中還不夠清晰，也可能存在歧義，究竟是不遮擋AI生成內容的主要部分，還是應當不為人類肉眼可見容易存在爭議，還需要進一步的法律解釋。
與此同時，AI詐騙治理缺乏行業合力。各個行業數據泄露的情況仍然存在，即便一些用于保護用戶數據的基礎性制度開始實行，但部分企業為追求短期利益，通過販賣用戶信息等形式獲利。與此同時，金融機構部分從業人員在利益驅使下，違反監管制度，對外轉賣客戶信息用以非法獲利。
此外，生成式AI模型迭代速度與檢測技術發展存在明顯的時間差，容易形成“技術代差陷阱”，使得新型詐騙手段往往在監管響應前已造成規模化危害。
所以，我國現行法律構建了AI詐騙的第一道防線，但在技術標準細化、責任主體擴展及檢測工具配套化等方面仍需完善。未來還需通過立法明確具體的技術規范，將研發者納入責任體系，強制要求提供檢測工具，從而提升AI生成內容的可識別性，有效遏制AI詐騙的蔓延。
AI技術本身并無善惡之分，但如何引導其健康發展，已成為當前面臨的課題。正如全國人大代表、中國科學院大學講席教授、知識產權學院院長馬一德所言：“面對AI深度偽造技術帶來的新挑戰，我們需要在技術創新與防范風險之間尋求平衡。”
AI理應是人類的助手，而非傷害的工具。在這場沒有硝煙的戰爭中，人類與AI的較量才剛剛開始。只有通過技術創新、法律完善、公眾參與的多維度協作，我們才能筑牢防線，讓AI真正成為推動社會進步的力量。
參考文獻及資料：1、周益 任士英《AI詐騙治理：困境與對策》，人民論壇2024年第13期
2、姚志偉 李卓霖 《AI詐騙的法律規制》法治論壇2023年第4輯
3、法制日報《有人用AI“說了謊”“變了臉”》
4、央視新聞《雷軍呼吁立法整治AI造假》
5、深圳羅湖檢察《《山寨DeepSeek泛濫，檢察官提醒：警惕網絡詐騙，保護個人信息！》
6、封面新聞《防不勝防！半數受訪大學生曾接觸過疑似AI詐騙》
7、中國青年報《揭秘“殺豬盤”背后的心理控制術：并非只有“戀愛腦”才會遭遇》
8、央視新聞《防范新型風險 守好網絡空間丨AI換臉擬聲，“熟人”“家人”讓轉賬也要留心》
9、新華網《網絡上“AI名人”泛濫 深度偽造之惡何解？》
10、央視新聞《網戀女友竟是“AI生成” 警方揭秘詐騙流水線》
數據新聞編輯：陳華羅 實習生何逸銘
新媒體設計：苗奇卉
校對：李立軍
