(網(wǎng)經(jīng)社訊)近期，涉及多家汽車品牌的不雅視頻及圖片在網(wǎng)絡傳播，后被證實為利用人工智能（AI）技術(shù)生成的虛假內(nèi)容。小鵬汽車于2025年11月報警，警方查明相關(guān)“車展不雅視頻”系李某為炫耀技術(shù)利用AI合成，其已被行政拘留。此外，理想汽車、保時捷等品牌也曾遭遇類似攻擊，如偽造“車內(nèi)攝像頭泄露隱私”謠言或合成銷售人員的虛假不雅視頻。據(jù)蔚來汽車法務部透露，2025年上半年此類關(guān)聯(lián)攻擊對其品牌形象造成的損失評估超過28億元，并導致銷售額下降。
除企業(yè)外，個人受害案例也頻繁出現(xiàn)。有網(wǎng)紅指控自己的照片被惡意合成并出售，香港大學一名法律系學生亦被發(fā)現(xiàn)存有大量利用同學、老師照片生成的AI不雅圖像，此事曾引起香港特別行政區(qū)行政長官李家超的關(guān)注。
據(jù)網(wǎng)經(jīng)社數(shù)字生活臺（DL.100EC.CN）了解，利用AI技術(shù)制作并傳播色情內(nèi)容已形成產(chǎn)業(yè)鏈。技術(shù)門檻降低使得制作成本極低，而通過境外網(wǎng)站、加密通訊工具進行的分發(fā)則增加了監(jiān)管難度。該產(chǎn)業(yè)甚至滲透至交友軟件、互動小說等應用，通過AI聊天機器人進行曖昧互動牟利，部分軟件缺乏年齡限制機制，對未成年人造成危害。
在市場需求推動下，AI驅(qū)動的成人內(nèi)容市場規(guī)模持續(xù)增長。與此同時，部分海外科技公司被指涉及相關(guān)內(nèi)容的訓練或應用。例如，Meta公司曾被兩家成人電影公司起訴，指控其擅自下載影片用于AI模型訓練；其聊天機器人功能也曾被指允許用戶進行涉及性暗示的角色扮演。馬斯克旗下xAI發(fā)布的Grok也因推出可進行露骨對話的“AI伴侶”功能引發(fā)討論。
為應對此類問題，國家網(wǎng)信辦已于2025年12月宣布將從嚴整治利用網(wǎng)絡傳播不實信息、詆毀企業(yè)等違法違規(guī)行為。報道認為，防范AI技術(shù)濫用需從技術(shù)、法律與社會層面協(xié)同治理。
