近年來，隨著AI技術的快速發展，越來越多人在工作生活中開始享受到全新體驗，但伴隨而來的是，利用或濫用AI技術從事違法犯罪的活動日益增多。

2024年上半年，80后導演陳坤起訴「文刻創作」，指控其抄襲了自己團隊運用AI技術製作的《山海奇鏡》預告片。這個案例讓AI作品侵權話題進入了大眾的視野。

天元律所合伙人律師李昀鍇在採訪中表示，這種行為可能會侵犯原告的複製權、信息網路傳播權、改編權以及原告的署名權，因為被告在發布作品時強調了原創。

隨著AI技術快速發展，利用AI技術從事違法犯罪活動屢見不鮮。AI 違法犯罪活動讓大眾財產安全受到威脅，其中「AI換臉」導致的違法犯罪行為尤為嚴重。

全國公安機關去年依託「凈網」專項行動組織專項會戰，嚴打泄露身份證照片等圖像信息的犯罪源頭，破獲利用AI技術「換臉」進行詐騙犯罪案件79起，抓獲犯罪嫌疑人515名。

我們在採訪中發現，大眾對於AI可能造成的風險十分擔心。有觀眾直言，AI換臉常見於詐騙，比如把人的模樣換成老人子女，來騙取老人信任並詐騙錢財。

不久前，「男子用AI偽造學生同事近7000張裸照」衝上微博熱搜。

犯罪嫌疑人白某某是互聯網公司的技術員，他用AI「一鍵去衣」技術，深度偽造淫穢圖片近7000張，以每張1.5元的價格賣出，獲利將近一萬元。圖片涉及女性人數多。最終，白某某因涉嫌製作販賣淫穢物品牟利罪被公訴至法院，今年4月份，北京海淀區人民法院對這起案件進行了開庭審理。

李昀鍇表示，利用AI功能創造圖片在網上進行售賣獲利，是犯了傳播淫穢物品罪。根據《中華人民共和國刑法》第三百六十三條 :以牟利為目的，製作、複製、出版、販賣、傳播淫穢物品的，處三年以下有期徒刑、拘役或者管制，並處罰金；情節嚴重的，處三年以上十年以下有期徒刑，並處罰金；情節特別嚴重的，處十年以上有期徒刑或者無期徒刑，並處罰金或者沒收財產。

2024年2月29日，奇安信集團對外發布《2024人工智慧安全報告》，2023年基於AI的深度偽造欺詐暴增了3000%。利用AI換臉進行詐騙，讓傳統的「眼見為實」面臨巨大挑戰。

有觀眾曾碰到QQ被盜的好友突然在網上問自己借錢，且主動提出視頻對話來驗證身份的情況，但在視頻對話的過程中，他發現所謂「好友」其實是AI換臉之後的騙子，自己差點就上當受騙。

AI換臉技術被不法分子利用成為敲詐勒索的工具，前不久深圳警方打掉了一個犯罪團伙，他們在網上搜集被害人信息，通過AI換臉的方式偽造不雅照，威脅被害人轉賬匯款。當事人吳先生回憶，當時他收到一條彩信，彩信附有他與一名女性的裸照以及勒索信息，他意識到不對勁，隨即報警。

李昀鍇指出，案例里騙子犯的是詐騙罪。雖然利用了AI技術，但核心目的是為了騙取他人財產。

根據 《中華人民共和國刑法》第二百六十六條，詐騙公私財物，數額較大的，處三年以下有期徒刑、拘役或者管制，並處或者單處罰金；數額巨大或者有其他嚴重情節的，處三年以上十年以下有期徒刑，並處罰金；數額特別巨大或者有其他特別嚴重情節的，處十年以上有期徒刑或者無期徒刑，並處罰金或者沒收財產。

隨著AI技術快速迭代，如何更好地防治AI犯罪，對公民個人、內容生成平台、行業監管部門乃至政法機關等各方都提出了挑戰。我國高度重視數據風險的分析與預防，國內的相關監管也快速跟進。

針對性規定有《網路音視頻信息服務管理規定》《網路信息內容生態治理規定》《互聯網信息服務深度合成管理規定》和《生成式人工智慧服務管理暫行辦法》。

此外，最高人民法院、最高人民檢察院、公安部發布的《關於依法懲治網路暴力違法犯罪的指導意見》，對「利用『深度合成』等生成式人工智慧技術發布違法信息」的網路暴力違法犯罪行為作出了「從重處罰」的規定。

在李昀鍇看來，技術帶來的問題最終還是要技術解決。他表示，目前還沒有特別針對人工智慧的法律出台，但全國人大法工委已經把它提上工作計劃，可能近期就會有立法上的成果。