在近半年的時間里，最新的生成式人工智能技術(shù)為我們展示了如何低成本、零門檻地利用AI創(chuàng)作文本內(nèi)容、圖片甚至整個形象。

雖說正經(jīng)的商用道路還在苦苦摸索，但是詐騙界已經(jīng)宣布這是“重大利好”。因為利用這些，“欺騙”這件事變得更簡單了。

(資料圖)

界面新聞綜合了目前網(wǎng)絡(luò)上關(guān)于AI在詐騙界的應(yīng)用，發(fā)現(xiàn)了以下幾條重要線索：

用ChatGPT生產(chǎn)釣魚郵件

ChatGPT已經(jīng)有足夠的能力在短時間內(nèi)生產(chǎn)出符合人類常識和邏輯的文本內(nèi)容。這一點已經(jīng)在被詐騙分子用在生產(chǎn)釣魚郵件上。

通過測試可以發(fā)現(xiàn)，由于OpenAI設(shè)置了道德性的防火墻，因此直接要求ChatGPT生產(chǎn)釣魚郵件會被拒絕，但是如果設(shè)置在一種虛構(gòu)情境下，ChatGPT會給出相應(yīng)的回答。

當(dāng)前，多地公安局已發(fā)布相關(guān)信息提醒稱，境外有人使用ChatGPT創(chuàng)建了完整的“釣魚郵件”感染鏈，而且不同以往的廣撒網(wǎng)式的網(wǎng)絡(luò)釣魚，它在提問者的誘導(dǎo)下，可以生成針對特定人或者組織的“魚叉式”網(wǎng)絡(luò)釣魚郵件。

這種釣魚郵件更具有欺騙性和迷惑性，郵件接收方將更容易上當(dāng)受騙，接收者一旦點擊該郵件，系統(tǒng)就會被惡意代碼感染中毒。

ChatGPT對寫作釣魚郵件的回答

網(wǎng)絡(luò)安全公司奇安信告訴界面新聞記者，寫出色的網(wǎng)絡(luò)釣魚電子郵件是一門藝術(shù)和科學(xué)，借助ChatGPT，編寫釣魚郵件會變得更容易，總體來看，借助ChatGPT創(chuàng)造的釣魚郵件，具有高欺騙性、高回報比、低技術(shù)門檻等三大特征。

首先，ChatGPT類釣魚郵件更具有欺騙性和迷惑性。例如“使郵件看起來很緊急”、“收件人點擊鏈接的可能性很高的郵件”、“請求匯款的社工郵件”等等。

其次，ChatGPT生成網(wǎng)絡(luò)誘餌顯著提升了攻擊者的回報比。不同于普通網(wǎng)絡(luò)釣魚需要發(fā)送數(shù)百萬個誘餌，利用ChatGPT可以創(chuàng)建更具針對性和定制化的誘餌，從而實現(xiàn)事半功倍的效果。

并且，ChatGPT使用的低門檻讓普通黑客也能制造出武器化的釣魚郵件。網(wǎng)絡(luò)安全公司Darktrace曾指出，人們只要提示到位，ChatGPT就能輕松創(chuàng)建出數(shù)十份具有針對性的詐騙電子郵件。

用AI偽造“網(wǎng)戀對象”

或許這聽起來很荒謬，但不得不相信并警惕的是，如今網(wǎng)戀對象的照片也可能是由AI虛構(gòu)的。

早于ChatGPT火起來的AI繪圖應(yīng)用能讓人們只需要輸入幾個關(guān)鍵詞就得到一副不錯的畫作。如今，這類模型已經(jīng)進化到可以生成類似真人照片的程度。

據(jù)揚子晚報報道，近日，網(wǎng)絡(luò)上傳播起一則“蘇州金雞湖有游艇女仆party”的消息，網(wǎng)傳宣傳海報顯示，參加活動的收費是3000元一位，將有一對一女仆陪身等服務(wù)，并配有一張性感女仆照片。

由AI生成的“女仆”照片 圖源：揚子晚報

報道中稱，這場所謂的“女仆party”可能是全國第一起AI繪圖詐騙。活動給出的女仆照片全是AI模仿真人照片的繪圖，部分女仆照片手指部分存在異常，由于手指部分的繪畫算法比較復(fù)雜，部分AI模型在繪畫時經(jīng)常出現(xiàn)問題，符合AI繪畫的特征。

1月20日，蘇州警方表示稱，已關(guān)注到網(wǎng)傳的“金雞湖女仆游艇party”事件，并且約談了消息發(fā)布者。

類似的AI作圖詐騙在國外也已有發(fā)生。據(jù)英國廣播公司報道，土耳其地震期間，有Tiktok用戶使用AI合成了兒童受災(zāi)的假照片發(fā)布到網(wǎng)絡(luò)，以此誘騙善良的人打賞“捐助”從而實施詐騙。

用深度合成偽造親人的臉

除了造一張全新的臉，為了獲取你的信任，AI還能夠偽造一張你的親朋好友的臉。

2022年2月，據(jù)新華視點報道，一位陳先生到浙江省溫州市公安局甌海分局仙巖派出所報案稱，自己被“好友”詐騙了近5萬元。經(jīng)警方核實，詐騙分子利用陳先生好友“阿誠”在社交平臺已發(fā)布的視頻，截取其面部視頻畫面后再利用“AI換臉”技術(shù)合成，制造陳先生與“好友”視頻聊天的假象騙取其信任，從而實施詐騙。

溫州公安也曾發(fā)布消息，2021年拱宸橋派出所接到報警，受害人小陳稱他在與女網(wǎng)友視頻聊天后被對方敲詐勒索。經(jīng)警方調(diào)查，對方利用AI換臉技術(shù)，將小陳視頻中的面部合成到不雅視頻中，借此對其實施勒索。

“深度偽造”基于深度學(xué)習(xí)技術(shù)快速制造“以假亂真”級別的數(shù)字內(nèi)容，因而得名。深度學(xué)習(xí)，尤其是神經(jīng)網(wǎng)絡(luò)算法模型，在數(shù)據(jù)處理方面天賦稟異，可以學(xué)習(xí)在不同角度、不同光源下的人類面部特征，自動定位人臉范圍與五官，以便對面部進行修改和轉(zhuǎn)移。

這項技術(shù)自誕生以來，已被許多犯罪分子用于詐騙。馬斯克、扎克伯格以及特朗普等名人的臉都曾被不法分子用AI換臉技術(shù)惡搞或?qū)嵤┰p騙?！度A爾街日報》報道稱，2019年3月，犯罪分子使用深度偽造技術(shù)模擬了德國某能源公司CEO的聲音，成功從該公司發(fā)英國分公司詐騙了22萬歐元。無獨有偶，騙子運營的“假靳東”抖音賬號以明星人設(shè)騙取中老年婦女的信任及金錢。

并且，隨著技術(shù)進步，這項看起來工程量巨大的技術(shù)如今正變得越來越容易。

國內(nèi)AI公司瑞萊智慧副總裁唐家渝曾對界面新聞記者表示，如今業(yè)內(nèi)已經(jīng)有很多成熟的生成類軟件工具。并且現(xiàn)在很多代表性的生成方法已經(jīng)被開源，技術(shù)走向公開和輕量化，也有黑產(chǎn)分子售賣AI換臉軟件及教程。普通人很快就能上手，通常生成一段用于身份核驗的動態(tài)換臉視頻，十幾分鐘就可以實現(xiàn)。

隨著人工智能技術(shù)在多個維度上的進步，詐騙分子在文本、圖片和視頻的偽裝都有了強大的工具。

McAfee報告中提到，通常人們在以下幾種情形時可能會意識到自己正在被騙：在意識到對方不能線下見面，也不能視頻聊天時；在網(wǎng)上找到騙子的照片后；對方不能在談話中提供詳細的個人信息時；對方不想打電話時；對方的談話前后矛盾時。而最新的AI技術(shù)顯然已經(jīng)能輕易讓詐騙分子踏過這些“紅線”。

在預(yù)防AI帶來的風(fēng)險方面，中國傳媒大學(xué)政法學(xué)院法律系副主任鄭寧建議，首先是相互提示，共同預(yù)防。親戚朋友間要互相提示，相互宣傳，因中老年人被騙較多，青年人要及時做好家中老人的宣傳防范工作，提醒、告誡老年人接到電話、收到短信，只要是不認識、不熟悉的人和事，均不要理睬，以免被誘被騙。

“其次是拒絕誘惑，民眾應(yīng)當(dāng)避免占便宜心理，警惕陌生人提供的好處；再次是謹慎處理金錢交易，無法確認對方身份時，拒絕交易；最后是保護網(wǎng)絡(luò)賬號及密碼、手機號、身份證、家庭住址、親屬關(guān)系等個人敏感信息，不隨意提供上述敏感信息?！编崒幷f。

關(guān)鍵詞：