世界通訊！AI換臉詐騙，戳中了人臉識別企業(yè)的哪些軟肋？

2023-05-30 17:47:07 阿爾法工場

最近，關(guān)于AI換臉詐騙的新聞火了。4月20日，福州市某科技公司法人代表郭先生，突然接到好友的微信視頻，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金。

由于在視頻中看到了好友的樣貌，聽到了聲音，于是郭先生就放心地將錢轉(zhuǎn)了過去。

(資料圖片僅供參考)

可后來他卻發(fā)現(xiàn)，自己竟然遇上了“高端”騙局，對方通過智能AI換臉技術(shù)，佯裝成好友對他實(shí)施了詐騙……

這類消息，著實(shí)引起人們心中一陣恐慌。

因?yàn)樯頌榉蔡ト怏w的你我，僅憑肉眼是很難看出這些偽造視頻的破綻的。

那豈不是意味著，遇到這樣的“AI騙術(shù)”，普通人受騙的幾率近乎100%了？

且慢，話說魔高一尺，道高一丈，既然AI換臉都發(fā)展到這地步了，那與之針鋒相對的“AI鑒偽”技術(shù)，又發(fā)展得怎樣了？

01 造假VS鑒偽

談到這個(gè)問題，身為“防守方”的AI鑒偽技術(shù)團(tuán)隊(duì)，似乎有一種難以言說的艱辛。

因?yàn)樵谶@場造假與鑒偽的“貓鼠游戲”中，AI換臉這類造假技術(shù)的成本，相比AI鑒偽技術(shù)的研發(fā)成本要低得多。

這就導(dǎo)致了許多研發(fā)AI鑒偽技術(shù)的企業(yè)、機(jī)構(gòu)，從決定和造假者們死磕的那天起，就注定了要打一場十分艱難的戰(zhàn)爭。

就目前來看，AI換臉技術(shù)的成本主要包括以下幾個(gè)方面：

數(shù)據(jù)采集和處理的成本：AI換臉技術(shù)需要大量的人臉圖像或視頻作為訓(xùn)練數(shù)據(jù)，但這些數(shù)據(jù)大部分都可以從互聯(lián)網(wǎng)上免費(fèi)獲取，也可以通過付費(fèi)購買或定制。

甚至有時(shí)候，定制一個(gè)AI換臉視頻幾乎是“九塊九包郵”。

算法開發(fā)和優(yōu)化的成本：AI換臉技術(shù)主要基于深度學(xué)習(xí)和計(jì)算機(jī)視覺的算法，雖然這個(gè)過程需要一定的專業(yè)知識和技能，但是并不是特別高。

一方面，有很多開源平臺(tái)，如Faceswap、DeepFaceLab等，本身就提供了現(xiàn)成的算法代碼，用戶只需要下載使用即可，無需自行開發(fā)或改進(jìn)。另一方面，即使用戶需要自行開發(fā)或改進(jìn)算法，也可以借鑒已有的算法框架和思路，無需從零開始。

硬件設(shè)備和運(yùn)行環(huán)境的成本：一般來說，一臺(tái)配置稍好的個(gè)人電腦就可以滿足需求，不需要特別昂貴的專業(yè)設(shè)備。舉例來說，一種比較流行的AI換臉軟件DeepFaceLab，僅需要一張NVIDIA RTX系列或GTX系列的獨(dú)立顯卡，且顯存為6GB就可運(yùn)行。

這樣的一臺(tái)個(gè)人電腦，其成本大約在數(shù)千元左右。

與AI鑒偽技術(shù)所需的各種成本相比，這些偽造技術(shù)的成本簡直低得如同兒戲。

具體來說，AI鑒偽的成本大致包括了以下部分：

數(shù)據(jù)標(biāo)注和篩選的成本：AI鑒偽技術(shù)需要大量的圖像或視頻作為訓(xùn)練數(shù)據(jù)，這些數(shù)據(jù)需要經(jīng)過人工標(biāo)注和篩選。

然而，這一過程的難度可能超出了很多人的想象。

舉個(gè)例子，如果要對一小時(shí)的視頻進(jìn)行人臉識別的標(biāo)注，需要先將視頻分割成幀，然后對每一幀中的人臉進(jìn)行定位、標(biāo)識、分類等操作，還要考慮人臉的遮擋、模糊、光照等影響因素，以及人臉的姿態(tài)、表情、年齡等屬性信息。這樣一來，一小時(shí)的視頻可能需要幾十個(gè)小時(shí)甚至幾百個(gè)小時(shí)才能完成標(biāo)注。

其次，數(shù)據(jù)標(biāo)注不僅僅是簡單地給圖像或視頻打上標(biāo)簽，不同的任務(wù)和場景需要不同的標(biāo)注規(guī)則和方法，標(biāo)注人員需要掌握相關(guān)的領(lǐng)域知識和技術(shù)能力，才能保證數(shù)據(jù)的質(zhì)量和有效性。

算法設(shè)計(jì)和測試的成本：AI鑒偽技術(shù)主要基于深度學(xué)習(xí)和計(jì)算機(jī)視覺的算法，這些算法需要根據(jù)不同類型和質(zhì)量的偽造內(nèi)容進(jìn)行設(shè)計(jì)和測試，以提高檢測的覆蓋率和魯棒性。

算法設(shè)計(jì)和測試是一個(gè)復(fù)雜且持續(xù)更新的過程，需要專業(yè)的團(tuán)隊(duì)和資源。算法設(shè)計(jì)和測試的成本取決于算法的復(fù)雜度、性能、效率等因素，但一般來說，每個(gè)算法項(xiàng)目的研發(fā)成本至少在幾十萬到幾百萬美元之間。

硬件設(shè)備和系統(tǒng)的成本：但凡了解過大模型訓(xùn)練成本的朋友，都知道這一過程對硬件的高昂要求，即使今天的機(jī)器視覺技術(shù)經(jīng)過了層層優(yōu)化，但一個(gè)完整的機(jī)器視覺系統(tǒng)的價(jià)格至少在幾萬到十幾萬元之間，包括硬件成本、軟件成本、計(jì)算成本以及存儲(chǔ)成本。

綜上所述，由于AI造假技術(shù)天然所具備的成本優(yōu)勢，使得目前這場造假VS鑒偽的戰(zhàn)爭，呈現(xiàn)出了一種“正規(guī)軍圍剿游擊隊(duì)”的態(tài)勢。

在這樣的較量中，受害最多的“災(zāi)區(qū)”，往往是高成本AI鑒偽技術(shù)難以覆蓋的地方。

02 鑒偽技術(shù)的軟肋

回顧這些年見諸于各大媒體的AI詐騙事件，我們不難發(fā)現(xiàn)，這類事件中最常見的受害者，往往是作為個(gè)體的普通民眾，而非企業(yè)、政府或金融機(jī)構(gòu)。

例如，5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬?！耙?yàn)榇蛄艘曨l電話，又是熟人，我就沒多想，就轉(zhuǎn)賬了”。事發(fā)時(shí)，何先生放松了警惕，向?qū)Ψ睫D(zhuǎn)了245萬元。

同樣地，2023年3月，陜西的一名女子被騙子利用AI換臉技術(shù)冒充其女兒，通過視頻通話詐騙了不少錢。騙子先是通過微信添加了女子為好友，并自稱是其女兒的同學(xué)。

之后，騙子再通過AI換臉技術(shù)，將自己的面部替換成女子女兒的面部，并以女兒出車禍為由，又騙走了一筆錢。

其實(shí)，出現(xiàn)這類現(xiàn)象的原因不難理解，由于目前AI鑒偽技術(shù)的研發(fā)成本較為高昂，因此大部分擁有此類技術(shù)的公司，都只將這些技術(shù)向企業(yè)、政府或金融類客戶開放，而無法覆蓋到普通個(gè)人用戶。

以百度為例，雖然其在自身的AI開放平臺(tái)上，推出了人臉深度鑒偽接口，用于準(zhǔn)確鑒別Al換臉技術(shù)生成的人臉圖像，但是這一接口卻存在著一定的使用門檻。

使用者需要在百度AI開放平臺(tái)注冊賬號，并申請使用該接口。其次，該接口是收費(fèi)的，根據(jù)調(diào)用次數(shù)和服務(wù)質(zhì)量的不同，有不同的收費(fèi)標(biāo)準(zhǔn)。

而同樣地，百度旗下的產(chǎn)品度小滿，雖然也推出了自身的防深偽技術(shù)，但這一技術(shù)主要覆蓋的群體，是金融領(lǐng)域的客戶，其涉及的場景主要是借貸、投資、理財(cái)?shù)葮I(yè)務(wù)。

雖然各大企業(yè)，基于微表情分析、圖卷積（GCN）技術(shù)以及基于重建的自監(jiān)督預(yù)訓(xùn)練方法，對目前的AI鑒偽技術(shù)進(jìn)行了大幅升級，但在大模型愈發(fā)普及的當(dāng)下，AI詐騙的技術(shù)，也開始呈現(xiàn)出一種更加低廉化、普遍化的趨勢。

除非這些嚴(yán)密而高效的鑒偽技術(shù)，能夠普及到每個(gè)個(gè)人用戶的微信上，并且調(diào)用起來跟小程序一樣毫無門檻和難度，否則，那類通過“微信好友”的方式進(jìn)行詐騙的AI技術(shù)，就永遠(yuǎn)有機(jī)可乘。

事情發(fā)展到這一步，AI技術(shù)與倫理、法律之間的糾葛，似乎到了某個(gè)比較關(guān)鍵的轉(zhuǎn)折點(diǎn)。

倘若這些低成本，針對個(gè)人的AI詐騙事件屢禁不止，甚至借著這波大模型的“東風(fēng)”，進(jìn)一步席卷全國，那么就會(huì)有更多不法分子肆無忌憚，如法炮制，進(jìn)而引起民眾的進(jìn)一步恐慌。

而在AI鑒偽技術(shù)得不到下沉的情況下，監(jiān)管部門為了防范此類事件的頻發(fā)，只能進(jìn)一步收緊對AI技術(shù)使用的審核機(jī)制，而嚴(yán)格的審核機(jī)制，則會(huì)間接降低AI生態(tài)的活躍度和市場的繁榮度。

很多原本能制造奇跡的創(chuàng)意或項(xiàng)目，也許還沒開始，就被卡死在了繁雜的審核階段。

但除了這類悲觀的前景外，現(xiàn)實(shí)還存在著另一種可能，那就是更多企業(yè)和機(jī)構(gòu)，在這類AI詐騙的壓力下，開始尋求突破和創(chuàng)新，形成一種創(chuàng)新驅(qū)動(dòng)的機(jī)制。

03 魔高一丈，道高一尺

盡管AI鑒偽技術(shù)，面臨著成本高企，難以下沉的局面，但破局之道其實(shí)并非不存在，因?yàn)橐环N技術(shù)的升級，所帶來的影響可能不是垂直和單一的，而往往有可能是多維和廣闊的。

例如AI鑒偽所涉及的計(jì)算機(jī)視覺、圖像識別等底層技術(shù)，就有著十分廣闊的應(yīng)用范圍，和巨大的發(fā)展空間。

例如，在智能駕駛方面，目前的計(jì)算機(jī)視覺、圖像識別等技術(shù)還不能完全替代人類的駕駛，還需要結(jié)合其他傳感器、雷達(dá)、地圖等信息，提高感知的準(zhǔn)確性和魯棒性，同時(shí)還需要解決道路復(fù)雜多變的情況，提高決策的智能性和安全性。

在智慧農(nóng)業(yè)領(lǐng)域，通過提高圖像識別的覆蓋率和及時(shí)性，可以實(shí)現(xiàn)對農(nóng)作物、土壤、病蟲害等的更全面和更實(shí)時(shí)的監(jiān)測和診斷，從而提高農(nóng)業(yè)生產(chǎn)的質(zhì)量和效率。

類似受益的領(lǐng)域，還有交通、醫(yī)療、文娛等等。

從更長遠(yuǎn)的角度來看，這一下沉過程造成的技術(shù)外溢，將會(huì)使得更多的經(jīng)濟(jì)主體能夠獲取和使用先進(jìn)技術(shù)，從而促進(jìn)創(chuàng)新活動(dòng)的多元化和活躍化。

同時(shí)，技術(shù)門檻的降低，也必然會(huì)導(dǎo)致生產(chǎn)成本和價(jià)格的下降，使得企業(yè)能夠進(jìn)一步擴(kuò)大市場規(guī)模，促進(jìn)了經(jīng)濟(jì)增長。

從這樣的角度來看，目前的AI詐騙事件，只是大模型在走向下沉過程中，所必然要遭受的一種劫難或磨礪。

唯有經(jīng)過了這樣的考驗(yàn)，AI所帶來的各種技術(shù)，才能真正地在法律、倫理上，被社會(huì)大眾廣泛地接納。