繼此前“10分鐘被AI換臉騙走430萬(wàn)元”事件引發(fā)關(guān)注之后，5月22日，又一起AI換臉詐騙發(fā)生。這次金額達(dá)到132萬(wàn)，且整個(gè)詐騙過(guò)程時(shí)間更短，只有9秒鐘。

(相關(guān)資料圖)

男子被騙過(guò)程

5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。但9秒之后，對(duì)方以“在開(kāi)會(huì)”為由，迅速掛斷了電話，還稱“微信和電話不能說(shuō)，加一下QQ”。

“因?yàn)榇蛄艘曨l電話，又是熟人，我就沒(méi)多想，就轉(zhuǎn)賬了”。事發(fā)時(shí)，何先生放松了警惕。發(fā)現(xiàn)被騙之后，何先生迅速報(bào)警，專案民警第一時(shí)間凍結(jié)相關(guān)賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬(wàn)元。

此前媒體報(bào)道類似AI詐騙事件

此前，央視曾報(bào)道一起金額高達(dá)430萬(wàn)元的AI換臉詐騙，過(guò)程與此案基本相似，詐騙分子都運(yùn)用到了AI換臉以及擬聲技術(shù)：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信視頻，對(duì)方稱自己的朋友在外地競(jìng)標(biāo)，需要430萬(wàn)元保證金，郭先生見(jiàn)視頻中的面孔和聲音確實(shí)是“好友”，于是放松了警惕，僅在10分鐘之內(nèi)就向?qū)Ψ睫D(zhuǎn)賬430萬(wàn)元。在福建、包頭兩地警方、銀行的幫助下，其中300多萬(wàn)元被攔截，目前仍有90多萬(wàn)還在追查中。

小紅書(shū)已有相關(guān)提示

澎湃記者了解到，目前AI換臉技術(shù)不僅被運(yùn)用于電信詐騙，還出現(xiàn)在明星直播帶貨中。據(jù)此前網(wǎng)友反映，有主播盜用明星的臉進(jìn)行商業(yè)帶貨，“點(diǎn)進(jìn)直播間一看，‘迪麗熱巴’居然在直播賣貨”，定睛一看才識(shí)出破綻。

應(yīng)用商店已有多款A(yù)I換臉軟件上架

澎湃新聞?dòng)浾咴趹?yīng)用商店搜“AI換臉”，隨即發(fā)現(xiàn)市面上已有一批軟件的換臉技術(shù)，幾乎可以以假亂真。某短視頻平臺(tái)還推出一款“AI隨拍”玩法，用戶可以將自己的臉帶入明星身上，即可發(fā)布視頻。

那么，面對(duì)這些防不勝防的詐騙技術(shù)，有什么方法可以識(shí)別呢？

據(jù)光明日?qǐng)?bào)報(bào)道，專家提示，“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細(xì)節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細(xì)節(jié)不一樣；或是很多偽造視頻由于視頻分辨率低于原始視頻分辨率，偽造出來(lái)視頻的牙齒邊緣過(guò)于整齊等。

另外，“AI假臉”有可能不符合正常人的生理特征，比如，一個(gè)健康成年人一般間隔2-10秒眨一次眼，每次眨眼用時(shí)0.1-0.4秒，而在偽造視頻中，人的眨眼頻率可能不符合上述規(guī)律。

最后，由于人嘴部的運(yùn)動(dòng)是最為頻繁且快速的，因此AI軟件無(wú)法真實(shí)準(zhǔn)確地渲染連續(xù)動(dòng)作。因此，“AI假臉”的嘴部特征有可能辨別出真假。此外，偽造后的視頻會(huì)造成一定的視頻抖動(dòng)，導(dǎo)致視頻出現(xiàn)幀間不一致情況。