繼此前“10分鐘被AI換臉騙走430萬元”事件引發(fā)關(guān)注之后，5月22日，又一起AI換臉詐騙發(fā)生。這次金額達(dá)到132萬，且整個(gè)詐騙過程時(shí)間更短，只有9秒鐘。
(相關(guān)資料圖)
男子被騙過程
5月22日，安徽安慶的何先生接到熟人視頻電話，讓他幫忙轉(zhuǎn)一筆賬。但9秒之后，對方以“在開會”為由，迅速掛斷了電話，還稱“微信和電話不能說，加一下QQ”。
“因?yàn)榇蛄艘曨l電話，又是熟人，我就沒多想，就轉(zhuǎn)賬了”。事發(fā)時(shí)，何先生放松了警惕。發(fā)現(xiàn)被騙之后，何先生迅速報(bào)警，專案民警第一時(shí)間凍結(jié)相關(guān)賬戶，連夜趕赴北京市抓獲3名涉詐嫌疑人，追回何先生被騙的132萬元。
此前媒體報(bào)道類似AI詐騙事件
此前，央視曾報(bào)道一起金額高達(dá)430萬元的AI換臉詐騙，過程與此案基本相似，詐騙分子都運(yùn)用到了AI換臉以及擬聲技術(shù)：4月20日，福建某科技公司法人代表郭先生突然接到“好友”微信視頻，對方稱自己的朋友在外地競標(biāo)，需要430萬元保證金，郭先生見視頻中的面孔和聲音確實(shí)是“好友”，于是放松了警惕，僅在10分鐘之內(nèi)就向?qū)Ψ睫D(zhuǎn)賬430萬元。在福建、包頭兩地警方、銀行的幫助下，其中300多萬元被攔截，目前仍有90多萬還在追查中。
小紅書已有相關(guān)提示
澎湃記者了解到，目前AI換臉技術(shù)不僅被運(yùn)用于電信詐騙，還出現(xiàn)在明星直播帶貨中。據(jù)此前網(wǎng)友反映，有主播盜用明星的臉進(jìn)行商業(yè)帶貨，“點(diǎn)進(jìn)直播間一看，‘迪麗熱巴’居然在直播賣貨”，定睛一看才識出破綻。
應(yīng)用商店已有多款A(yù)I換臉軟件上架
澎湃新聞記者在應(yīng)用商店搜“AI換臉”，隨即發(fā)現(xiàn)市面上已有一批軟件的換臉技術(shù)，幾乎可以以假亂真。某短視頻平臺還推出一款“AI隨拍”玩法，用戶可以將自己的臉帶入明星身上，即可發(fā)布視頻。
那么，面對這些防不勝防的詐騙技術(shù)，有什么方法可以識別呢？
據(jù)光明日報(bào)報(bào)道，專家提示，“AI假臉”的紋理特征存在破綻。例如，偽造后的視頻人物的眼睛或牙齒輪廓細(xì)節(jié)容易不一致；兩只眼睛瞳孔的顏色不一樣或瞳孔中心反射的細(xì)節(jié)不一樣；或是很多偽造視頻由于視頻分辨率低于原始視頻分辨率，偽造出來視頻的牙齒邊緣過于整齊等。
另外，“AI假臉”有可能不符合正常人的生理特征，比如，一個(gè)健康成年人一般間隔2-10秒眨一次眼，每次眨眼用時(shí)0.1-0.4秒，而在偽造視頻中，人的眨眼頻率可能不符合上述規(guī)律。
最后，由于人嘴部的運(yùn)動是最為頻繁且快速的，因此AI軟件無法真實(shí)準(zhǔn)確地渲染連續(xù)動作。因此，“AI假臉”的嘴部特征有可能辨別出真假。此外，偽造后的視頻會造成一定的視頻抖動，導(dǎo)致視頻出現(xiàn)幀間不一致情況。