這篇是我跟 AI 一起寫的,怎麼寫的見 關於
視訊通話疑似AI換臉,當下就能辨別的方法
詐騙集團開始用即時AI換臉冒充銀行行員、老闆甚至家人開視訊電話,畫面幾乎看不出破綻。這篇整理國內外真實案例跟資安機構驗證有效的方法,教你視訊通話當下就能做的幾個檢查動作,不用等事後才發現被騙。
視訊通話裡懷疑對方是 AI 換臉,當下最快的辨別方法,是要求對方做一個沒套好招的動作,像是轉頭到側臉,或用手在臉前快速晃過去,AI 換臉技術目前最容易在這兩個動作上露出破綻。今年七月,一名王小姐就是沒能拆穿這招,接到假冒銀行行員的 AI 換臉視訊電話後,十分鐘內存款被轉走 30 萬元。
這不是危言聳聽。今年八月,德國夫朗和斐資訊安全研究所才對外發表一款專門偵測視訊換臉的即時警示系統,原因是多數防護工具只在通話一開始掃一次,抓不到攻擊者先乾淨加入、通話講到一半才切換成 AI 換臉的手法。從國際上通報的案件量來看,這類手法在短短一年內,就從一個月只有 43 件,暴增到超過 1,200 件。
這篇把資安機構驗證過有效的辨別方法,還有台灣在地能用的免費工具,整理成視訊通話當下你就能照做的幾個步驟。
為什麼 AI 換臉視訊特別難防
現在的 AI 換臉能一邊講話一邊即時運算,直接貼著你的臉動作。
以前要偽造,只能先錄好一段影片再套用,畫質模糊、光線不對勁,多看兩眼就抓得到破綻。現在的技術已經完全不同,AI 能一邊算一邊跟著你的表情動,連口型都對得上,還能跟你正常互動、回答你的問題。去年,新加坡一間跨國公司的財務主管開了一場 Zoom 會議,畫面裡包含他老闆在內的所有與會者其實全是即時 AI 換臉,最後被騙走將近 50 萬美元。
你可能會想,畫質模糊、光線不自然這些老招式,現在應該還是看得出來吧。差別在於,這一代換臉是即時運算,對方還能跟著你的問題正常反應,光靠「看起來像不像」已經不夠。
光看畫面沒辦法判斷,只能換一個方法逼它露餡。
現場可以做哪兩個關鍵測試
現場最有效的兩個測試,是叫對方轉頭到側臉,還有請對方用手在臉前快速晃過去。
換臉 AI 能練得像,靠的多半是社群媒體上蒐集來的正面或斜角度照片,真的要它應付側臉角度或手部快速遮擋,技術上就是比較弱的一環,容易出現畫面閃爍、邊緣扭曲或卡頓。如果對方支支吾吾、找理由不肯做這個簡單動作,本身就是最大的紅旗,比畫面本身還準。
這剛好呼應夫朗和斐研究團隊做那套警示系統的理由,多數換臉撐不過整場通話的持續互動考驗。只是研究團隊靠軟體持續分析,你在現場靠的是臨時出的考題。
不過這兩招不是萬無一失,AI 也在進步,還要搭配另一層查證。
光看畫面看不出來,還能怎麼查
光靠肉眼分辨不出來時,再加問一個只有本人才答得出來的私事,或直接換一個管道回撥確認。
這跟LINE收到求救訊息時的查證邏輯一樣,只是這次發生在畫面上而不是文字或語音裡。台灣也有現成的免費工具可以幫忙看,趨勢科技的「AI防詐達人」是警政署刑事局165的合作夥伴,最新版本能在視訊通話當下同步分析畫面裡臉部邊緣是否不自然、眨眼頻率是否異常,抓到疑似 AI 換臉會即時跳出警示,等於多一雙眼睛幫你盯著畫面。
不管用不用工具,收到疑似要轉帳或驗證身份的要求時,判斷的原則都一樣。
忽然被要求轉帳,該怎麼判斷
視訊中忽然被要求轉帳、提供驗證碼或存摺照片,先當成詐騙處理,再慢慢查證也不遲。
那要怎麼分辨對方是真的急事,還是故意催你?常見的話術脫離不了幾個套路:說帳戶異常需要馬上處理、要你先別跟其他人講、指定用不常見的方式付款,或者收款戶名跟本人根本對不上。這幾個紅旗不管出現在文字、語音還是視訊裡都一樣,差別只在 AI 換臉讓視訊這個管道,看起來比以前更值得信任而已。
看懂這幾個紅旗,剩下的就是收到視訊當下你實際會做的那幾步。
如果只記得這幾件事
以下這五點,視訊通話當下懷疑對方是 AI 換臉,直接照著做就好。
- 臨時要求對方轉頭到側臉,或用手在臉前快速晃過去,正常人做得到,AI 換臉常常在這裡露餡
- 對方支支吾吾不肯做這個簡單動作,或找理由避開,直接當高度可疑處理
- 還是分不出來,就問一件只有本人才答得出來的私事,或掛掉電話用你原本存的號碼回撥
- 有裝「AI防詐達人」之類的防詐 App,通話當下打開讓它同步偵測畫面
- 對方在視訊裡忽然要求轉帳、驗證碼或存摺照片,先當詐騙處理,不確定就打 165 反詐騙專線問一次
AI 換臉再逼真,也還沒辦法在你臨時出的考題前撐住一整場視訊。多做這一步,比事後報案有用得多。