圖:黃國遭不法之徒利用AI模仿其聲音進行電話詐騙,他已報警處理。
「我急需要現金周轉,可不可以轉些錢給我,好快還給你。」若收到「朋友」這樣的來電,務必加倍小心。本港再揭發AI聲紋詐騙案,事主為身兼全國政協提案委員會副主任、工聯會理事長、立法會議員的黃國,騙徒利用AI模仿其聲音和語氣,通過語音通話冒充黃國向其朋友借錢,朋友不虞有詐,損失數十萬元。
專家提醒市民,現今的人工智能(AI)及深度偽造(Deepfake)等技術,騙徒已可做到換臉變聲,即時與詐騙目標對話,令人防不勝防;專家呼籲應盡量避免在社交平台過度分享個人視頻和音頻,尤其是臉部清晰的素材,以免被人套取來製作虛假內容。\大公報記者 葉浩源、古倬勳
黃國昨日(17日)下午在社交平台facebook發帖文表示,不法之徒利用AI模仿其聲音進行電話詐騙,已報警處理,並作出聲明,他本人並沒有向人借錢。黃國接受《大公報》訪問時表示,前日(16日)收到一名朋友來電,向他提及「還錢」,感到莫名其妙,問清楚後始知有騙徒冒充他的聲音致電給他的朋友,聲稱急需要借錢周轉。他引述該朋友形容,「AI黃國」的聲音和語氣都「似到十足」,而且騙徒在通話中藉口周轉,可能數日內便會還錢,令其朋友降低了警覺性,信以為真,先後三次合共匯款數十萬元到騙徒指定的戶口。
冀政府提升應對騙案策略
黃國表示,對朋友因此損失金錢深感不安,形容受害人是一名熱心服務社會人士,為人「疏爽」。他續說,暫時未有收到有其他朋友「中招」的消息。對於近期出現多宗騙徒利用AI及深偽等技術冒充名人、官員及政治人物等知名人士,影響公眾人物的形象,他促請特區政府嚴厲打擊,「魔高一尺就要道高一丈」,提升應對相關騙案的策略及技術,希望警方能早日把騙徒繩之以法,亦呼籲市民時刻提高防範意識,提防騙子。
香港專業進修學院協理副校長林森指出,騙徒主要透過在網上或者不同線下場合錄音取得事主聲源,在消除雜音後以該聲線錄製不同的台詞,以AI聲紋技術模仿其語氣,透過通話詐騙事主的親友。由於一般人鮮有即時偵測對方聲紋、辨析聲線真假的技術,未必能即時察覺到騙徒在假扮親友的聲線進行詐騙。
勿過度分享個人視頻音頻
林森表示,要判斷出騙徒在假扮他人聲線也並非難事,市民只要聽到對方提出借錢、大額轉賬等要求時,問一些只有雙方之間才知道的問題,對方若無法回答便能識破騙局,同時應親自聯絡親友求證核實。
至於深偽技術,智慧城市聯盟資訊科技管理委員會主席龐博文表示,騙徒會在暗網購買假冒名人臉孔的深偽技術的模型,一年費用為3000至4000虛擬貨幣泰達幣(USDT)(折合約2.3萬至3.1萬港元)不等,製作出高度逼真的虛假視頻或者音頻,繼而在社交平台開設假冒名人代言某產品的專頁、直播或視像會議,或者進行色情勒索,甚至誹謗。
由於深偽技術發展迅速,已經能夠模擬光影、表情甚至聲音細節,內容真假難辨,暫時未有檢測工具讓一般市民可以在短時間內分辨真假。
市民要提高警惕,包括交叉比對多項資料來源作核實;亦應盡量避免在社交平台過度分享個人視頻和音頻,尤其是臉部清晰的素材,以免被人套取來製作虛假內容。