圖：AI深偽技術Q&A、各國AI性犯罪事件簿

　　隨着人工智能技術的發展，Deepfake（深偽）變得愈發「簡單」，大量一鍵換臉、一鍵脫衣的違法軟件在網絡氾濫，導致針對兒童的「性勒索」詐騙案件正在激增。針對這一問題，包括韓國、西班牙、澳洲等多國開始研究監管措施，嚴厲打擊。澳洲政府此前表示，將強制科企採取措施來防範線上工具被利用於製造深偽裸照，或在受害人未察覺的情況下進行跟蹤偷窺。

　　【大公報訊】隨着人工智能（AI）技術的發展和普及，許多通過簡單操作就可以生成難以辨別的「Deepfake（深偽）」照片的應用程序在網絡氾濫，不少人利用這些工具製作虛假的色情照片，用以散布虛假信息、詐騙和剝削，對個人隱私和公眾信任構成嚴重風險。

　　美國網絡安全公司Security Hero發表的《2023年Deepfake報告》發現，2019至2023年五年間，網絡上深偽影片的數量增加了550%，總數超過9.5萬條，當中98%含色情內容，99%目標對象都是女性。

　　專家指出，這一問題在全球青少年間變得愈來愈嚴重。今年6月，澳洲電子安全專員格蘭特表示，過去18個月裏，澳洲網絡安全監管機構eSafety收到的關於18歲以下人群使用「脫衣」軟件生成深偽私密照片的舉報數量增加了1倍多，「這些應用程序被用來在校園內羞辱、霸凌和性勒索兒童。」她表示，調查人員發現在墨爾本的一所高中就有超過50名女學生成為深偽照片的受害者。

　　深偽裸照成校園欺凌新手段

　　據報道，美國、西班牙、韓國、日本等多國學校都發生「深偽」裸照氾濫的事件，不少學生利用AI作為新的欺凌手段，製作女同學的假裸照，並通過聊天群組在校內散布，造成不良影響。

　　據學校和警方報告，美國多個州的男學生利用「裸體」或「脫衣」等AI軟件，將女同學參加學校舞會等活動的真實照片，修改合成以假亂真的裸照，並通過Snapchat群組或Instagram等軟件散播，甚至在學校餐廳和校車上散布。

　　在日本，科技促成的性暴力和性騷擾呈上升趨勢，一些青少年的AI假裸照在同學中流傳，日本全國各地警方收到的此類案件報告越來越多。據日本國家警察總署稱，警方去年接到了100多起關於未成年人虛假性愛圖片的舉報，受害者大部分是初高中生，但也有小學生。

　　韓國此前發現利用許多Deepfake技術製造的色情視頻與照片在Telegram瘋傳，涉多個聊天群組，每個群組成員介乎數百至逾十萬不等。韓國多間機構展開調查，有結果顯示，受害人中未成年人佔比超過30%，逾40間學校受影響，有涉事學校呼籲學生清空社交平台上的照片。

　　兒童性剝削專家指出，未經同意使用AI生成圖像來騷擾、羞辱和欺凌女性，會對她們的心理健康、聲譽、人身安全和職業生涯造成損害。

　　澳洲擬強制科技公司防堵

　　針對這一問題，多國提出了解決方案。西班牙政府今年3月表示將提出一項法律，將未經授權使用的照片以AI製成深偽性影像視為犯罪行為，不過該法案至今還未獲得國會通過。美國弗吉尼亞州、加州、明尼蘇達州和紐約州等已通過法令，禁止傳播偽造色情作品，並允許受害者控告製作者。

　　澳洲政府今年8月表示，將和業界合作制定新法規，以打擊一些利用AI驅動的「裸化」技術及網絡偷窺伎倆。澳洲通訊部長威爾斯表示：「任何專以侵害、羞辱和傷害他人，特別是針對兒童的應用程序及科技，都不應存在。」威爾斯說，政府將動用「所有手段」來限制跟蹤偷窺應用程序的取得，並要求科技公司負起阻擋這些工具的責任。

　　另外，澳洲獨立議員凱特．錢尼今年7月對澳洲刑法提出修正案，提議將下載用於生成深度偽造色情內容的工具定為非法，並將下載用於訓練「脫衣」應用程序的圖像定為非法，該法案目前已提交議會。錢尼表示，濫用者正在利用立法中的明顯漏洞，而修正案是「政府可以迅速採取行動的事情」。 （綜合報道）