【星島綜合報道】你在電話那頭聽到的聲音可能不是認為的那個人，和你發信息的人可能真的是一個機械人，而你最喜歡的約會軟件上的照片或視頻中的臉甚至可能不存在。
加拿大反欺詐中心報告顯示，在 COVID-19 大流行引起的大規模在線轉移期間，浪漫騙局激增。欺詐計劃通常涉及說服受害者建立虛擬的在線關係，一旦建立起信任和感情，騙子就會利用這種情感槓桿來索取金錢、加密貨幣、禮物或投資。
該中心提醒市民：「情人節為騙子提供了機會，尤其是針對那些正在尋找戀愛關係的加拿大人。 該中心最新數據顯示，2021 年有 1,928 起浪漫詐騙報告，損失總額超過 6,450 萬，比前一年增長近 25%。其 2023/2024 年網絡威脅評估將深度偽造技術和人工智能 (AI) 文本生成器，標記為潛在的威脅參與者。
分析指出，「隨着深度偽造越來越難以與真實內容區分開來，這些深度偽造工具應用也變得更為廣泛，網絡詐騙者很可能會進一步使用該技術，從而使他們能夠增加詐騙的範圍、規模和可信度。」
卑詩大學計算機科學教授克盧恩（Jeff Clune ）說：「人工智能的技術進步，有可能助長浪漫騙局。騙子現在擁有更多方式來欺騙人們，尤其是對那些不了解最新科技的人。」
先進的技術包括語音模擬器、人臉生成器、深度偽造（使用現有的圖像或視頻來創建虛假但可信的視頻片段）以及像Chat GPT這樣，可以生成類似人類的文本回復的聊天機械人。
盧恩（Jeff Clune ）說：「文本生成器已經發展到它們生成的內容往往與合法材料無法辨認。利用 AI 技術某些方面仍然需要個人來操縱，但這種情況可能很快就會改變。現如今的詐騙案件仍然需要人們在那裡進行，因此會有一些成本，但未來如果可以讓人工智能每天對一百萬人進行詐騙，只是坐在那裡看着錢滾進來，那是一個可怕的事情–而這項技術是可以做到的。」
達爾豪斯大學法學院助理教授鄧恩(Suzie Dunn)表示，「法律跟不上技術發展的步伐，目前在法律框架中留下了大片空白。根據加拿大刑法，必須假冒一個現有的人。允許人們用假口音、假聲音或假臉創造一個不存在的人會帶來複雜的法律問題。如果使用某人的圖像或使用某人的名字，可以算作一種模仿形式，但有了這些新技術，實際上可以創造一個不存在的人。我們不需要新的勒索法。敲詐勒索就是敲詐勒索，無論是由深度造假還是由普通人完成的。包括人工智能開發商、約會和社交媒體平台在內的企業應該意識到潛在的危害，並採取必要的保障措施。」
v08
