大數據人工智能一鍵脫衣!病毒式傳播68萬女性受害

加拿大都市网

(海外媒體 Motherboard 測試圖片)

你在社交網絡 po 出了一張自拍照,坐等收贊。但你不知道的是,這張照片可能會被偷偷下載,並且變成一張你的 「裸照」。

這張裸照或許將被私下分享,也很可能會在地球另一端的某個社交網絡上出現。在不知情的情況下,超過 68 萬多名女性的假裸照正在以這種方式產生並傳播。

近期,總部位於阿姆斯特丹的視覺安全智能公司 Sensity 發現了一個 telegram 上的應用(文章中用 bot 指稱),這個 bot 可以通過 deepfake 程序,創建某個受害者的計算機生成的 「裸照」,並且值得一提的是,只用一張照片,生成效果就相當逼真。

據 Sensity 報告顯示,目前這個 bot 已經產生了 68 萬多名女性的假裸照,大約有 104,852 張女性照片目前被公開發佈在這款應用上,其中 70% 的照片來自社交媒體或私人渠道。這些受害者中有一小部分似乎是未成年人。研究人員說,其餘的照片可能是私下分享的。

這款 bot 的使用者還在 telegram 上成立了社區。目前這個社區已經有 101,080 名成員了,其中 70% 居住在俄羅斯或東歐。

Deepnude 2.0 再現,只需要一張照片,就能生成逼真 「裸照」

這款 bot 的運作方式相當簡單,不像之前 deepfake 需要多張照片訓練算法,只需要一張照片,就能獲取到比較逼真的 「裸照」。

Sensity 在報告中詳細介紹了 bot 一鍵生成裸照並分享的步驟。 一鍵 「脫衣」,這聽起來是不是有點耳熟。

其實早在去年,就有這樣一款類似的 AI 偏門應用爆出,一鍵直接 「脫掉」女性的衣服!

顯然,已經不能叫做擦邊球的應用了。

這是一款名為 DeepNude 的應用,次標題被稱為 「AI X光」,只需要給它一張照片,即可藉助神經網絡技術,自動 「脫掉」衣服。原理雖然理解門檻高,但是應用起來卻毫不費力,因為對於使用者來說,無需任何技術知識,一鍵即可獲取。

DeepNude 比以前的 deepfakes 軟件更容易使用,也更容易訪問。對比 deepfakes 需要大量的技術專業知識、龐大的數據集以及昂貴的 GPU,DeepNude 是一款面向消費者的應用程序,比大多數視頻遊戲更容易安裝,只需點擊一下即可在 30 秒內產生裸體圖片。

DeepNude 的創建者阿爾貝托(Alberto)曾表示,該軟件由開源算法 pix2pix 創建,訓練數據僅為 1 萬張女性裸圖。這一算法與之前的人工智能換臉技術 deepfake 算法相似,也和無人車技術所使用的算法相似。

之前這款應用提供客戶端版和網頁版,你可以選擇支付 50 美元付費使用,也可以選擇使用免費版,區別是免費版獲得的圖片會出現較大水印。

可能由於太過受 「歡迎」,也引起了輿論的極大爭議,上線不到一周,這一應用已經宕機,deepnude 官方推特也表示已經將其下線。

沒想到,在 deepnude 下線後的同一個月,這款應用就在 telegram 上就出現了。

Sensity 首席執行官兼首席科學家喬治 · 帕特里尼 (Giorgio Patrini)表示:「這款工具的獨特之處在於,它不只是人們在聊天或分享內容,它實際上嵌入了 Telegram,這就讓它的使用門檻更低了。」

與製作 deepfake 的算法不同,Telegram 機械人不需要數千張圖片就能工作。帕特里尼說 :「這就是為什麼那麼多的個人隱私會受到攻擊的原因,因為只有一張來自 Facebook 的個人資料照片就足以做到這一點。」

相比 Deepnude,這款機械人進一步升級的一點是,它上傳的照片多數是毫不知情的普通女性,而不只是名人。

正如帕特里尼說:「一旦你分享了自己的圖片或視頻,也許你意識不到這些內容誰可以看到,誰可以竊取,誰可以在你不知道的情況下下載,這實際上讓所有人都承載着被侵害的可能。」

只針對女性,每張照片處理 1.5 美元,用戶一年翻四倍

該工具允許人們在手機上上傳照片,bot 遠程生成圖片後發回給用戶。這個機械人只對女性圖像進行處理,它可以免費提供帶有水印的圖像,也可以提供沒有水印的圖像,收費約為 1.5 美元。用戶也可以通過介紹他人使用這項服務來賺錢。

這款 bot 還在 VK 網站上發佈了廣告,據查看,在該網站上目前已經有了 380 頁的搜索量。

這種病毒式的擴張方式,讓這款 bot 的會員迅速增長。據 Sensity 的報告稱,這款 bot 是在去年 6 月上線的,上線兩個月用戶幾乎過萬,到今年 6 月,已經有了 4.5 萬用戶。目前,使用該機械人的 7 個 Telegram 頻道共吸引了 103585 名用戶,其中人數最多的頻道有 45615 人。

根據 Sensity 的說法,「報告中所述調查期間發現的所有敏感數據均已向 Telegram、(俄羅斯社交媒體網站)VK 和相關執法部門披露。「

帕特里尼指出,這種 「色情機械人」顯然是違反了 Telegram 的服務條款的,而發佈相關廣告的網站 VK 實際上也有規定,不允許在該平台上發佈此類內容或鏈接,並封鎖發佈這些內容的社區。

這些社區或鏈接是如何在 telegram 和 vk 上推廣的還不得而知。Sensity 稱,「在本報告發表時,我們還沒有收到來自 Telegram 或 VK 的任何回應。」

帕特里尼說:「這就是這種技術成為商品的現象。」「不需要技術技能,不需要專門的硬件,不需要特殊的基礎設施,也不需要難以獲得的特定服務。」

《如何輸掉信息戰》(How to Lose the Information War)一書的作者尼娜 · 揚科維茨 (Nina Jankowicz)表示,這款應用對世界各地的女性都有巨大的影響,尤其是在社會較為保守的國家,比如俄羅斯。如果一張令人信服的假裸照被公開,受害者可能面臨失去工作和生計的危險。有些人可能面臨伴侶暴力。

「從本質上說,這些深度贗品要麼是用來滿足一些關於被出賣的情人或男朋友的病態幻想,要麼只是一個完全令人毛骨悚然的怪物,」Jankowicz 說。「或者它們被用作潛在的勒索材料。」

「這不僅是公眾人物和名人的問題,很快它將成為每個人的問題。」帕特里尼說道。「現在它已經成為成千上萬人的問題了。」(IT之家)

share to wechat

延伸阅读

share to wechat

延伸阅读

share to wechat

士嘉堡中学校内疑有人藏枪 两所学校封锁!

可怕!温尼伯连环杀人凶手 3个月杀害4名女性

TUMS抗胃酸咀嚼钙片召回!产品掺杂杂质

梅西健身秘诀 8年戒绝汽水披萨