【星島都市網】從虛假戰爭圖像到名人騙局，人工智能技術催生了扭曲現實的網絡錯誤信息。由谷歌研究人員共同撰寫的最新分析報告顯示，這一問題的增長速度有多快。
這項研究由谷歌、杜克大學和幾家事實核查和媒體機構的研究人員共同撰寫，上周發表在預印本上。論文介紹了一個新的大規模錯誤信息數據集，該數據集可以追溯到 1995 年，由 Snopes 等網站進行事實核查。
據研究人員稱，這些數據顯示，人工智能生成的圖片迅速崛起，幾乎與更傳統的操縱形式一樣流行。
研究人員寫道：「直到去年年初，人工智能生成的圖片在整個內容篡改中只佔很小的比例。去年，包括 OpenAI、微軟和谷歌在內的科技界主要公司都發佈了新的人工智能圖像生成工具。現在，人工智能生成的錯誤信息幾乎與文本和一般內容篡改一樣常見」。
研究人員指出，人工智能圖像事實檢查的興起與人工智能炒作的浪潮不謀而合，這可能導致了網站對該技術的關注。數據集顯示，人工智能事實核查在最近幾個月有所放緩，而傳統的文字和圖片處理則有所增加。
這項研究還考察了其他形式的媒體，發現視頻騙局目前約佔所有事實核查聲明（包括媒體）的 60%。
機器學習平台Hugging Face的著名人工智能倫理研究員薩沙-盧奇奧尼（Sasha Luccioni）說，這並不意味着人工智能生成的錯誤信息已經放緩。
盧奇奧尼表示：「就我個人而言，我覺得這是因為人工智能誤導信息的例子太多了，以至於難以追蹤！我自己也經常看到它們，甚至在社交媒體之外，比如在廣告中」。
人工智能已被用於生成假的真人圖片，效果令人擔憂。例如，今年早些時候，泰勒-斯威夫特（Taylor Swift）的虛假裸體圖像就流傳開來。404 媒體報道稱，用於生成圖片的工具是微軟的人工智能生成軟件，該軟件是從 ChatGPT 製造商 OpenAI 那裡獲得的授權，這促使這家科技巨頭關閉了一個允許生成圖片的漏洞。
這項技術也曾以更無害的方式愚弄過人們。最近，凱蒂-佩里（Katy Perry）出席紐約 Met Gala 的假照片–實際上她從未出席過–愚弄了社交媒體上的觀察者，甚至愚弄了這位明星自己的父母。
人工智能的崛起讓社交媒體公司和谷歌自己都很頭疼。過去，由於搜索引擎優化驅動的內容農場，谷歌圖片搜索結果中經常出現虛假名人圖片。使用人工智能操縱搜索結果違反了谷歌的政策。
谷歌發言人沒有立即發表評論。此前，一位發言人告訴科技新聞媒體 Motherboard，「當我們發現低質量內容排名靠前的情況時，我們會建立可擴展的解決方案，不僅針對一次搜索，而且針對一系列查詢來改善搜索結果」。
為了應對人工智能造假問題，谷歌推出了數字水印等舉措，用人眼看不見的標記將人工智能生成的圖像標註為假圖像。該公司還與微軟、英特爾和 Adobe 一起，正在探索讓創作者選擇在人工智能生成的圖像上添加可見水印。
盧奇奧尼說：「我認為，如果大型科技公司合作制定人工智能水印標準，這對整個領域的發展肯定會有幫助」。(都市網Rick編譯，圖片來源pixabay)
(ref:https://www.cbc.ca/news/science/artificial-intelligence-misinformation-google-1.7217275)
