假照片假视频充斥网上!谷歌研究显示人工智能生成的虚假信息迅速崛起

加拿大都市网

 

【星岛都市网】从虚假战争图像到名人骗局,人工智能技术催生了扭曲现实的网络错误信息。由谷歌研究人员共同撰写的最新分析报告显示,这一问题的增长速度有多快。

这项研究由谷歌、杜克大学和几家事实核查和媒体机构的研究人员共同撰写,上周发表在预印本上。论文介绍了一个新的大规模错误信息数据集,该数据集可以追溯到 1995 年,由 Snopes 等网站进行事实核查。

据研究人员称,这些数据显示,人工智能生成的图片迅速崛起,几乎与更传统的操纵形式一样流行。

研究人员写道:“直到去年年初,人工智能生成的图片在整个内容篡改中只占很小的比例。去年,包括 OpenAI、微软和谷歌在内的科技界主要公司都发布了新的人工智能图像生成工具。现在,人工智能生成的错误信息几乎与文本和一般内容篡改一样常见”。

研究人员指出,人工智能图像事实检查的兴起与人工智能炒作的浪潮不谋而合,这可能导致了网站对该技术的关注。数据集显示,人工智能事实核查在最近几个月有所放缓,而传统的文字和图片处理则有所增加。

这项研究还考察了其他形式的媒体,发现视频骗局目前约占所有事实核查声明(包括媒体)的 60%。

机器学习平台Hugging Face的著名人工智能伦理研究员萨沙-卢奇奥尼(Sasha Luccioni)说,这并不意味着人工智能生成的错误信息已经放缓。

卢奇奥尼表示:“就我个人而言,我觉得这是因为人工智能误导信息的例子太多了,以至于难以追踪!我自己也经常看到它们,甚至在社交媒体之外,比如在广告中”。

人工智能已被用于生成假的真人图片,效果令人担忧。例如,今年早些时候,泰勒-斯威夫特(Taylor Swift)的虚假裸体图像就流传开来。404 媒体报道称,用于生成图片的工具是微软的人工智能生成软件,该软件是从 ChatGPT 制造商 OpenAI 那里获得的授权,这促使这家科技巨头关闭了一个允许生成图片的漏洞。

这项技术也曾以更无害的方式愚弄过人们。最近,凯蒂-佩里(Katy Perry)出席纽约 Met Gala 的假照片–实际上她从未出席过–愚弄了社交媒体上的观察者,甚至愚弄了这位明星自己的父母。

人工智能的崛起让社交媒体公司和谷歌自己都很头疼。过去,由于搜索引擎优化驱动的内容农场,谷歌图片搜索结果中经常出现虚假名人图片。使用人工智能操纵搜索结果违反了谷歌的政策。

谷歌发言人没有立即发表评论。此前,一位发言人告诉科技新闻媒体 Motherboard,“当我们发现低质量内容排名靠前的情况时,我们会建立可扩展的解决方案,不仅针对一次搜索,而且针对一系列查询来改善搜索结果”。

为了应对人工智能造假问题,谷歌推出了数字水印等举措,用人眼看不见的标记将人工智能生成的图像标注为假图像。该公司还与微软、英特尔和 Adobe 一起,正在探索让创作者选择在人工智能生成的图像上添加可见水印。

卢奇奥尼说:“我认为,如果大型科技公司合作制定人工智能水印标准,这对整个领域的发展肯定会有帮助”。(都市网Rick编译,图片来源pixabay)

(ref:https://www.cbc.ca/news/science/artificial-intelligence-misinformation-google-1.7217275)

share to wechat

延伸阅读

延伸阅读

视频:多伦多街头惊现卡车广告:醒醒加拿大,你被围困了!

迷你卡拉OK机带2个无线麦克风 打折加优惠券38.99

为什么橄榄油现在这么贵?它对餐馆的影响太大了

多伦多夏日美食节回归 超值$35三道菜15家餐厅推荐!