Google AI搜索闖禍︱建議網友吃石頭、毒蘑菇 Pizza加「膠水醬料」

加拿大都市网

GOOGLE(谷歌)不久前發佈人工智能(AI)搜尋,但推出不到半個月,「闖禍」不斷!

有網友在谷歌搜索尋找「芝士和披薩粘不到一塊」的解決辦法。AI直接在頂部給出總結指導,看似有模有樣:「你還可以把1/8杯的無毒膠水加到醬料里,使其更黏。」

這個回答的確很「AI」,加膠水了確實黏啊,邏輯沒毛病。而且是「無毒」膠水,肯定能吃。

相關新聞:
Google推AI搜尋 可加快資訊查詢
美國防部推技術防AI殺手機器因「視覺噪音」而失控

谷歌AI建議披薩加膠水增加黏性。
谷歌AI建議披薩加膠水增加黏性。

 

「披薩加膠水」其實是11年前網友的惡搞。
「披薩加膠水」其實是11年前網友的惡搞。

 

而真正引爆網友關注的是,原來這個「解放方案」不是GOOGLE的AI自己「創作」,而是來自11年前一名網友在「美國貼吧」Reddit論壇披薩板塊的惡搞留言。對比原文,可以看出谷歌Gemini大模型確實出色地總結精簡了網友發言,去掉不必要的細節融合進回答中。但關鍵在於缺乏常識,沒有識別出網友惡搞的意圖,當真了。

大家批評的另一個點在於,問題出現在GOOGLE最核心、使用量最大的搜索產品上,而不是AI對話。如果是一個不熟悉AI技術,不了解AI會出現「幻覺」的普通搜索用戶遇到這事,是否就可能被AI騙到?

谷歌AI建議每日「吃一小吃頭」。
谷歌AI建議每日「吃一小吃頭」。

 

谷歌這樣回答太空人每天在做什麼。
谷歌這樣回答太空人每天在做什麼。

 

披薩加膠水,絕大多數人類不會當真,但人們很快發現GOOGLE的AI更多、更危險的失誤:如建議用戶每天至少吃一塊小石頭、在兒童感興趣的「太空人平常都做什麼」問題上,把惡搞言論也總結進來。還把劇毒的毀滅天使菌(Destroying Angel)判斷成可食用口蘑(White Button Mushroom),順着用戶開玩笑的話,稱用戶判斷的對,沒有關於蘑菇可能有毒的提示。

這是奪命毒磨菇,GOOGLE的AI當成能吃的口磨。
這是奪命毒磨菇,GOOGLE的AI當成能吃的口磨。

 

有網友表示,不完善的AI功能,可能正在毀掉GOOGLE搜索引擎。毀掉人們幾十年來對這個產品的信賴。


緊貼最新最快新聞資訊,請立即下載星島頭條App: https://bit.ly/3Q29Vow

share to wechat

延伸阅读

延伸阅读

未来一周加拿大商界关注之大事

怪贼深夜光顾万锦广场肉舖 现金财物皆不爱专偷和牛

越来越多加拿大人认为需要减少移民数量