科學家稱人工智能可能在200年內殺死我們

加拿大都市网

 

【星島都市網】一位英國科學家在一篇富有啟發性的新論文中提出,所謂的「人工智能」(AI)是否是我們從未在宇宙中發現其他智慧生物的原因之一?這一想法在費米悖論基礎上形成:在一個無限的宇宙中,怎麼可能沒有其他文明向我們發送無線電信號呢?難道說,一旦文明發展出人工智能,它們中的大多數就會很快被遺忘?這種大規模事件被稱為「大濾波器」,而人工智能是人們對其最熱門的猜測對象之一。科技文明不可避免地發展人工智能,會不會造成我們從宇宙中聽到的不可能發生的大寂靜?

邁克爾-加勒特(Michael Garrett)是曼徹斯特大學的射電天文學家,也是朱德雷爾銀行天體物理中心(Jodrell Bank Centre for Astrophysics)的主任,廣泛參與地外智能搜尋(SETI)的工作。從根本上說,雖然他的研究興趣不拘一格,但他是電視劇或電影中那些通過聆聽宇宙來尋找其他文明跡象的人的現實版。在這篇經過同行評審並發表在《國際宇航科學院》雜誌上的論文中,他將人工超級智能理論與射電天文學的具體觀測結果進行了比較。

加勒特在論文中解釋說,科學家們越是聽不到任何其他智慧生命的跡象,就越是感到不安。他寫道:「當把這種’大沉默’與其他天文學發現並列在一起時,就會產生一種悖論,因為其他天文學發現暗示宇宙對智慧生命的出現是很友好的。『大過濾器』的概念經常被使用–這是一個普遍存在的障礙和不可逾越的挑戰,阻礙了智慧生命的廣泛出現」。

潛在的「大過濾器」數不勝數,從氣候滅絕到有害的全球大流行病。任何事件都可能阻止全球文明走向多行星化。對於更多從意識形態上追隨並相信大過濾器理論的人來說,人類在火星或月球上定居是降低風險的一種方式。這種想法認為,我們在地球上待得越久,大過濾器事件就越有可能消滅我們。

如今,人工智能的能力還無法接近人類智能。但是,加勒特寫道,它正在做人們以前不相信計算機能做的工作。如果這一軌跡導致了所謂的通用人工智能(GAI)–這一關鍵區別意味着一種算法能夠以真正人類的方式進行推理和綜合想法,並結合令人難以置信的計算能力–我們就真的有麻煩了。在這篇論文中,加勒特通過一連串的假設,得出了一個可能的結論。一個文明需要多長時間才能被其自身不受監管的通用人工智能所毀滅?

在加勒特的設想中,只需要100-200年。他解釋說,與太空旅行和定居這種雜亂無章的多領域工作相比,人工智能的編碼和開發是一項涉及數據和處理能力並由數據和處理能力加速的單一項目。今天,我們看到了這種分裂,研究人員大量湧入計算領域,而生命科學領域卻人才匱乏。推特上每天都有大言不慚的億萬富翁談論定居火星有多麼偉大和重要,但我們仍然不知道人類如何才能在旅途中生存下來而不被宇宙輻射摧毀。

關於這項研究,有一些重要的注意事項,或者說需要牢記的事情。加勒特通過一系列具體的假設情景,使用了大量的假設條件。他假設銀河系中存在生命,人工智能和通用人工智能是這些文明的「自然發展」。他使用了已經假設過的德雷克方程,這是一種量化其他行星文明可能數量的方法,其中有幾個變量我們還沒有具體的概念。

不過,混合假設論證得出了一個強有力的結論:需要對人工智能進行嚴格和持續的監管。加勒特指出,地球上的國家已經在進行一場生產力競賽,如果他們為了進行更多監管而猶豫不決,就會害怕錯失良機。一些誤入歧途的未來學家還有一個奇怪的想法,他們認為只要更快地開發出道德上良好的人工智能,就可以顛覆全球人工智能,從而對其進行更多的控制–這種說法毫無意義。

在加勒特的模型中,這些文明的人工智能時代只有幾百年就會從地圖上消失。在遙遠的距離和漫長的宇宙時間中,這樣微小的時間範圍幾乎毫無意義。他說,這與SETI目前0%的成功率相吻合。

加勒特解釋說:「如果沒有切實可行的監管措施,我們完全有理由相信,人工智能不僅會對我們的技術文明,而且會對所有技術文明的未來進程構成重大威脅」。(都市網Rick編譯,圖片來源pixabay)

(ref:https://www.popularmechanics.com/science/a60510513/ai-could-kill-us-in-200-years/)

share to wechat

延伸阅读

延伸阅读

吃牛油果燕麦可减少白发?营养师教吃16种食物防白发脱发

Adidas夏季清仓 运动爆款低至4.5折+额外7折

soundcore罩耳式降噪耳机 原价99.99打对折49.99

多伦多青年涉装修骗局被捕 疑收钱后未提供服务