人工智能再發展 閱讀理解可達高中生層次

加拿大都市网

【加拿大都市網】 Alphabet旗下的人工智能研究公司DeepMind發佈了下一代「語言模型」,聲稱其閱讀理解的能力已接近一名高中生。

該公司表示,這款名為Gopher的語言模型能夠通過「學習 」大量在線文本,顯著提高其閱讀理解能力。

DeepMind聲稱,它的算法是一種「 超大語言模型」,擁有2800億個參數,這些參數是衡量規模和複雜性的指標。科技網站The Verge指出,這意味着它介於OpenAI的語言模型GPT-3 (1750億個參數)和微軟和NVIDIAMegatron(5300億個參數)之間。

據一份聲明稱,這樣的系統可以讓我們「安全和有效地總結信息,提供專家建議,並通過自然語言遵循指令」。

根據DeepMind的報告,在一項測試中,該模型能夠在高中閱讀理解測試中獲得足夠高的分數,達到接近人類水平的表現。然而,它的數學和推理能力還有一些不足之處。

一般來說,參數越多越準確。但還有其他問題,比如一些閱讀理解和 不良刻板定型,儘管這些模型規模龐大,但事實證明它們更難克服。像Gopher這樣的算法,過去曾被用於數碼助理和翻譯等商業產品。DeepMind表示,在一項測試中,Gopher能夠以「驚人」的一致性水平與人類進行全面對話。

DeepMind並不打算將其算法商業化。「這不是目前的重點,」DeepMind研究副總裁卡武庫格洛告訴《財富》雜誌。

有人批評DeepMind的算法重複了種族或性別定型(通常是這些算法所輸入文本的產物)。為此,DeepMind還發表了一篇報告,介紹研究人員為維護道德誠信所採取的步驟。例如,該團隊構建了一個名為「檢索增強轉換器」(retrieve – enhanced Transformer)的工具,這是一個巨大的兩萬億字的數據庫,用於交叉引用其來源。

但即便如此,DeepMind團隊承認,關於語言模型如何使「不良刻板印象」永久存在的研究仍處於早期階段。

圖片:Getty Images The Verge

T09

share to wechat

延伸阅读

share to wechat

延伸阅读

share to wechat

安省周六测试阳性率二月底以来最低

11岁女孩室内戴口罩 被活动中心老板赶出大门

英国皇家邮政推行“自动空中派递”计划

安省新增确诊继续下降 须用呼吸机患者增至81人