人工智能陷歧視風波 加拿大需儘快立法監管

加拿大都市网

■專家呼籲加拿大儘快立法,監管人工智能系統的操作決策。 網上圖片

人工智能到底需不需要監管?當今世代,人工智能已經滲透到人們生活的方方面面,包括執法、移民評估、軍事等領域都有人工智能的參與,但加拿大尚未制訂監管機制來處理人工智能系統容易出現的歧視和問責問題。專家呼籲儘快立法監管。

據加通社消息,德勤加拿大人工智能服務主管Mahdi Amri與他人共同撰寫的一份報告稱,加拿大缺乏針對人工智能的法律框架,破壞了對技術的信任,並可能影響其提供者之間的問責制。

人工智能越來越多地參與對個人產生嚴重後果的決策。自2015年以來,卑詩省溫哥華、亞省愛民頓、沙省和安省倫敦的警察部門,已經實施或試行了預測性警務,即基於犯罪發生地點,或將由誰來執行的預測數據來進行自動化決策。

根據公民實驗室的一項研究,聯邦移民和難民系統依賴於算法驅動的決策,來幫助確定例如,是否假婚姻或風險評估等。該研究發現這種做法可能會侵犯人權。

加國在監管方面落後歐美

在加拿大的軍隊中進行人工智能測試和部署,使加拿大人工智能先驅Geoffrey Hinton和Yoshua Bengio警告,關於機械人武器和將致命決定外判給機器的危險,並呼籲就人工智能的部署達成國際協議。

專家呼籲,現在是時候從籠統的指導方針轉向建立法律了。美國紐約智庫AI Now Institute最近發表報告指,聯邦政府應對人工智能在刑事司法、醫療保健和教育等領域的使用,進行審計和監督,因為大多數科技公司的內部管治結構未能確保人工智能系統的責任。

報告指出,鑒於每個行業都有獨特的挑戰和規定,監管機構應該在各機構或專家組之間進行劃分,而不是將其全部納入單一的人工智能監管機構。

批評人士稱,加拿大在探索人工智能監管方面落後於美國和歐盟。儘管他們也沒有實施全面的法律框架,但美國國會和歐盟委員會都就此問題提出了廣泛的報告。

加拿大是最早制定官方人工智能研究計劃的國家之一,該計劃於2017年公布了1.25億元的戰略撥款,但其重點主要是科學和商業。去年12月,加拿大和法國成立聯合工作組,以人權為目標指導人工智能政策的制定。

創新、科學和經濟發展部長Navdeep Bains在4月份稱,將在下個月發佈一份報告,主要是為確定核心指導原則,以確保在編程方面能取得進展,以及立法改革。國庫委員會也已制定了一套119字的人工智能使用原則,強調透明度和適當的培訓。而創新、科學和經濟發展部則強調了個人信息保護和電子文件法規。

省府整理前朝「財務亂賬」 削兩個人工智能中心撥款

■AI教父辛頓稱,沒有CIFAR,就沒有加拿大在AI領域的全球領導地位。星報資料圖片

 

福特政府宣布削減兩間本國一流人工智能(AI)研究所的經費撥款,稱須清理前自由黨政府遺留的財務亂賬。

據《星報》報道,被安省經濟發展、創造就業與貿易廳削減經費的兩間機構,分別是維科特人工智能研究所(Vector Institute for Artificial Intelligence)和加拿大高等研究所(Canadian Institute for Advanced Research,簡稱CIFAR),削減幅度分別為2,000萬元和400萬元。

兩間研究所均是令安省和加拿大走在AI研究最前沿的機構,現時從聯邦和其他來源獲得撥款。維科特研究所被智庫機構形容為,將高端AI人才吸引到安省的磁石;被稱為AI「教父」的辛頓(Geoffrey Hinton)則表示,沒有CIFAR,就沒有加拿大在AI領域的全球領導地位。

安省經濟發展聽發言人萊特斯基(Sarah Letersky)稱,福特政府從前自由黨政府接手了150億元的財務亂賬。為了保護最重要的優先事項,並讓安省重回正軌,省府需要確保財政井然有序。

她說,省府會繼續與CIFAR和維科特研究所建立良好的合作關係,並期待繼續與它們合作。

CIFAR和維科特研究所表示,將根據經費削減相應調整項目或運作。

本報綜合報道

share to wechat

延伸阅读

share to wechat

延伸阅读

share to wechat