華裔律師提交AI虛構案 專家稱這是一記警鐘

加拿大都市网

(Westside Family Law 網頁上顯示 Chong Ke 的工作圖)

【星島都市網】溫哥華科技律師瑞安·布萊克(Ryan Black)與視頻遊戲公司的合作使他有幸目睹了人工智能在該行業的興起。

現在,他發現自己又站在了前線,因為他自己的行業也在努力應對這項技術。

布萊克曾幫助卑詩省法學會為律師起草有關使用人工智能的建議。他說:「人工智能對遊戲工作室的影響程度着實讓人大吃一驚」。

布萊克表示,生成式人工智能革命對人們的衝擊非常大,那種可以根據用戶提示創建論據和文章的技術對很多人來說都是一件新鮮事。

「律師們對此了解不多,這並不讓我感到驚訝」。

布萊克說,像ChatGPT這樣的生成式人工智能工具的興起是「法律實踐的革命性變化」,但法律專家表示,卑詩省最高法院最近的一項裁決表明,律師必須謹慎和懷疑地使用這項技術。

在2月20日公布的與一起兒童監護權案件有關的裁決中,溫哥華的華裔律師軻翀(Chong Ke)被披露使用ChatGPT準備案件中提交的材料。

這些材料包括引用不存在的案例,她的對手稱這是人工智能的「幻覺」。

軻翀告訴法庭,發現引用的案例是虛構的「令人羞愧」,她迅速通知了律師協會,並承認「不了解」使用人工智能起草法庭材料的「風險」。

軻翀在一份宣誓書中說:「我現在意識到了依賴人工智能生成材料的危險性。我知道這個問題在其他司法管轄區也出現過,而且律師協會在最近幾個月發佈了一些材料,旨在提醒卑詩省的律師注意這些危險」。

軻翀向法庭和她的律師同事道歉。

她的律師約翰·福士特龍(John Forstrom)在一封電子郵件中說,此案「引起了公眾的極大興趣,但事情的實質並不引人注目」。

福士特龍說:「我不確定此案對在法庭訴訟中使用生成式人工智能是否有重大影響」。

「柯女士在本案中使用人工智能是一個公認的錯誤。在法律工作中是否或如何適當地使用人工智能的問題並沒有出現」。

協會發言人克里斯蒂娜·譚(Christine Tam)在一封電子郵件中說,協會目前正在調查柯的行為。

譚表示:「在認識到使用人工智能提供法律服務的潛在好處的同時,律師協會也向律師們發佈了關於適當使用人工智能的指導意見,並希望律師們在依賴人工智能為客戶提供服務時,能夠遵守合格律師應有的行為標準」。

律師協會於2023年底發佈的指南敦促律師尋求使用該技術的培訓,並注意數據安全的保密問題、抄襲和版權問題,以及該技術產生的材料中可能存在的偏見。

其他省份和地區的法律協會和法院也制定了關於使用人工智能的指南。例如,育空最高法院在2023年6月的一份實踐指南中指出,如果任何律師在任何事項中以任何形式依賴人工智能進行法律研究或提交材料,他們必須告知法院。

對於DLA Piper律師事務所的布萊克來說,人工智能的使用正在引起很多必要的焦慮,擔心依賴這樣的工具來完成任何真正繁重的工作。

布萊克說,伸張正義需要「人類同行」的公正,能夠評估並做出具有法律約束力的重要決定。

他說,他遇到的律師和法官有的「完全投入其中,有的完全反感,有的則完全不可知論」。

他說,他對技術的發展速度印象深刻,但對於現在和未來的律師來說,需要對材料生成的任何材料保持謹慎和懷疑的態度。

布萊克在反思軻翀案和其他類似案件時說,像ChatGPT這樣的工具是非常好的自動更正工具,在將文本與其他文本聯繫起來方面做得非常出色,但它們不了解世界,不了解現實。

卑詩大學法學教授克里斯汀·托馬斯恩(Kristen Thomasen)在接受採訪時說,卑詩省最高法院的案例不僅表明了技術的局限性,也表明律師和其他專業人士需要對他們正在使用的技術持批判態度。

托馬斯恩說,儘管經常有很多炒作,但必須對技術的優缺點進行評估。

她說,在法律和警務等「高風險」職業中,重要的是不要將需要人工操作的工作委託給計算機系統,因為在這些職業中,應該謹慎對待和使用可能存在問題的新技術。

托馬斯恩說,這種技術被描述為「活物」或對人類生存的威脅,或者被認為是「機器中的超人幽靈」,儘管它非常複雜,但它只是根據從互聯網上獲取的數據進行計算。

她說,從將其視為「人」上退一步下來,將有助於機構、學生和教師更好地理解這項技術的實際作用。

她說:「當我們看到它是如何發展的,我認為,就像法律協會一樣,當我們更好地了解這項技術是什麼樣子的時候,不斷制定更完善、更詳細的準則或規則是有意義的」。

軻翀所涉案件的法官表示,如果有其他材料採用了像 ChatGPT 這樣的人工智能技術,她應該「謹慎」地告訴法庭和對方律師。

「不幸的是,本案表明,生成式人工智能仍然無法替代司法系統對律師要求的專業知識,」大衛·蘇哈拉(David Masuhara)法官在其裁決中寫道。「選擇和使用任何技術工具,包括由人工智能驅動的工具,能力至關重要。司法系統的誠信要求也是如此」。

布萊克說,人工智能技術不會消失,由於其發展的驚人速度,現在制定的任何規則都可能需要改變。

「我們現在肯定處在一個人工智能將會存在的世界,」他說。「在我看來,這種影響是不會消失的。」(加通社,都市網Rick綜合編譯,圖片來源星島資料圖)

share to wechat

延伸阅读

延伸阅读

RENPHO智能蓝牙体重秤 原价45.99打5.7折特价25.99

央行行长乐观透露:降息时机已近了

无绳更自由!戴森Dyson Corrale直发器特价

热门补充剂姜黄到底有没有副作用?姜黄影响药物治疗的3种方式