华裔律师提交AI虚构案 专家称这是一记警钟

加拿大都市网

(Westside Family Law 网页上显示 Chong Ke 的工作图)

【星岛都市网】温哥华科技律师瑞安·布莱克(Ryan Black)与视频游戏公司的合作使他有幸目睹了人工智能在该行业的兴起。

现在,他发现自己又站在了前线,因为他自己的行业也在努力应对这项技术。

布莱克曾帮助卑诗省法学会为律师起草有关使用人工智能的建议。他说:“人工智能对游戏工作室的影响程度着实让人大吃一惊”。

布莱克表示,生成式人工智能革命对人们的冲击非常大,那种可以根据用户提示创建论据和文章的技术对很多人来说都是一件新鲜事。

“律师们对此了解不多,这并不让我感到惊讶”。

布莱克说,像ChatGPT这样的生成式人工智能工具的兴起是“法律实践的革命性变化”,但法律专家表示,卑诗省最高法院最近的一项裁决表明,律师必须谨慎和怀疑地使用这项技术。

在2月20日公布的与一起儿童监护权案件有关的裁决中,温哥华的华裔律师轲翀(Chong Ke)被披露使用ChatGPT准备案件中提交的材料。

这些材料包括引用不存在的案例,她的对手称这是人工智能的“幻觉”。

轲翀告诉法庭,发现引用的案例是虚构的“令人羞愧”,她迅速通知了律师协会,并承认“不了解”使用人工智能起草法庭材料的“风险”。

轲翀在一份宣誓书中说:“我现在意识到了依赖人工智能生成材料的危险性。我知道这个问题在其他司法管辖区也出现过,而且律师协会在最近几个月发布了一些材料,旨在提醒卑诗省的律师注意这些危险”。

轲翀向法庭和她的律师同事道歉。

她的律师约翰·福斯特龙(John Forstrom)在一封电子邮件中说,此案“引起了公众的极大兴趣,但事情的实质并不引人注目”。

福斯特龙说:“我不确定此案对在法庭诉讼中使用生成式人工智能是否有重大影响”。

“柯女士在本案中使用人工智能是一个公认的错误。在法律工作中是否或如何适当地使用人工智能的问题并没有出现”。

协会发言人克里斯蒂娜·谭(Christine Tam)在一封电子邮件中说,协会目前正在调查柯的行为。

谭表示:“在认识到使用人工智能提供法律服务的潜在好处的同时,律师协会也向律师们发布了关于适当使用人工智能的指导意见,并希望律师们在依赖人工智能为客户提供服务时,能够遵守合格律师应有的行为标准”。

律师协会于2023年底发布的指南敦促律师寻求使用该技术的培训,并注意数据安全的保密问题、抄袭和版权问题,以及该技术产生的材料中可能存在的偏见。

其他省份和地区的法律协会和法院也制定了关于使用人工智能的指南。例如,育空最高法院在2023年6月的一份实践指南中指出,如果任何律师在任何事项中以任何形式依赖人工智能进行法律研究或提交材料,他们必须告知法院。

对于DLA Piper律师事务所的布莱克来说,人工智能的使用正在引起很多必要的焦虑,担心依赖这样的工具来完成任何真正繁重的工作。

布莱克说,伸张正义需要“人类同行”的公正,能够评估并做出具有法律约束力的重要决定。

他说,他遇到的律师和法官有的“完全投入其中,有的完全反感,有的则完全不可知论”。

他说,他对技术的发展速度印象深刻,但对于现在和未来的律师来说,需要对材料生成的任何材料保持谨慎和怀疑的态度。

布莱克在反思轲翀案和其他类似案件时说,像ChatGPT这样的工具是非常好的自动更正工具,在将文本与其他文本联系起来方面做得非常出色,但它们不了解世界,不了解现实。

卑诗大学法学教授克里斯汀·托马斯恩(Kristen Thomasen)在接受采访时说,卑诗省最高法院的案例不仅表明了技术的局限性,也表明律师和其他专业人士需要对他们正在使用的技术持批判态度。

托马斯恩说,尽管经常有很多炒作,但必须对技术的优缺点进行评估。

她说,在法律和警务等“高风险”职业中,重要的是不要将需要人工操作的工作委托给计算机系统,因为在这些职业中,应该谨慎对待和使用可能存在问题的新技术。

托马斯恩说,这种技术被描述为“活物”或对人类生存的威胁,或者被认为是“机器中的超人幽灵”,尽管它非常复杂,但它只是根据从互联网上获取的数据进行计算。

她说,从将其视为“人”上退一步下来,将有助于机构、学生和教师更好地理解这项技术的实际作用。

她说:“当我们看到它是如何发展的,我认为,就像法律协会一样,当我们更好地了解这项技术是什么样子的时候,不断制定更完善、更详细的准则或规则是有意义的”。

轲翀所涉案件的法官表示,如果有其他材料采用了像 ChatGPT 这样的人工智能技术,她应该“谨慎”地告诉法庭和对方律师。

“不幸的是,本案表明,生成式人工智能仍然无法替代司法系统对律师要求的专业知识,”大卫·苏哈拉(David Masuhara)法官在其裁决中写道。“选择和使用任何技术工具,包括由人工智能驱动的工具,能力至关重要。司法系统的诚信要求也是如此”。

布莱克说,人工智能技术不会消失,由于其发展的惊人速度,现在制定的任何规则都可能需要改变。

“我们现在肯定处在一个人工智能将会存在的世界,”他说。“在我看来,这种影响是不会消失的。”(加通社,都市网Rick综合编译,图片来源星岛资料图)

share to wechat

延伸阅读

延伸阅读

视频:大多伦多团伙连续持枪劫车!青少年犯案停车场冲撞车辆!

恐怖!超大商场招牌压奔驰SUV 疑被狂风吹倒

多伦多这些道路封闭施工 下周交通将变得更糟!

限今天!Sorel高帮休闲鞋一律$99.98