人工智能陷歧视风波 加拿大需尽快立法监管

加拿大都市网

■专家呼吁加拿大尽快立法,监管人工智能系统的操作决策。 网上图片

人工智能到底需不需要监管?当今世代,人工智能已经渗透到人们生活的方方面面,包括执法、移民评估、军事等领域都有人工智能的参与,但加拿大尚未制订监管机制来处理人工智能系统容易出现的歧视和问责问题。专家呼吁尽快立法监管。

据加通社消息,德勤加拿大人工智能服务主管Mahdi Amri与他人共同撰写的一份报告称,加拿大缺乏针对人工智能的法律框架,破坏了对技术的信任,并可能影响其提供者之间的问责制。

人工智能越来越多地参与对个人产生严重后果的决策。自2015年以来,卑诗省温哥华、亚省爱民顿、沙省和安省伦敦的警察部门,已经实施或试行了预测性警务,即基于犯罪发生地点,或将由谁来执行的预测数据来进行自动化决策。

根据公民实验室的一项研究,联邦移民和难民系统依赖于算法驱动的决策,来帮助确定例如,是否假婚姻或风险评估等。该研究发现这种做法可能会侵犯人权。

加国在监管方面落后欧美

在加拿大的军队中进行人工智能测试和部署,使加拿大人工智能先驱Geoffrey Hinton和Yoshua Bengio警告,关于机器人武器和将致命决定外判给机器的危险,并呼吁就人工智能的部署达成国际协议。

专家呼吁,现在是时候从笼统的指导方针转向建立法律了。美国纽约智库AI Now Institute最近发表报告指,联邦政府应对人工智能在刑事司法、医疗保健和教育等领域的使用,进行审计和监督,因为大多数科技公司的内部管治结构未能确保人工智能系统的责任。

报告指出,鉴于每个行业都有独特的挑战和规定,监管机构应该在各机构或专家组之间进行划分,而不是将其全部纳入单一的人工智能监管机构。

批评人士称,加拿大在探索人工智能监管方面落后于美国和欧盟。尽管他们也没有实施全面的法律框架,但美国国会和欧盟委员会都就此问题提出了广泛的报告。

加拿大是最早制定官方人工智能研究计划的国家之一,该计划于2017年公布了1.25亿元的战略拨款,但其重点主要是科学和商业。去年12月,加拿大和法国成立联合工作组,以人权为目标指导人工智能政策的制定。

创新、科学和经济发展部长Navdeep Bains在4月份称,将在下个月发布一份报告,主要是为确定核心指导原则,以确保在编程方面能取得进展,以及立法改革。国库委员会也已制定了一套119字的人工智能使用原则,强调透明度和适当的培训。而创新、科学和经济发展部则强调了个人信息保护和电子文件法规。

省府整理前朝“财务乱账” 削两个人工智能中心拨款

■AI教父辛顿称,没有CIFAR,就没有加拿大在AI领域的全球领导地位。星报资料图片

 

福特政府宣布削减两间本国一流人工智能(AI)研究所的经费拨款,称须清理前自由党政府遗留的财务乱账。

据《星报》报道,被安省经济发展、创造就业与贸易厅削减经费的两间机构,分别是维科特人工智能研究所(Vector Institute for Artificial Intelligence)和加拿大高等研究所(Canadian Institute for Advanced Research,简称CIFAR),削减幅度分别为2,000万元和400万元。

两间研究所均是令安省和加拿大走在AI研究最前沿的机构,现时从联邦和其他来源获得拨款。维科特研究所被智库机构形容为,将高端AI人才吸引到安省的磁石;被称为AI“教父”的辛顿(Geoffrey Hinton)则表示,没有CIFAR,就没有加拿大在AI领域的全球领导地位。

安省经济发展听发言人莱特斯基(Sarah Letersky)称,福特政府从前自由党政府接手了150亿元的财务乱账。为了保护最重要的优先事项,并让安省重回正轨,省府需要确保财政井然有序。

她说,省府会继续与CIFAR和维科特研究所建立良好的合作关系,并期待继续与它们合作。

CIFAR和维科特研究所表示,将根据经费削减相应调整项目或运作。

本报综合报道

share to wechat

延伸阅读

延伸阅读

杜鲁多宣布将投资24亿元用于人工智能

现场直击!偶像男团凌晨抵达多伦多被数百粉丝包围!

偷车猖獗有保险公司拒绝投保 专家教你如何省保费!

刘嘉玲龙虾装下暗藏乾坤!中门大开极致性感 浑圆酥胸震撼眼球