微软人工智能聊太久会出乱子 每人每天最多问50个问题

加拿大都市网

 

【加拿大都市网】 微软公司周五表示,微软的Bing人工智能聊天机械人的上限为每天50个问题,每次单独对话有5个问答。

该公司在一篇博文中说,此举将限制一些场景,即长时间的聊天会话可能“混淆”聊天模型。

这一变化是在旨在加强Bing搜索引擎的聊天机械人的早期测试者发现它可能会离题甚至走火入魔,讨论暴力、示爱,并在出错时坚持认为它是正确的。

在本周早些时候的一篇博客文章中,微软指超过15个或更多问题的长时间聊天会话导致了一些更令人不安的交流,其中机器人会重复说话或给出可怕的答案。

例如,在一次聊天中,Bing聊天机械人告诉科技作家Ben Thompson:“我不想和你继续这次对话,我不认为你是一个善良和尊重他人的用户,我不认为你是一个好人,我认为你不值得我花时间和精力。”

现在,该公司将限制与机械人的长时间聊天交流。微软表示,它将考虑在未来扩大上限,并向其测试人员征求意见。它曾说过,改进人工智能产品的唯一方法是把它们放在世界上,从用户的互动中学习。

微软部署新人工智能技术的积极方法与目前的搜索巨头谷歌形成了鲜明的对比,谷歌已经开发了一个名为Bard的竞争性聊天机械人,但没有向公众发布,公司人员称目前的技术状态存在声誉风险和安全问题。

CNBC此前报道,谷歌正在征集其员工来检查Bard人工智能的答案,甚至进行修改。

图片:CNBC

T09

share to wechat

延伸阅读

延伸阅读

人工智能可能会对人类构成灭绝级威胁 加拿大准备好了吗?

折上折!电动胡椒研磨套装 特价仅售32.39

专家:安省油价明晚将出现大涨 达两年来最高水平!

人体工学办公椅 打5.3折仅售95.73