美国纽约州州长霍楚尔周三（28日）签署新法案，禁止人工智能（AI）公司为18岁之下的未成年人，提供作为伴侣的聊天机械人。该法案是目前全美针对消费级AI模型所推出，涵盖范围最广的监管措施之一，被称为“全美最强有力的儿童AI安全法案”。新法对未成年人与AI的互动作出严格限制，列出多达12项“不安全AI伴侣特征”的定义，明年1月起正式生效。
新法涵盖范围广泛，包括AI巨头OpenAI旗下的聊天机械人ChatGPT、科技巨企Google旗下的Gemini等主流的AI对话工具。 根据法例，AI公司必须落实严格的年龄核实机制，确保18岁之下的用户无法接触具备虚拟伴侣属性的高风险对话功能。
列12项“不安全AI伴侣特征”
在与未成年人的互动中，聊天机械人不能产生任何可能让用户认为它是“人类、有生命或有人类情感”的内容、不能形容其产生的内容为“个人观点”、亦不能扮演朋友、恋人等角色，以及治疗师、心理咨询师等权威人士。
此外，聊天机械人不得留存或利用未成年人的敏感身心健康数据、禁止发送奉承、露骨性内容，以及鼓励未成年人隐瞒对话内容等。违规企业或将被州检察长起诉，面临的潜在惩处包括承担罚款、被勒令下架及关闭服务、销毁相关数据与依此训练的算法等。
霍楚尔在签署仪式上说：“未成年人将无法再接触到那些假装成他们的朋友、男朋友或女朋友的聊天机械人了。”加州州长纽森上月也签署法例，要求聊天机械人的开发商评估儿童风险、提交独立审查，并禁止社交平台向16岁之下用户提供成瘾功能。
