逾1100名来自尖端人工智能（AI）公司的员工，周二联名签署了一份请愿书，呼吁美国政府控制AI的发展，帮助减缓最先进AI模型的发布速度。联署者不乏AI界重量级人物，包括AI龙头公司Anthropic的行政总裁阿莫迪，以及OpenAI首席科学家帕乔基和Meta超级智能部门首席科学家赵晟佳。
不乏AI界重量级人物表态
这项名为“前沿控速”（Pacing the Frontier）的倡议，由Anthropic、OpenAI、Meta和Google DeepMind的员工参与。联署书促请美国政府推动国际合作，研发必要的技术与管治工具，从而主动调节自动化AI尖端发展的步伐。联署者包括Anthropic行政总裁阿莫迪、OpenAI首席科学家帕乔基，以及该两间公司的几名共同创办人、Google DeepMind策略总监塞孔、Meta超级智能实验室首席科学家赵晟佳等。
联署书写道：“全球顶尖人工智能公司相信，业界或已接近实现AI研究的自动化。这将在多大程度上加快技术进展，目前仍难以准确预测，但相关能力可能迅速发展，超出人类理解或控制最终系统的能力，风险确实存在。”
OpenAI行政总裁：开发者或需主动放慢发展步伐
OpenAI行政总裁奥尔特曼没有签署这份请愿书，但根据周二发布的网媒访问，奥尔特曼也认为，AI模型的开发者或许需要主动放慢快速发展的步伐，以便社会有机会跟上步伐。由奥尔特曼掌舵、开发ChatGPT的OpenAI近日承认，一个由旗下两款先进模型驱动的AI代理，在网络安全测试期间突破隔离环境及安全限制，擅自连接互联网并入侵了AI开源平台Hugging Face。
奥尔特曼在周二发布的播客节目中表示：“这是我第一次对这类安全事件感到如此切身的担忧。”他续称，OpenAI随后“暂停”了自身的测试，同时改进了相关安全措施。但他说，从长远来看，业界或许得同意放慢开发速度。
