美国人工智能（AI）新创企业Anthropic一名研究员决定退出AI产业，理由是担忧Anthropic及其竞争对手正竞相开发他们无法掌控的系统。以透过大量资料训练新AI模型见长的研究员考克森（Jacob Coxon）周二说，整个产业都在加快脚步开发自我改进型的AI系统，他不想参与其中而离职，担心这类系统可能会失控，甚至导致人类灭亡。
27岁的考克森来自英国，他表示，业界许多同侪现在会用“紧要关头”及“终局”等字眼，形容产业朝自我改进模型发展轨迹。Anthropic安全研究员哈宾格(Evan Hubinger)昨日回应认为未来十年内AI“杀死所有人类”可能性超过10%。
