美國人工智能（AI）新創企業Anthropic一名研究員決定退出AI產業，理由是擔憂Anthropic及其競爭對手正競相開發他們無法掌控的系統。以透過大量資料訓練新AI模型見長的研究員考克森（Jacob Coxon）周二說，整個產業都在加快腳步開發自我改進型的AI系統，他不想參與其中而離職，擔心這類系統可能會失控，甚至導致人類滅亡。
27歲的考克森來自英國，他表示，業界許多同儕現在會用「緊要關頭」及「終局」等字眼，形容產業朝自我改進模型發展軌跡。Anthropic安全研究員哈賓格(Evan Hubinger)昨日回應認為未來十年內AI「殺死所有人類」可能性超過10%。
