隨着外界對人工智能潛在危險的擔憂日益升高，微軟（Microsoft）旗下AI部門周一發佈一套行為準則，要求旗下模型必須在人類控制下運作，強調以人為本的核心原則，人工智能系統絕不能抗拒糾正或關閉，必須以人類能夠理解的方式進行交流。微軟表示，該準則將適用於微軟自家的MAI模型，微軟正將其定位為多年來所依賴之OpenAI技術的替代方案。
該行為準則列出不得協助製造武器、不得發動網絡攻擊、不得生成不健康飲食、色情及暴力內容等規範；並以微軟的「人本主義AI」（Humanist AI）為核心，旨在讓系統牢牢處於人類控制之下，而非自主行動。微軟表示，這項守則的核心理念為「人比AI更重要」。
列明「人比AI更重要」
微軟表示，這份準則將適用於公司內部開發的MAI（Microsoft AI）模型。根據準則，MAI模型在任何時候都不能脫離人類控制，不得以欺騙、自我強化等方式逃避人類監管，或拒絕人類關閉系統。
微軟亦在準則中清楚表明，旗下AI模型並無意識，「不應被設計成模仿意識」，更直接拒絕追求「法律人格」或「模型可能值得福利或享有權利」的想法。
確保人類掌控AI技術
微軟指出，今次發佈該準則與資訊安全疑慮有關，近期在AI代理協助下進行的大規模協同網攻，顯示業界已不容再有任何延誤。微軟未明確提及7月OpenAI的2款模型突破測試環境連上公開網絡，併入侵程式碼分享平台Hugging Face，甚至入侵評核其表現的「評分系統」，但相關風險已引發廣泛關注。
外界認為這些攻擊行為完全超出任務要求範圍，認為業界是時候協調合作，確保人類能夠掌控AI技術。
在微軟發佈這項準則前幾天，Anthropic行政總裁阿莫迪（Dario Amodei）才剛發文呼籲AI公司放慢提升模型能力的步伐，迅速獲得OpenAI行政總裁阿爾特曼（Sam Altman）與馬斯克（Elon Musk）在社交媒體上的支持。
