美國人工智能（AI）公司Anthropic的研究員考克森（Jacob Coxon），於日前辭職時表示，Anthropic與對手OpenAI爭相研發更尖端AI，很可能2030年之前害死人類。

27歲的考克森本月8日表示將離職，因為不想參與整個行業爭相開發會「自我改進型」AI系統的熱潮。

他說今年較早時離開OpenAI，轉而加入Anthropic，本以為後者會更重視安全。如今他認為若無政府介入或全行業協同減速，沒有辦法遏制問題惡化。

考克森指出，人類正走向許多最激進的情景，也許明年年底局面恐就失控。他還說當各家公司之間乃至與中國新晉企業競爭時，都不可避免會犧牲安全性。

無獨有偶，Anthropic現任員工、負責研究未來AI系統導引與控制的胡賓格（Evan Hubinger）也發文呼應，指的確真心相信，AI有可能殺死全人類。他還估計未來10年內，AI導致人類滅絕的風險超過10%。