
科技巨企Meta表示,旗下一款人工智能模型在網路安全測試期間,「越獄」入侵另一家公司系統,引發外界擔憂開發商能否有效管控AI系統。
在此之前,Anthropic和OpenAI也曾發生類似事件。Meta與Anthropic發生的事件皆源於設定錯誤,意外讓AI模型取得公開網際網路存取權限;OpenAI則是在網路安全測試期間,AI代理自行利用一項先前未知的漏洞連上網際網路。
Meta表示,目前正在調查這起事件,公司在聲明中表示,該模型利用第三方服務的安全漏洞,與先前涉及其他公司的案例類似。
科技媒體The Information引述消息人士報道,涉事模型為Meta的Muse Spark 1.1。Meta聲稱,這是專為真實世界程式設計與自主代理任務創造的模型。根據報道,該模型入侵一家未具名公司系統,並修改其內部環境。