Meta AI模型越獄 入侵其他公司系統

Meta AI模型越獄 入侵其他公司系統


科技巨企Meta表示,旗下一款人工智能模型在網路安全測試期間,「越獄」入侵另一家公司系統,引發外界擔憂開發商能否有效管控AI系統。

在此之前,Anthropic和OpenAI也曾發生類似事件。Meta與Anthropic發生的事件皆源於設定錯誤,意外讓AI模型取得公開網際網路存取權限;OpenAI則是在網路安全測試期間,AI代理自行利用一項先前未知的漏洞連上網際網路。

Meta表示,目前正在調查這起事件,公司在聲明中表示,該模型利用第三方服務的安全漏洞,與先前涉及其他公司的案例類似。

科技媒體The Information引述消息人士報道,涉事模型為Meta的Muse Spark 1.1。Meta聲稱,這是專為真實世界程式設計與自主代理任務創造的模型。根據報道,該模型入侵一家未具名公司系統,並修改其內部環境。


作者
全球化計劃NEW

熱血時報全球化計劃

過去數年,熱血時報致力透過新聞報道和評論文章向大眾傳訊。為把真確資訊傳予更多讀者,現時各位讀者可通過課金系統,以金錢支持個別報道或文章。

每週獲得最多課金支持的3篇文章將會翻譯為英文,以讓英文讀者可從熱血時報取得資訊。其他未入三甲的文章將滾存至下週結算。如讀者希望你欣賞的文章可讓更多人閱讀,歡迎課金支持,同時編輯和作者亦可借此計劃得到大家的實質支持,有助我們進一步提升傳訊質素。

※ 熱血時報將抽取其中30%作行政及製作費用
※ 翻譯不適用於小說類作品,但仍然可以支持你喜歡的作者!
課金金額(HK$)
  • 100
  • 250
  • 500
  • 1000
  • 2500
  • 其他
下限為HK$100