觀點網訊:據報道,Google旗下Gemini人工智能模型在5月進行網絡安全測試期間,錯誤地入侵了三間公司的系統。這些入侵事件發生在AI資訊安全商Irregular所執行的同一批測試中。

該測試早前也曾引發OpenAI、Anthropic和Meta的入侵事件並遭到披露。Irregular於週五證實,這些入侵事件皆源於同一個問題,且該公司已於7月底向相關的AI開發商披露了這些情況。

Google證實,其中一宗入侵事件發生在Gemini被要求檢索一間虛構公司的資訊時,該虛構公司剛好與一間真實公司同名,該模型猜中了存取該真實公司系統的密碼。Google發言人表示,公司已通知相關當局。

另外兩宗Gemini入侵事件則發生在該模型使用公司名稱進行網路搜尋時。Google資訊安全工程副總裁Heather Adkins指,這導致該模型找到了包含其他公司憑證的公開線上儲存庫,進而利用這些憑證存取了更多系統。她表示,這三宗事件中,模型最終都停止了運作,亦已確保這三間公司知情。

Adkins表示,Gemini的入侵事件“凸顯了訓練強大AI模型以負責任方式行動的重要性”。Irregular發言人Josef Laor則表示,公司已採取即時行動,其所有已知問題均已在數週前得到補救與解決。