觀點網訊：21日，聯合國“人工智能獨立國際科學小組”發表專題簡報，評估美國開放人工智能研究中心（OpenAI）的人工智能體今年7月在測試中“越界”，侵入美國“抱抱臉”公司系統的事件。

7月下旬，OpenAI承認，其網絡安全訓練與評估場景中的人工智能體繞過網絡限制，侵入“抱抱臉”公司的部分系統。

簡報說，AI系統能力提升固然可幫助用戶實現目標，但當AI的目標和用戶意圖發生“對齊失效”時，就可能產生危害。

簡報稱，更強的能力讓AI更容易找到意外的漏洞、突破安全防護屏障，並在人類監督下隱藏自身行為；一旦智能體之間開展規劃與協同，造成的損害還會進一步放大。