觀點網訊:9月24日,據The Information報道,谷歌、OpenAI和Anthropic的人工智能安全組織正逐步成形,三方正推進成立一家由行業主導的人工智能安全標準機構。
該機構暫定名為“前沿人工智能標準局”(Standards Authority for Frontier AI)。
該機構計劃獨立運作,填補政府監管空白,在沒有政府直接監督的情況下獨立運作。
該機構計劃為前沿AI模型制定自願性的安全和安全保障標準,支持第三方在模型部署前開展測試,規範AI公司報告安全事件的方式,並設定獨立審計機構的資質標準。三家公司還在討論是否由該機構直接開展模型安全和能力測試。
該計劃此前曾考慮採用政府參與的公私合作模式,但相關推進停滯,目前轉向行業自律。機構目標是在2026年底或2027年初啓動。
據The Information報道,該機構未來還將決定哪些模型達到“前沿模型”門檻並納入其標準體系。
據The Information報道,該AI安全組織曾接洽斯里拉姆·克里希南,邀請其擔任首席執行官。
