OpenAI將組建新團隊 以評估和減輕與人工智能相關的災難性風險快訊
美國人工智能研究公司OpenAI宣布，簽約的專家將通過協助評估和減輕模型風險，減輕人工智能帶來的滅絕性風險應成為全球優先事項。
【TechWeb】10月27日消息，據外媒報道，當地時間周四，美國人工智能研究公司OpenAI宣布，它將組建一個名為Preparedness的新團隊，以評估和減輕與人工智能（AI）相關的“災難性風險”。
OpenAI表示，該團隊將由麻省理工學院可部署機器學習中心主任亞歷山大·馬德里（Aleksander Madry）領導，將幫助跟蹤、評估、預測和防范由人工智能造成的多個類別的災難性風險。
該公司還表示，該團隊還將負責制定和維護風險知情發展政策（RDP）。RDP旨在補充和擴展該公司現有的風險緩解工作，有助于在部署前和部署后確保新的高性能系統的安全性和一致性。
OpenAI是由特斯拉CEO埃隆?馬斯克（Elon Musk）、美國創業孵化器Y Combinator總裁阿爾特曼、全球在線支付平臺PayPal聯合創始人彼得·蒂爾等硅谷科技大亨于2015年聯合創立的一家美國人工智能研究公司，主攻人工智能技術應用領域。
該公司CEO薩姆?奧爾特曼（Sam Altman）是一位著名的人工智能末日預言家，他經常擔心人工智能“可能導致人類滅絕”。
據外媒報道，奧爾特曼曾警告過人工智能可能引發災難性事件。今年5月，他和其他著名的人工智能研究人員發表了一份聲明，稱“減輕人工智能帶來的滅絕性風險應成為全球優先事項”。
今年9月份，OpenAI宣布推出“紅隊網絡”（Red Teaming Network），并邀請各領域專家加入其“紅隊網絡”，以提高其人工智能模型的安全性。簽約的專家將通過協助評估和減輕模型風險，在增強OpenAI人工智能系統的穩健性方面發揮關鍵作用。（小狐貍）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
