OpenAI將組建新團隊：收集公眾意見以確保AI大模型與人類價值觀保持一致快訊
OpenAI宣布將組建一個名為Collective Alignment的新團隊，OpenAI將組建一個名為Collective Alignment的新團隊，用于收集和編碼公眾對于OpenAI模型行為的看法。
【TechWeb】1月17日消息，據外媒報道，OpenAI宣布將組建一個名為Collective Alignment的新團隊，來落實公眾關于如何確保其未來的人工智能（AI）模型與人類價值觀保持一致的想法。
OpenAI是由特斯拉CEO埃隆?馬斯克（Elon Musk）、美國創業孵化器Y Combinator總裁阿爾特曼、全球在線支付平臺PayPal聯合創始人彼得·蒂爾等硅谷科技大亨于2015年聯合創立的一家美國人工智能研究公司，主攻人工智能技術應用領域。
在2022年11月30日推出ChatGPT后，OpenAI獲得了廣泛關注。ChatGPT是一種新型AI聊天機器人工具，可根據用戶的要求快速生成文章、故事、歌詞、散文、笑話，甚至代碼，并回答各類疑問。
在推出僅兩個月后，ChatGPT的月活躍用戶數就達到了1億，成為歷史上增長最快的消費者應用之一。在2023年11月6日舉行的OpenAI首屆開發者大會上，OpenAI CEO薩姆?奧爾特曼（Sam Altman）宣布，ChatGPT的周活躍用戶數已達到1億。
雖然ChatGPT大火，但人們對人工智能產生“深度虛假”內容和錯誤信息的能力表示擔憂。批評者認為，像ChatGPT這樣的人工智能系統可能會因為用于訓練它們的輸入數據而表現出固有的偏見。
為了解決人工智能開發過程中的偏見等問題，OpenAI將組建一個名為Collective Alignment的新團隊，讓公眾參與塑造其人工智能模型的行為，這是其解決監管問題并確保與社會價值觀保持一致的持續努力的一部分。
該團隊由研究人員和工程師組成，旨在開發一個系統，用于收集和編碼公眾對于OpenAI模型行為的看法，并將這些寶貴看法融入到OpenAI的產品和服務中。（小狐貍）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
