馬斯克AI大模型Grok開源：參數量達3140億快訊
導讀
馬斯克的AI創企xAI正式宣布其大語言模型Grok-1已實現開源，Grok-1始終由xAI自行訓練，xAI的目的之一就是與OpenAI、谷歌、微軟等對手在大模型領域進行競爭。
3月18日消息，據媒體報道，馬斯克的AI創企xAI正式宣布其大語言模型Grok-1已實現開源，并向公眾開放下載。
據了解，Grok-1是一款基于混合專家系統（Mixture-of-Experts，MoE）技術構建的大語言模型，擁有3140億參數，遠超OpenAI GPT-3.5的1750億。這是迄今參數量最大的開源大語言模型，遵照Apache 2.0協議開放模型權重和架構。
xAI表示，Grok-1始終由xAI自行訓練，其預訓練階段于2023年10月完成。此次發布的是Grok-1預訓練階段結束時的原始基礎模型檢查點，即該模型未經過針對任何具體應用的微調。
xAI的目的之一就是與OpenAI、谷歌、微軟等對手在大模型領域進行競爭，其團隊來自OpenAI、谷歌DeepMind、谷歌研究院、微軟研究院等諸多知名企業和研究機構。
目前，xAI并沒有放出Grok-1的具體測試成績，它與其他公司的大模型之戰將成為業內關注的焦點。
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
