OpenAI新模型為何頻頻延期發(fā)布?智譜AI CEO張鵬如此推測(cè)快訊
你會(huì)發(fā)現(xiàn)其實(shí)這里邊維度已經(jīng)非常多,其實(shí)這就是當(dāng)時(shí)我們認(rèn)為去滿足Scaling law,智譜AI CEO張鵬表示。
新浪科技訊 6月14日下午消息,今日舉辦的2024智源大會(huì)上,百川智能CEO王小川、智譜AI CEO張鵬、月之暗面CEO楊植麟、面壁智能聯(lián)合創(chuàng)始人、CEO李大海共同出席《尖峰對(duì)話:通往AGI之路》環(huán)節(jié)。
對(duì)話中,在談及OpenAI新模型GPT-4.5、GPT-5.0傳了多次也沒(méi)發(fā)布,是否意味著Scaling Law已經(jīng)出現(xiàn)邊界效應(yīng)時(shí),智譜AI CEO張鵬表示,這里面可能的因素會(huì)非常多,人工智能技術(shù)的發(fā)展,不是簡(jiǎn)單的追求參數(shù)量上去就行的。
“就拿我們自己來(lái)說(shuō)這個(gè)事情的話,其實(shí)我們自己也在選擇一個(gè)道路,不斷地去遵循ScalingLaw往前前進(jìn)。”張鵬表示,他結(jié)合自己最開(kāi)始做悟道時(shí)的情況表示,當(dāng)時(shí)也考慮是去做稠密的單體模型,還是去做一個(gè)MOE的稀疏多體模型,其實(shí)這就是當(dāng)時(shí)我們認(rèn)為去滿足Scaling law,或者去追尋Scaling law的不同路徑。但發(fā)展到今天這個(gè)地步的時(shí)候,你會(huì)發(fā)現(xiàn)其實(shí)這里邊維度已經(jīng)非常多,你可以在很多方面去做這樣的一個(gè)事情。
“你會(huì)發(fā)現(xiàn)其實(shí)這個(gè)難度、復(fù)雜度又上升了,不是簡(jiǎn)單的說(shuō)追求參數(shù)量上去就行的,所以我理解想要實(shí)現(xiàn)比如說(shuō)GPT-5.0或者再下一代的模型,這里邊技術(shù)的可能性、探索的內(nèi)容還是非常多的。”張鵬表示。(文猛)
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來(lái)源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來(lái)源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為T(mén)MT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。