科大訊飛：僅用1萬(wàn)張910B國(guó)產(chǎn)算力卡躋身大模型研發(fā)第一梯隊(duì)快訊
關(guān)于星火大模型訓(xùn)練和推理成本效率的持續(xù)優(yōu)化也做了大量投入，但仍只有訊飛星火一家是訓(xùn)練和推理均在國(guó)產(chǎn)算力上進(jìn)行的，而訓(xùn)練實(shí)現(xiàn)的難度遠(yuǎn)大于推理。
3月11日消息，日前，有投資者在互動(dòng)平臺(tái)向科大訊飛提問(wèn)：貴公司目前擁有多少?gòu)埶懔ǎ棵鎸?duì)阿里千億級(jí)投資，公司將在算力競(jìng)爭(zhēng)上如何應(yīng)對(duì)？
對(duì)此，科大訊飛表示，過(guò)去幾年在受限的有限算力資源條件下，關(guān)于星火大模型訓(xùn)練和推理成本效率的持續(xù)優(yōu)化也做了大量投入，和直接使用英偉達(dá)卡上開(kāi)展的各種工程優(yōu)化不同，科大訊飛選擇了更難的全國(guó)產(chǎn)算力路線。
據(jù)介紹，大模型對(duì)算力的需求為訓(xùn)練和推理兩個(gè)方面，而訓(xùn)練實(shí)現(xiàn)的難度遠(yuǎn)大于推理。
科大訊飛稱(chēng)，這就是雖然陸續(xù)有公司宣布可以在國(guó)產(chǎn)算力平臺(tái)上提供大模型的推理服務(wù)，但仍只有訊飛星火一家是訓(xùn)練和推理均在國(guó)產(chǎn)算力上進(jìn)行的，并且僅用1萬(wàn)張910B國(guó)產(chǎn)算力卡，科大訊飛用比友商少一個(gè)數(shù)量級(jí)的算力取得了大模型研發(fā)上的第一梯隊(duì)成果。
同時(shí)，科大訊飛還做了大量國(guó)產(chǎn)算力平臺(tái)上的無(wú)人區(qū)的適配和效率優(yōu)化，追求國(guó)產(chǎn)算力的極致效率，這比在英偉達(dá)上的實(shí)現(xiàn)更需要技術(shù)實(shí)力和戰(zhàn)略勇氣。
據(jù)媒體報(bào)道，科大訊飛2月透露了其最新的研發(fā)進(jìn)展：公司正在全力訓(xùn)練的純國(guó)產(chǎn)算力平臺(tái)“星火X1”新版本，預(yù)計(jì)將在未來(lái)三個(gè)月內(nèi)完成。
這一新版本的發(fā)布，預(yù)期就可以實(shí)現(xiàn)數(shù)學(xué)答題和過(guò)程思維鏈能力全面對(duì)標(biāo)甚至超過(guò)OpenAI o1。（拾柒）
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來(lái)源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來(lái)源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為T(mén)MT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
