順網(wǎng)科技發(fā)布靈悉智能體引擎 可輕松構(gòu)建AI陪伴應(yīng)用快訊
AI應(yīng)用五層范式——從大模型到應(yīng)用，實(shí)現(xiàn)了在從大模型到應(yīng)用的過程中有效地連接算力、模型與應(yīng)用，而智能體引擎將進(jìn)一步縮減大模型到應(yīng)用之間的距離。
【TechWeb】1月23日消息，在近日召開的“躍遷?向未來”順網(wǎng)科技戰(zhàn)略升級(jí)及產(chǎn)品升級(jí)發(fā)布會(huì)上，順網(wǎng)科技CEO樊星博士從實(shí)踐層面提出了大模型應(yīng)用落地的挑戰(zhàn)。大模型落地到應(yīng)用并不是在跑“最后一公里”，它們之間還有很長(zhǎng)一段路要走，而智能體引擎將進(jìn)一步縮減大模型到應(yīng)用之間的距離。據(jù)此順網(wǎng)科技結(jié)合實(shí)際項(xiàng)目經(jīng)驗(yàn)，提出了“AI應(yīng)用的五層范式”，旨在解決AI應(yīng)用落地的難題。而順網(wǎng)創(chuàng)新研發(fā)的靈悉引擎，將在智能體層發(fā)揮連接算力、大模型與應(yīng)用的關(guān)鍵作用，幫助從業(yè)者降低AI的準(zhǔn)入門檻，促進(jìn)高質(zhì)量AI陪伴應(yīng)用的構(gòu)建。
AI應(yīng)用五層范式——從大模型到應(yīng)用，需要智能體引擎
在落地層面，順網(wǎng)科技探索出一條新的道路，即涵蓋“算力層、基座模型層、模型池層、智能體層、應(yīng)用層”的“AI應(yīng)用五層范式”。其中，算力層提供了強(qiáng)大的計(jì)算基礎(chǔ)，支撐著模型的訓(xùn)練和運(yùn)行；基于此，基座模型層利用這些算力構(gòu)建出可適用于多種任務(wù)的通用深度學(xué)習(xí)模型。緊接著，模型池層作為一個(gè)資源庫(kù)，存儲(chǔ)了各種經(jīng)過特定訓(xùn)練或微調(diào)的模型，以備不同的應(yīng)用場(chǎng)景調(diào)用。在此基礎(chǔ)上，智能體層發(fā)揮著至關(guān)重要的作用，它不僅整合了底層的算力和模型資源，還根據(jù)應(yīng)用層的具體需求，智能地選擇和調(diào)度這些資源，確保問題解決的高效性。最終，應(yīng)用層將這一切轉(zhuǎn)化為面向用戶的具體產(chǎn)品和服務(wù)。
在順網(wǎng)科技AI應(yīng)用五層范式中，智能體引擎不僅是技術(shù)到應(yīng)用的轉(zhuǎn)化器，更是連接整個(gè)體系高效運(yùn)作的關(guān)鍵。通過智能體引擎的有效運(yùn)用，大模型的強(qiáng)大能力得以在各種實(shí)際應(yīng)用場(chǎng)景中得到充分發(fā)揮，最終實(shí)現(xiàn)了大模型到應(yīng)用的順利轉(zhuǎn)化。
靈悉引擎——用好算力與模型，輕松打造高質(zhì)量的AI陪伴應(yīng)用
基于五層范式，順網(wǎng)科技研發(fā)了自己的智能體引擎——靈悉引擎（SPICE AGENT ENGINE）。靈悉引擎具備四個(gè)核心系統(tǒng)：智識(shí)中樞、感知與反饋、執(zhí)行體系和陪伴設(shè)定。智識(shí)中樞致力于提供更強(qiáng)的決策規(guī)劃能力和更低的使用門檻；感知與反饋板塊關(guān)注于智能體的環(huán)境感知和用戶交互，增強(qiáng)形象和聲音等多模態(tài)交互的體驗(yàn)；執(zhí)行體系通過任務(wù)補(bǔ)全、鏈接和執(zhí)行來實(shí)現(xiàn)復(fù)雜功能；陪伴設(shè)定則提供了個(gè)性化和快速生成的能力，允許用戶根據(jù)自己的需要?jiǎng)?chuàng)建定制化的智能體，實(shí)現(xiàn)個(gè)性化陪伴。靈悉引擎通過這些組成部分，實(shí)現(xiàn)了在從大模型到應(yīng)用的過程中有效地連接算力、模型與應(yīng)用，幫助從業(yè)者用好算力與模型，輕松打造高質(zhì)量的AI陪伴應(yīng)用。
其中，智識(shí)中樞與陪伴設(shè)定是靈悉引擎的兩大特色模塊。一方面，通過智識(shí)中樞，參數(shù)更小的模型（小于10B）能實(shí)現(xiàn)與大模型（175B）相當(dāng)?shù)娜蝿?wù)規(guī)劃和決策能力。這一點(diǎn)在AI領(lǐng)域具有重大意義。普通的大模型雖然功能強(qiáng)大，但常常伴隨著高昂的計(jì)算成本和算力要求。相反，智識(shí)中樞通過精心優(yōu)化模型結(jié)構(gòu)和算法，達(dá)到了在較低資源消耗下實(shí)現(xiàn)高效決策和任務(wù)規(guī)劃的目標(biāo)，從而大幅降低了成本和準(zhǔn)入門檻；
另一方面，陪伴設(shè)定模塊則提供了更大的靈活性和個(gè)性化選項(xiàng)。這個(gè)模塊允許用戶根據(jù)自己的需求定制智能體，不僅可以依據(jù)極少信息快速生成智能體，還可以進(jìn)行深入的個(gè)性化定制，滿足更復(fù)雜的需求。例如，智能體可基于角色、行為、知識(shí)、屬性和能力進(jìn)行多維度定制，實(shí)現(xiàn)千人千面的個(gè)性化定制效果。
艾卡帕尼評(píng)估體系——評(píng)估智能體陪伴能力
基于在AI陪伴領(lǐng)域深入的探索，順網(wǎng)科技總結(jié)了一套評(píng)估智能體陪伴能力的評(píng)估方法——AI Companion Benchmark即艾卡帕尼評(píng)估體系。其具備對(duì)話能力、角色一致性、角色扮演吸引力、決策能力四大類共17大評(píng)估維度。通過這些綜合性的評(píng)估維度，艾卡帕尼評(píng)估體系能夠全面地衡量智能體的綜合陪伴能力，為AI陪伴應(yīng)用的開發(fā)和優(yōu)化提供了一套標(biāo)準(zhǔn)化的評(píng)價(jià)框架，從而進(jìn)一步推動(dòng)AI陪伴技術(shù)發(fā)展、提高AI陪伴應(yīng)用質(zhì)量。
通過艾卡帕尼評(píng)估體系的評(píng)估，我們觀察到靈悉引擎開發(fā)的智能體在陪伴能力方面已經(jīng)達(dá)到與直接使用大模型封裝的智能體相當(dāng)?shù)乃健２捎么竽Ｐ偷闹悄荏w意味著承擔(dān)更高的運(yùn)營(yíng)成本，而通過靈悉引擎構(gòu)建智能體應(yīng)用，則將顯著改善成本結(jié)構(gòu)，降低AI應(yīng)用開發(fā)準(zhǔn)入門檻。
在當(dāng)前的發(fā)展周期內(nèi)，想要充分、海量地提供AI應(yīng)用服務(wù)，靈悉引擎將充當(dāng)重要角色。它不僅在工程層面上實(shí)現(xiàn)了與大模型相似的陪伴能力，更在實(shí)操層面上為更為廣泛的智能體應(yīng)用提供了可行性，這在未來AI應(yīng)用的大規(guī)模普及和發(fā)展中將發(fā)揮巨大的作用。
如果說2023年標(biāo)志著“大模型”時(shí)代的到來，那么2024年或?qū)⒊蔀椤癆I應(yīng)用”爆發(fā)的開始。在這個(gè)新的階段，模型的價(jià)值將不僅僅體現(xiàn)在其技術(shù)先進(jìn)性上，更在于它們?nèi)绾伪挥行У貞?yīng)用于解決實(shí)際問題和創(chuàng)造價(jià)值。隨著模型層的快速發(fā)展和成熟，未來的AI產(chǎn)業(yè)趨勢(shì)將越來越多地由應(yīng)用層驅(qū)動(dòng)。這意味著，將高端模型技術(shù)轉(zhuǎn)化為具體、實(shí)用的應(yīng)用將成為推動(dòng)行業(yè)發(fā)展的關(guān)鍵。在這個(gè)過程中，像靈悉引擎這樣能夠連接模型與應(yīng)用、同時(shí)優(yōu)化成本效益的解決方案將發(fā)揮至關(guān)重要的作用，引領(lǐng)AI技術(shù)從“模型時(shí)代”向“應(yīng)用時(shí)代”轉(zhuǎn)變！
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
