瀾舟科技周明：大模型ToB應用落地“九字訣”快訊
在瀾舟科技大模型技術和產品發布會上，針對大模型的行業落地適配問題，瀾舟科技創始人&CEO周明博士發表了《大模型技術和應用雙輪驅動加速創新》主題演講。
【TechWeb】3月18日消息，在瀾舟科技大模型技術和產品發布會上，瀾舟科技創始人&CEO周明博士發表了《大模型技術和應用雙輪驅動加速創新》主題演講。他回顧了瀾舟科技的發展歷程，總結出大模型創業在企業級客戶中落地的“九字訣”，并展望了瀾舟科技未來的發展方向。
瀾舟科技創始人&CEO周明博士
瀾舟科技于2021年6月正式成立， 致力于自主研發大模型技術和行業應用，在去年3月發布了孟子GPT V1（MChat）大模型，今年1月孟子大模型GPT V2（含孟子大模型-標準、孟子大模型-輕量、孟子大模型-金融、孟子大模型-編碼）對公眾開放。
公開資料顯示，瀾舟科技創始人&CEO周明是世界頂級的AI科學家，自然語言處理領域的代表性人物。曾任微軟亞洲研究院副院長、國際計算語言學協會（ACL）主席。現任中國計算機學會副理事長、中國中文信息學會常務理事。
2024年是大模型落地元年
周明回顧了過去一年來大模型在六個領域的迅速發展：
? 大模型的能力得到快速提升：在更長的上下文處理能力、數學能力和推理能力、安全對齊等方面得到大幅度增強。
? RAG（檢索增強生成）：通過結合搜索相關數據庫的結果與用戶指令進行生成，可有效改善模型幻象、實時性、數據安全等問題。
? GPTs：用戶基于大模型的超強能力方便地搭建自定義的GPT。
? 多模態大模型：SORA突破了4秒鐘限制，可以生成60秒的視頻，而且生成的視頻質量大幅度提升。
? 大模型原生應用方面略現端倪：譬如，利用大模型構建AI搜索、角色扮演聊天、數字人等。
? 大模型開源：LLaMA等開源模型有力地推動大模型的普及和發展，也顯著地改變了大模型的競爭格局。
周明強調2024年將是大模型落地元年，如何利用大模型技術助力企業成長已成為業界關注的焦點。政府工作報告新鮮出爐，特別強調以人工智能+，驅動各行各業的轉型升級。周明認為要把握好這個歷史契機，通過落地，創造價值，拉動創新。
周明強調，瀾舟科技注重“技術創新和落地應用”雙輪驅動。在積極研究和掌握前沿技術的同時，公司也致力于確保這些技術的有效應用。
大模型落地九字法則
而談及如何做好大模型落地應用，周明表示，雷軍所說的互聯網的七字法則“專注、極致、口碑和快”仍然適用，還要再加上“成本”，大模型創業不能不在意成本，一定要有造血的能力，形成大模型落地九字法則：“專注、極致、口碑、快、成本”。
周明稱，這“九字訣”融會貫通在瀾舟的一切行動之中：
首先，瀾舟科技定位非常清楚，就是做大模型技術+企業場景應用的一個綜合公司。
企業定位做2B、做技術和服務，需要明白克服什么挑戰，不能盲目地天天練大模型，發布了、開源了就可以了，不是這樣的。
通過過去兩年多的積攢調研客戶，瀾舟科技發現了四大問題，如果解決不好，大模型基本上就是泡影。
這四大問題：一是訓練和部署的成本問題。動輒上千萬的模型銷售，用戶是不能接受的；二是行業的適配，很多人說大模型做出來之后千行百業隨便用，肯定好使，沒有這種好事；三是幻象問題，很多大模型生成的解決內行人看起來像外行，外行的人看起來像內行，這樣似是而非的東西企業不敢用；四是數據安全的問題，企業的數據不愿意拿出來，怎么樣解決企業的擔心。
針對大模型訓練和部署的成本高的問題，瀾舟科技專注把ToB場景使用最多的LLM模型（參數量7B、13B、40B最高到100B）做到最佳并大幅度提升大模型的推理效率。
針對大模型的行業落地適配問題，瀾舟科技提出了L1-L2-L3-L4的層次化分級服務體系， 基于L1-通用大模型，在此基礎上加入行業數據訓練出L2-行業/垂直大模型，如金融、編程大模型。
針對大模型的幻象問題和用戶數據安全問題，孟子大模型提出了改進的RAG能力。通過孟子大模型理解用戶意圖，可分別經過大模型自身，或者通過RAG查找用戶知識庫，甚至通過Web搜索，最后多路召回搜索結果，經過排序輸出最可信結果。
目前，瀾舟科技已經形成了從預訓練，到SFT，到強化學習，安全，降低幻覺的完備的孟子大模型訓練體系，并提出了“一橫N縱”的發展體系。
其中“一橫”即為孟子大模型技術，而“N縱”是基于孟子大模型的面向ToB應用最重要的技術和產品。“N縱”的應用能力型產品，包括AI文檔理解、文檔問答、文檔輔助寫作、機器翻譯、瀾舟智會、AI搜索等。
希望通過“一橫N縱”，徹底貫徹大模型落地九字法則：專注、極致、口碑、快、成本。
周明強調，瀾舟一方面聚焦自己擅長的能力和場景，另外一方面會注重與開源社區、與客戶和合作伙伴攜手共進，共同拓展更廣闊的市場空間，實現互惠共贏的局面。
據悉，瀾舟科技已經攜手客戶及合作伙伴，如傳神、數說故事、華為云、華夏基金、同花順、中金公司等，共同開展深入合作。（宜月）
1.TMT觀察網遵循行業規范，任何轉載的稿件都會明確標注作者和來源；
2.TMT觀察網的原創文章，請轉載時務必注明文章作者和"來源：TMT觀察網"，不尊重原創的行為TMT觀察網或將追究責任；
3.作者投稿可能會經TMT觀察網編輯修改或補充。
