紅帽企業Linux AI發布 目前已提供開發者預覽版快訊
開源解決方案供應商紅帽公司宣布推出紅帽企業Linux AI(RHEL AI),紅帽企業Linux AI已作為開發者預覽版提供,RHEL AI整合了IBM研究院的開源授權Granite大型語言模型(LLM)系列、基于大規模對話機器人對齊(LAB)方法的InstructLab模型對齊工具。
【TechWeb】5月9日消息,ChatGPT的推出極大地激發了社會對生成式AI的興趣,自那以來,相關創新的步伐不斷加速。企業已從對生成式AI服務的初步評估轉向開發并啟用AI的應用程序。為了真正降低進入AI創新的門檻,企業需要擴大參與AI項目的人員范圍,同時控制相關成本。
日前,開源解決方案供應商紅帽公司宣布推出紅帽企業Linux AI(RHEL AI)。這是一個基礎模型平臺,能夠使用戶更加便捷地開發、測試和部署生成式人工智能(GenAI)模型。
RHEL AI整合了IBM研究院的開源授權Granite大型語言模型(LLM)系列、基于大規模對話機器人對齊(LAB)方法的InstructLab模型對齊工具,以及通過InstructLab項目實施的社區驅動模型開發方法。
該解決方案被封裝成一個優化的、可啟動的RHEL鏡像,用于在混合云環境中部署單個服務器,并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機器學習運營(MLOps)平臺,能夠在分布式集群環境中大規模運行模型和InstructLab。
InstructLab是一個圍繞LAB方法和IBM開源Granite模型構建的開源社區。InstructLab項目的目標是使開發者通過簡化LLM的創建、構建和貢獻過程,像參與任何其他開源項目一樣,將LLM開發的權力交到開發者手中。
具體來看,RHEL AI包括:
1.紅帽支持和保障的開源許可Granite語言和代碼模型;
2.提供支持并具有生命周期管理的InstructLab分發版本,這是一種可擴展且成本效益高的解決方案,能夠增強大型語言模型(LLM)的功能,并使知識與技能的貢獻得到更廣泛的用戶接納。
3.通過RHEL鏡像方式提供的優化可啟動模型運行實例,包括Granite模型和InstructLab工具包,及優化的Pytorch運行時庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。
4.紅帽提供的完整企業支持和生命周期保證,從可信的企業產品分發開始,提供24小時全天候生產支持和擴展的生命周期支持。
紅帽高級副總裁兼首席產品官Ashesh Badani表示,對企業來說,生成式AI(GenAI)代表了一次革命性的飛躍,但這需要企業真正部署起來,并針對其具體業務需求使用AI模型。通過結合紅帽OpenShift AI的廣泛應用,RHEL AI和InstructLab項目旨在降低混合云中生成式AI所面臨的多種挑戰,從數據科學技能的限制到巨大的資源需求,同時促進企業的部署并推動上游社區的創新?!?/p>
據悉,紅帽OpenShift AI最新版本提供了:邊緣模型服務、增強型模型服務、采用Ray支持分布式工作負載、改進模型開發、模型監控和可視化以及新的加速器配置文件。
目前,紅帽企業Linux AI已作為開發者預覽版提供。在IBM云上已建立的GPU基礎設施用于訓練Granite模型并支持InstructLab,現IBM云將增加對RHEL AI和OpenShift AI的支持。此整合將使企業能夠更輕松地將生成式AI部署至其關鍵任務應用程序中。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。