將AI帶入企業 紅帽選擇了“開源”和“混合”快訊
現在我覺得AI應用本身場景的問題,還需解決構建AI基礎架構、保證協作效率、進行模型調優、開發AI應用、促進模型與應用間的高效交互等問題,4.AI本身的應用場景的問題。
【TechWeb】6月20日消息,在言必談AI的當下,如何把握AI發展機遇?在2024紅帽媒體Open講話活動上,紅帽全球副總裁兼大中華區總裁曹衡康對外闡述了紅帽在生成式AI與大模型領域的最新理念和舉措。
在解讀紅帽在AI發展路線上的看法時,曹衡康著重強調了兩點:AI必須是開源的,AI應該在混合云上做。
曹衡康解釋稱,開源閉源之間并沒有對錯之分,但在封閉體系下,生態的壟斷和安全隱患已初具端倪。相較之下,開源由于受到整個開源社區的監督,能夠更好地應對安全問題。同時,開源能夠降低企業擁有核心技術的門檻,讓開發者參與到模型貢獻當中,提升效率和性能。
“未來,AI既會有開源,也會有閉源,但紅帽絕對是開源的。”曹衡康說到,“開源精神是紅帽文化的核心,也是紅帽在AI領域取得成功的關鍵。”
關于混合云,曹衡康提到,AI從開發到運行都并非僅能在云上操作,筆記本甚至智能手機都可以實現建模開發。因此,AI應該拿到混合云上來操作。
這主要有三方面原因:一是能夠最大化利用資源;二是可以提升效率;三則是安全問題,因為很多的模型可能很多企業是本身自己企業內部用的,假如放到“云”上面會有一些安全問題。
紅帽大中華區解決方案架構部高級總監王慧慧進一步補充稱,將混合模式落到AI項目上其實并不難理解。比如某企業建模時可在數據中心搭建,培訓時可在公有云上訓練,推理時甚至可以在公司產線上的某一臺風控設備上進行。而企業若要“單打獨斗”實現這些操作,還需解決構建AI基礎架構、保證協作效率、進行模型調優、開發AI應用、促進模型與應用間的高效交互等問題。
如何以開源的方式將AI帶入企業?紅帽此前已經宣布了一系列與AI相關的創新,包括RHEL AI、OpenShift AI和Lightspeed等,并與NVIDIA等合作伙伴在混合云和AI領域展開合作。
曹衡康表示,紅帽不做硬件,不做應用,而是在兩者之間提供領先的AI平臺,幫助企業安全高效地部署和管理AI模型、應用;構建AI基礎設施層,為企業提供安全的可擴展基礎設施和自動化。
對于在中國的發展策略,曹衡康表示,紅帽將配合國家戰略,加速企業智能制造升級,同時賦能與融合國內AI生態,加速AI在全行業的應用。
以下為與曹衡康、王慧慧、紅帽大中華區市場總監趙文斌的部分對話實錄:
問:混合AI是一個什么樣的概念?
曹衡康:從開發來講,開發就不需要一定在“云”上開發、我可以在筆記本建模、開發。運行的時候可以在“云上、云下”,在我“私有云”、筆記本、甚至是手機上都可以運行,就是從“建模”跟“運行”都是一樣。還有就是混合模式,找出最適合的計算方式。可能我在計算的時候,只要前提是數據、客戶愿不愿意把數據放在公有云上面。當我在整個運行當中找出一個最優化的方式計算,因為GPU不夠、又耗電,我就找出最優化的方式把這個東西、這個應用整個執行出來。
王慧慧:它既可以被部署在公有云上、也可以私有云上,也可以一個私有化的數據中心或者某個設備上都可以。舉一個比較簡單的例子:同樣一個AI項目或者AI應用,建模的時候可以在數據中心里面建,訓練的時候可以在公有云上訓練,最后做推理的時候可以在產線上的某一臺工控設備上面去做推理,同樣的一套AI。也就是說,這個AI項目本身的不同階段可以用不同的環境。
為什么這樣做?因為我們支持的就是一個混合環境,只不過你每一次在使用的時候你覺得你的資源在哪邊,你用什么方面覺得是安全的。你不希望你推理時候個人數據去公有云上,那你就放在自己的數據中心去做、都可以。
問:為什么我們現在談AI、大模型,大家都在關注GPU、不關注其它層面,根本原因是什么?
曹衡康:其實算力講“白”了、做的事情本身是最簡單的,比如最核心的運算可能就是矩陣乘。現在的大模型訓練本質上做的是一個大力出奇跡的事情,是需要大量的快速的做這些矩陣乘的運算,GPU資源可能就成為瓶頸。
問:大家都相信“大力出奇跡”,覺得基礎設施到位了,可能就能產生一些應用。但現實是,大家可能對于AI做事并沒有太大的信心、做什么也沒有看到。
曹衡康:目前AI的發展還比較早期,可能首先要解決有無問題,因此我們看到在GPU,AI Infrastructure等方面,大家比較關注,順便提一句,紅帽是能夠幫助您快速構建AI Infrastructure軟件的一家公司。 在AI的應用和如何變現方面,整個行業都還需要探索,大模型本身目前還有一些問題,比如幻覺,所以對于AI做事,既要有信心,同時也應看到技術發展目前的局限性。
趙文斌:大家都看“算力、平臺、模型”。現在開源的模型很多、開發平臺相對來講也有一些開源或者一些選擇,只是短期的一個焦點問題就是算力、因為相對緊張。這是一個現實的問題,所以關注度高。但是這是一個發展階段的初級階段的問題。“大力出奇跡”沒問題,大模型是不是可以針對行業企業有小模型,用更小的算力就可以解決你的生產和應用的問題。其實市場的解決方法很多,只是因為大家對這個市場還是早期、還沒有看清楚,短期突出的是算力緊張的問題。我覺得隨著大家的研究更深入或者更多的工具、更多廠商的這些方案更清楚,我覺得這個問題相對會被平滑地過渡過去。只是這樣的一個過程。
王慧慧:我們如果看AI這件事的話,AI其實存在很久了。最近這么火是因為生成式AI、大模型把它炒熱的,實際上企業AI落地的應用去年、前年都有了。在我看來AI至少有四個方面的問題是值得所有從業者、媒體朋友們一起討論的:
1.基礎架構。就是所謂的算力平臺,GPU的問題。
2.算法和模型的問題。我們其實并沒有人很多地去探討“算法”和“模型”,可能是因為這個很難被廣大的聽眾們和觀眾們能夠理解。比方說我們今天說:Lab是個算法,很難去解釋這個事情。
3.數據。數據其實因為考慮到合規的問題,每個國家、每個地方都有數據合規的問題,以及數據隱私的問題,其實這也是AI相關的領域。
4.AI本身的應用場景的問題。現在我覺得AI應用本身場景的問題,每一個企業都在摸索中。我們現在看到大量的生成式AI,就是ChatGPT給我們沖擊太大了。國內也有很多大語言模型,例如:文心一言什么的,你問它個問題、它就回答了。但是這些不是企業級的AI應用,企業級的AI應用才是真正的為企業創造生產力的一個內容。什么樣的企業級的AI應用真的能夠做到新質生產力呢?就是用更少的投入得到更多的產出,這個其實是一個更值得探討的問題,而且我們中國這么多的企業、這么多的不同的各行各業的企業,我是很堅信企業級的AI應用在中國一定會發展得特別迅速,只是現在大家好像還沒有開始探討這件事。(周小白)
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。