TMT观察网_独特视角观察TMT行业

2024年5月8日 – 世界領先的開源解決方案供應商紅帽公司日前宣布推出紅帽企業Linux AI（RHEL AI）。這是一個基礎模型平臺，能夠使用戶更加便捷地開發、測試和部署生成式人工智能（GenAI）模型。RHEL AI整合了IBM研究院的開源授權Granite大型語言模型（LLM）系列、基于大規模對話機器人對齊（LAB）方法的InstructLab模型對齊工具，以及通過InstructLab項目實施的社區驅動模型開發方法。該解決方案被封裝成一個優化的、可啟動的RHEL鏡像，用于在混合云環境中部署單個服務器，并已集成到OpenShift AI中。OpenShift AI是紅帽的混合機器學習運營（MLOps）平臺，能夠在分布式集群環境中大規模運行模型和InstructLab。

ChatGPT的推出極大地激發了社會對生成式AI的興趣，自那以來，相關創新的步伐不斷加速。企業已從對生成式AI服務的初步評估轉向開發并啟用AI的應用程序。一個快速成長的開放模型生態系統進一步促進了AI的創新，并說明了不會有一個獨占鰲頭的模型。客戶將受益于多樣化的選擇，從而滿足其特定需求，這一過程還將通過開放創新的方式得到加速推進。

實施AI策略遠不止選擇一個模型那么簡單。企業需要專業知識來為特定場景調整適當的模型，并且還必須處理AI實施過程中的顯著成本難題。數據科學技能的稀缺性，加之以下幾個方面的財務需求，使得情況更為復雜：

• 購置AI基礎設施或使用AI服務

• 針對特定商業需求調整AI模型的復雜流程

• 將AI融入企業應用

• 管理應用程序及其模型的生命周期

為了真正降低進入AI創新的門檻，企業需要擴大參與AI項目的人員范圍，同時控制相關成本。通過使用InstructLab對齊工具、Granite模型和RHEL AI，紅帽致力于將自由獲取、重復利用、透明開放以及鼓勵貢獻等開源項目的優勢應用于生成式AI。

通過InstructLab在開放環境中構建AI

IBM研究院開發了大規模對話機器人對齊（LAB）技術，這是一種利用分類指導合成數據生成和創新的多階段調整框架的模型對齊方法。此方法通過減少對昂貴人工注釋和專有模型的依賴，使AI模型的開發變得更加開放和易于接觸。采用LAB方法，可以通過指定分類下的技能和知識，大規模生成影響模型的合成數據，并利用這些數據訓練模型。

在意識到LAB方法能顯著提升模型性能后，IBM和紅帽決定推出InstructLab，這是一個圍繞LAB方法和IBM開源Granite模型構建的開源社區。InstructLab項目的目標是使開發者通過簡化LLM的創建、構建和貢獻過程，像參與任何其他開源項目一樣，將LLM開發的權力交到開發者手中。

在InstructLab的啟動過程中，IBM還公開發布了一系列精選的Granite英語和編程模型。這些模型在Apache許可證下發布，確保了對訓練模型所用數據集的透明度。Granite 7B英語模型已整合到InstructLab社區，最終用戶可以像對其他任何開源項目那樣，共同貢獻技能和知識，從而提升該模型。對于Granite編程模型，InstructLab將很快提供類似的支持。

在可信賴的Linux基礎上進行開源AI創新

RHEL AI沿用這種開放式AI創新方法，融合了企業級就緒的InstructLab項目和Granite語言與代碼模型，及全球領先的企業級Linux平臺，簡化了混合基礎設施環境中的部署。這樣構建了一個基礎模型平臺，使開源許可的生成式AI模型能夠被企業所使用。RHEL AI包括：

• 紅帽支持和保障的開源許可Granite語言和代碼模型。

• 提供支持并具有生命周期管理的InstructLab分發版本，這是一種可擴展且成本效益高的解決方案，能夠增強大型語言模型（LLM）的功能，并使知識與技能的貢獻得到更廣泛的用戶接納。

• 通過RHEL鏡像方式提供的優化可啟動模型運行實例，包括Granite模型和InstructLab工具包，及優化的Pytorch運行時庫和針對AMD Instinct? MI300X、Intel和NVIDIA GPU以及NeMo框架的加速器。

• 紅帽提供的完整企業支持和生命周期保證，從可信的企業產品分發開始，提供24小時全天候生產支持和擴展的生命周期支持。

隨著各組織在RHEL AI上試驗和調整新AI模型，他們可以通過紅帽OpenShift AI來擴展這些工作流，OpenShift AI將包含RHEL AI，并利用OpenShift的Kubernetes引擎在大規模訓練和部署AI模型，以及OpenShift AI的集成MLOps能力來管理模型的生命周期。IBM的watsonx.ai企業工作室建立在紅帽OpenShift AI上，RHEL AI一旦在OpenShift AI中可用，將帶來額外的企業AI開發、數據管理、模型治理和性價比改進的能力。

云是混合的，AI亦如此

過去三十多年，開源技術不僅推動了快速創新，還大幅降低了IT成本并降低了創新門檻。從21世紀初通過RHEL提供開放式企業Linux平臺，到通過紅帽OpenShift推動容器和Kubernetes成為開放式混合云和云原生計算的基礎，紅帽幾乎一直引領著這一潮流。

紅帽在開放混合云中賦能人工智能/機器學習戰略，支持人工智能工作負載在數據所在的地方運行，無論是在數據中心、多個公有云或邊緣。除了支持工作負載外，紅帽的人工智能愿景還將模型訓練和調整引向同一方向，以更好地應對數據主權、合規和操作完整性等方面的限制。紅帽的平臺為這些工作負載提供跨環境的一致性，無論它們在何處運行，這對于順利推進人工智能創新至關重要。

RHEL AI和InstructLab社區進一步落實了這一愿景，消除了試驗和構建AI模型的多個障礙，提供了推動下一代智能工作負載所需的工具、數據和概念。

上市時間

紅帽企業Linux AI目前已作為開發者預覽版提供。在IBM云上已建立的GPU基礎設施用于訓練Granite模型并支持InstructLab，現IBM云將增加對RHEL AI和OpenShift AI的支持。此整合將使企業能夠更輕松地將生成式AI部署至其關鍵任務應用程序中。

支持證言

Ashesh Badani，紅帽高級副總裁兼首席產品官

“對企業來說，生成式AI（GenAI）代表了一次革命性的飛躍，但這需要企業真正部署起來，并針對其具體業務需求使用AI模型。通過結合紅帽OpenShift AI的廣泛應用，RHEL AI和InstructLab項目旨在降低混合云中生成式AI所面臨的多種挑戰，從數據科學技能的限制到巨大的資源需求，同時促進企業的部署并推動上游社區的創新。”

Ramine Roane，AMD公司AI部門副總裁

“AI是過去五十年中技術最重要的變革之一。為了促進AI更廣泛的采用，構建AI應用的模型和工具需要對企業可達。RHEL AI基于可信賴的Linux基礎，配備開源工具和模型，是支持此類需求的平臺之一，我們很高興支持紅帽利用我們的AMD技術推動企業AI的進步。”

Jeremy Foster，思科網絡-計算部門高級副總裁兼總經理

“AI運動是企業的一次巨大變革，許多組織正在探索最佳前進路徑。思科持續與紅帽緊密合作，推進AI的采用，RHEL AI將通過提供開源啟用的大型語言模型（LLM），作為企業就緒的Linux平臺的一部分來加速創新。”

Gil Shneorson，戴爾解決方案平臺高級副總裁

“戴爾一直在提供可靠和一致的基礎設施生命周期管理方面處于先驅地位；我們認為，隨著系統的持續演化，為企業IT操作提供持續的、可靠和安全的系統更新至關重要。使組織能夠擴展代碼更新并減少部署時間的新技術，將是保持創新進程的關鍵。”

Frances Guida，惠普企業計算解決方案和AI總監

“HPE與紅帽合作了二十年，提供結合了HPE計算平臺和RHEL的行業領先解決方案。在快速增長的技術領域如生成式AI中，開放環境對創新至關重要，我們期待與RHEL AI和紅帽探索新的合作領域，助力惠普客戶取得成功。”

Darío Gil，IBM高級副總裁兼研究總監

“真正的開源創新引入AI模型開發，并利用廣闊的社區力量，將改變企業對AI采用和擴展計劃的思考方式。IBM一直支持開源社區，支持了Linux、Apache和Eclipse等有影響力的社區，我們與紅帽的合作是我們致力于構建安全、負責任且高效AI的開放方式的一大步。RHEL AI和InstructLab，結合IBM的開源Granite模型家族，將為那些尋求為其特定用途構建模型的客戶提供新的價值和選擇。”

Hillery Hunter，IBM基礎設施創新首席技術官兼總經理

“許多企業都在努力將AI融入其關鍵任務應用程序。RHEL AI和OpenShift AI在IBM云上的可用性將徹底改變社區和公司構建及利用生成式AI的方式。我們正在促進開放合作，簡化模型定制，并為將AI整合到每個應用程序中提供企業級支持的模型和工具。”

Justin Hotard，英特爾數據中心及AI集團執行副總裁兼總經理

“AI的廣泛采用需要完全開源，社區成員應該貢獻并創造新的應用和使用案例。通過整合開源的Granite模型和InstructLab項目，RHEL AI正為我們與生產中的AI模型的互動方式、調整和最終使用中帶來重大變革。”

Kirk Skaugen，聯想ISG總裁

“部署AI驅動應用的客戶需要能在一個可信、熟悉但仍具創新性的平臺上測試和實驗潛在模型。聯想認為AI的未來是混合式的，我們視RHEL AI為廣泛混合AI創新的關鍵途徑，并通過紅帽OpenShift AI實現生產規模化。我們很高興與紅帽合作，在我們的ThinkSystem 8-GPU服務器上進行聯合測試，推動混合AI創新。”

Justin Boitano，NVIDIA企業產品副總裁

“紅帽和NVIDIA長期以來一直保持緊密合作，紅帽企業Linux AI展示了我們共同致力于為開發者和研究者提供全面的計算和軟件解決方案，幫助他們構建下一波AI技術和應用。”