螞蟻數科SOFAStack發布全棧AI服務,助力企業用好大模型觀點

伴隨大模型落地從通用技術進步逐步邁向行業可用,螞蟻數科旗下多云PaaS平臺SOFAStack正式發布大模型服務平臺AI Max。
6月28日,伴隨大模型落地從通用技術進步逐步邁向行業可用,螞蟻數科旗下多云PaaS平臺SOFAStack正式發布大模型服務平臺AI Max。該平臺兼容適配主流開源大模型、國產算力,向企業提供進行模型訓練、部署、評估、優化等一站式模型工作臺,并實現可視化研發、管理多種具備行業知識庫的Agent(智能體)應用,助力企業跑完企業AI應用業務落地的最后一公里。
“大模型的高速發展使得AI不得不面臨算力管理復雜、訓練推理成本高、任務調度難等多方面發展瓶頸,云原生憑借其高可用、彈性、可擴展等優勢成為突破AI困境的關鍵。”中國信息通信研究院云大所副所長栗蔚指出,“云原生PaaS平臺的大模型產品工具鏈不斷完善,將加速大模型技術在行業應用中落地。”
“對企業來說,大模型訓練耗時耗力耗資源,AI Max不僅支持主流開源大模型的一鍵微調訓練,還提供三步即完成的零代碼模型開發環境,把原先耗費至少3天的訓練縮短至1小時。螞蟻自研的預訓練模型與先進的多模態算法,僅需小量數據即可進行訓練,進一步提升數據的利用率和模型訓練的效率。”螞蟻數科云原生產品資深總監馬振雄介紹。
據了解,基于SOFAStack多云兼容屬性,AI Max具備兩層核心特性:
在資源層,支持多種國產GPU算力平臺納管部署,企業按需靈活使用資源,使得有限的GPU資源可以高效的被利用起來,同時大大降低服務器使用成本;
在應用層,企業可以根據業務需求快速輸出定制化的AI模型,構建服務業務需求的智能體,極大地簡化了技術實施過程。
當企業開始構建大模型應用,還需要結合具備行業特性的業務經驗。針對金融行業場景,SOFAStack融合金融助理支小助的最佳實踐,包含其模型訓練、推理能力、智能體研發等方面,可以幫助機構一鍵生成自身業務特色的智能體應用。過去9年,SOFAStack助力130家金融機構完成云原生架構轉型。
“在大模型時代,SOFAStack可以承擔PaaS在多云時代扮演的角色——通過構建AI原生軟件服務,成為連接算力與應用的中堅力量。”螞蟻數科云原生事業部總經理王磊表示。
當天,SOFAStack與行云創新、AutoMQ、聯創集團、諧云科技等生態伙伴簽約,將共建多云、多模型生態,加速大模型在各行業落地。
自今年3月份獨立化運營以來,螞蟻數科悄然推進AI toB戰略,SOFAStack、蟻盾等多個代表性產品均發布了大模型相關服務,積極借助AI技術助力產業智能化升級。
1.TMT觀察網遵循行業規范,任何轉載的稿件都會明確標注作者和來源;
2.TMT觀察網的原創文章,請轉載時務必注明文章作者和"來源:TMT觀察網",不尊重原創的行為TMT觀察網或將追究責任;
3.作者投稿可能會經TMT觀察網編輯修改或補充。