快科技8月14日消息,近日,在2024華為數據存儲用戶精英論壇上,“AI-Ready的數據基礎設施”分論壇成功舉行。
為促進AI大模型健康發展,華為推出了全新的OceanStor A800 AI存儲。
華為表示,該存儲采用數控分離架構,提供10TB級帶寬和億級IOPS,滿足混合負載的高性能要求,有效提升集群可用度。通過ModelEngine加速數據預處理,顯著提高AI訓練全流程效率。
它在推理場景中支持RAG向量數據庫,并通過KVCache技術賦予AI大模型記憶能力,以查代算,全面提升推理體驗和準確度。
華為數據存儲產品線閃存存儲領域副總裁嚴浩指出,隨著AI技術的迅速發展,大模型已從單模態演進到多模態,并在推理應用中得到廣泛使用。
然而,在AI基礎設施的部署與應用中,企業面臨集群可用度低、推理體驗不佳、數據管理難度大、全棧部署復雜等挑戰。華為全新OceanStor A800 AI存儲提供了全新解決方案。
【本文結束】如需轉載請務必注明出處:快科技
責任編輯:隨心
新浪科技公眾號
“掌”握科技鮮聞 (微信搜索techsina或掃描左側二維碼關注)