100%穩定!摩爾線程GPU千卡集群適配滴普科技大模型訓練、推理

100%穩定!摩爾線程GPU千卡集群適配滴普科技大模型訓練、推理
2024年05月29日 10:52 快科技

快科技5月29日消息,摩爾線程與國內領先的數據智能服務商滴普科技共同宣布,摩爾線程“夸娥”(KUAE)千卡智算集群與滴普企業大模型Deepexi v1.0已完成訓練、推理適配,獲得產品兼容互認證明。

基于摩爾線程夸娥千卡智算集群,滴普科技成功完成了LLaMA2 700億參數大語言模型的預訓練測試。

訓練時長共計77小時,全程無故障連續運行,集群訓練穩定性達到100%,訓練效率和兼容性均達到預期。

有趣的是,兼容互認證明的發證時間是2023年9月28日,也就是相關適配工作早就完成了,如今才公開。

北京滴普科技有限公司成立于2018年,定位于數據智能服務商,為客戶提供數據智能基礎設施、企業大模型產品,以及數據智能創新服務。

目前,滴普科技已與中國海誠、中核裝備院、百麗時尚等企業開展產業落地實踐,成為產業大模型落地的領先企業。

滴普科技的Deepexi企業大模型,在語義、視覺、語音、跨模態等方面表現優越,可運用模型工具鏈,為企業提供高質量的數據準備、模型訓練、調優、部署及推理服務,快速構建不同領域的模型、智能體應用。

摩爾線程夸娥方案是業內首個跑通、跑完國產大模型的千卡集群,基于全功能MTTS4000GPU,提供軟硬一體化的全棧解決方案,具備模型覆蓋、推理加速、CUDA兼容、斷點續訓、分布式訓練、集群可靠性等8大核心能力。

在此之前,摩爾線程已經第一家接入無問芯穹,夸娥千卡集群先后適配無穹Infini-AI大模型開發與服務平臺、完成LLama2 700億參數大模型訓練測試、完成MT-infini-3B 3B(30億參數)規模大模型實訓。

憨猴集團也基于摩爾線程的夸娥千卡智算集群,成功完成了7B、34B、70B不同參數量級的大模型分布式訓練,效率、精度、穩定性都相當完美。

【本文結束】如需轉載請務必注明出處:快科技責任編輯:上方文Q

【本文結束】如需轉載請務必注明出處:快科技

責任編輯:上方文Q

新浪科技公眾號
新浪科技公眾號

“掌”握科技鮮聞 (微信搜索techsina或掃描左側二維碼關注)

創事記

科學探索

科學大家

蘋果匯

眾測

專題

官方微博

新浪科技 新浪數碼 新浪手機 科學探索 蘋果匯 新浪眾測

公眾號

新浪科技

新浪科技為你帶來最新鮮的科技資訊

蘋果匯

蘋果匯為你帶來最新鮮的蘋果產品新聞

新浪眾測

新酷產品第一時間免費試玩

新浪探索

提供最新的科學家新聞,精彩的震撼圖片