閱讀排行
更多
- 1產(chǎn)能減少2萬噸!住友化學(xué)宣布停產(chǎn)
- 2威星智能“智能計量表具終端未來工廠建設(shè)項目”等兩個募投項目延期
- 3工業(yè)和信息化部關(guān)于印發(fā)《水泥玻璃行業(yè)產(chǎn)能置換實施辦法(2024年本)》的通知
- 4擬投資1.1億元,索是化工5000噸/年粉末涂料用助劑項目喜封金頂
- 5擁抱“一帶一路”!新明珠集團助力世界級龍舟賽事,讓民族品牌走出國際范
- 6厲害! 深加工全工種及兼職安全員高手齊聚內(nèi)江 現(xiàn)場一幕幕太精彩!
- 7 2024年前9個月化學(xué)原料和化學(xué)制品制造業(yè)利潤同比下降4%
- 8協(xié)會秘書長劉長雷帶隊調(diào)研巴宿科技
- 9上市儀器儀表企業(yè)三季報密集出爐!誰在爭先,誰在嘆氣?
企業(yè)直播
更多
推薦展會
更多
釋放AI新動能!華為發(fā)布大模型時代AI存儲新品
導(dǎo)讀:作為數(shù)據(jù)的載體,數(shù)據(jù)存儲成為AI大模型的關(guān)鍵基礎(chǔ)設(shè)施。華為數(shù)據(jù)存儲未來將持續(xù)創(chuàng)新,面向AI大模型時代提供多樣化的方案與產(chǎn)品,攜手伙伴共同推進AI賦能千行百業(yè)。
7月16日消息,日前,華為發(fā)布大模型時代AI存儲新品,為基礎(chǔ)模型訓(xùn)練、行業(yè)模型訓(xùn)練,細分場景模型訓(xùn)練推理提供存儲最優(yōu)解,釋放AI新動能。
華為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰表示,企業(yè)在開發(fā)及實施大模型應(yīng)用過程中,面臨四大挑戰(zhàn):
首先,數(shù)據(jù)準(zhǔn)備時間長,數(shù)據(jù)來源分散,歸集慢,預(yù)處理百TB數(shù)據(jù)需10天左右;
其次,多模態(tài)大模型以海量文本、圖片為訓(xùn)練集,當(dāng)前海量小文件的加載速度不足100MB/s,訓(xùn)練集加載效率低;
大模型參數(shù)頻繁調(diào)優(yōu),訓(xùn)練平臺不穩(wěn)定,平均約2天出現(xiàn)一次訓(xùn)練中斷,需要Checkpoint機制恢復(fù)訓(xùn)練,故障恢復(fù)耗時超過一天;
最后,大模型實施門檻高,系統(tǒng)搭建繁雜,資源調(diào)度難,GPU資源利用率通常不到40%。
華為順應(yīng)大模型時代AI發(fā)展趨勢,針對不同行業(yè)、不同場景大模型應(yīng)用,推出OceanStor A310深度學(xué)習(xí)數(shù)據(jù)湖存儲與FusionCube A3000訓(xùn)/推超融合一體機。
OceanStor A310深度學(xué)習(xí)數(shù)據(jù)湖存儲,面向基礎(chǔ)/行業(yè)大模型數(shù)據(jù)湖場景,實現(xiàn)從數(shù)據(jù)歸集、預(yù)處理到模型訓(xùn)練、推理應(yīng)用的AI全流程海量數(shù)據(jù)管理。OceanStor A310單框5U支持業(yè)界最高的400GB/s帶寬以及1200萬IOPS的最高性能,可線性擴展至4096節(jié)點,實現(xiàn)多協(xié)議無損互通。全局文件系統(tǒng)GFS實現(xiàn)跨地域智能數(shù)據(jù)編織,簡化數(shù)據(jù)歸集流程;通過近存計算實現(xiàn)近數(shù)據(jù)預(yù)處理,減少數(shù)據(jù)搬移,預(yù)處理效率提升30 %。
FusionCube A3000訓(xùn)/推超融合一體機,面向行業(yè)大模型訓(xùn)練/推理場景,針對百億級模型應(yīng)用,集成OceanStor A300高性能存儲節(jié)點、訓(xùn)/推節(jié)點、交換設(shè)備、AI平臺軟件與管理運維軟件,為大模型伙伴提供拎包入住式的部署體驗,實現(xiàn)一站式交付。開箱即用,2小時內(nèi)即可完成部署。訓(xùn)/推節(jié)點與存儲節(jié)點均可獨立水平擴展,以匹配不同規(guī)模的模型需求。同時FusionCube A3000通過高性能容器實現(xiàn)多個模型訓(xùn)練推理任務(wù)共享GPU,將資源利用率從40%提升到70%以上。FusionCube A3000支持兩種靈活的商業(yè)模式,包括華為昇騰一站式方案,以及開放計算、網(wǎng)絡(luò)、AI平臺軟件的第三方伙伴一站式方案。
周躍峰表示:“大模型時代,數(shù)據(jù)決定AI智能的高度。作為數(shù)據(jù)的載體,數(shù)據(jù)存儲成為AI大模型的關(guān)鍵基礎(chǔ)設(shè)施。華為數(shù)據(jù)存儲未來將持續(xù)創(chuàng)新,面向AI大模型時代提供多樣化的方案與產(chǎn)品,攜手伙伴共同推進AI賦能千行百業(yè)。”
原標(biāo)題:華為發(fā)布大模型時代AI存儲新品
版權(quán)與免責(zé)聲明:1.凡本網(wǎng)注明“來源:興旺寶裝備總站”的所有作品,均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-興旺寶合法擁有版權(quán)或有權(quán)使用的作品,未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的,應(yīng)在授權(quán)范圍內(nèi)使用,并注明“來源:興旺寶裝備總站”。違反上述聲明者,本網(wǎng)將追究其相關(guān)法律責(zé)任。 2.本網(wǎng)轉(zhuǎn)載并注明自其它來源(非興旺寶裝備總站)的作品,目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點或和對其真實性負責(zé),不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時,必須保留本網(wǎng)注明的作品第一來源,并自負版權(quán)等法律責(zé)任。 3.如涉及作品內(nèi)容、版權(quán)等問題,請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系,否則視為放棄相關(guān)權(quán)利。
相關(guān)新聞
昵稱 驗證碼 請輸入正確驗證碼
所有評論僅代表網(wǎng)友意見,與本站立場無關(guān)