應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

中國電信中部智算中心在武漢投運(yùn),支持部署萬億參數(shù)大模型

2024-01-29 09:20 IT之家

導(dǎo)讀:中國電信中部智算中心在武漢東湖新技術(shù)開發(fā)區(qū)(光谷)舉行正式投入運(yùn)營。

  1 月 27 日消息,中國電信中部智算中心在武漢東湖新技術(shù)開發(fā)區(qū)(光谷)舉行正式投入運(yùn)營。中國電信專家介紹,該智算中心的算力、安全、環(huán)保及擴(kuò)展性均達(dá)到一流水平,目前在中部地區(qū)屬于最高等級(jí)

image.png

  IT之家注意到,中國電信中部智算中心建設(shè)先進(jìn)自主液冷智算集群,首次采用基于國產(chǎn) AI 基礎(chǔ)軟硬件平臺(tái)的方案架構(gòu),實(shí)現(xiàn)算、存、網(wǎng)、電、熱整體設(shè)計(jì)。通過獨(dú)特的嵌入式液冷單元,盲插總線架構(gòu),實(shí)現(xiàn)液冷到芯片,液冷到服務(wù)器,液冷到機(jī)柜,全場(chǎng)景 PUE≤1.15,在達(dá)到業(yè)內(nèi)一流綠色節(jié)能環(huán)保水平的同時(shí),可支持部署萬億參數(shù)大模型。

  中國電信在全國構(gòu)建了多點(diǎn)智算中心,提供 5000PFLOPS 的智算算力,中部智算中心依托天翼云驍一體化算力平臺(tái),提供高性能、高顯存、高兼容性的主流大模型訓(xùn)練、訓(xùn)推一體算力和國產(chǎn)自研架構(gòu)的液冷高性能算力,可滿足多場(chǎng)景算力需求。

  中部智算中心可提供千卡規(guī)模的訓(xùn)練推理能力,并支持主流框架及芯片,基于訓(xùn)練推理的混合調(diào)度能力,資源利用率可以提升 20%。基于高性能的基礎(chǔ)設(shè)施和一系列的優(yōu)化技術(shù),在千卡模型下并行計(jì)算效率可以達(dá)到 80%。