最近在杭州某AI創(chuàng)業(yè)公司當(dāng)牛馬的朋友找我哭訴，他們剛?cè)诘?00萬還沒捂熱，轉(zhuǎn)頭就砸給某云廠商買了200張A100的算力卡。結(jié)果你猜怎么著？訓(xùn)練完百億參數(shù)大模型后，發(fā)現(xiàn)推理成本比訓(xùn)練還燒錢，現(xiàn)在連電費(fèi)都快付不起了。在這樣的背景下，中興打造的智算基座，很可能是個(gè)不錯(cuò)的解決方案。 　　還記得今年初Deepseek的全球火爆嗎？它的出現(xiàn)解決了一個(gè)核心問題。就是讓智能算力的不足問題從高性能的訓(xùn)練算力延展到普惠型的推理算力。但同時(shí)，也帶來了兩個(gè)挑戰(zhàn)，第一個(gè)挑戰(zhàn)是，推理算力將爆發(fā)式增長(zhǎng)，需要加快算力普及；第二個(gè)挑戰(zhàn)是，訓(xùn)練算力仍需進(jìn)一步強(qiáng)化，以支撐更大規(guī)模的模型訓(xùn)練，以及多模態(tài)大模型的新突破。 　　現(xiàn)在業(yè)內(nèi)瘋搶高端GPU，卻沒人注意算力鏈條上的隱形損耗：GPU之間等數(shù)據(jù)、機(jī)房之間等傳輸、模型推理等調(diào)度...導(dǎo)致許多算力白白浪費(fèi)。而中興這套開放基座確實(shí)有點(diǎn)東西。這一基座不僅支持跨機(jī)房互聯(lián)，在進(jìn)行多模態(tài)模型訓(xùn)練時(shí)，還能夠大幅度降低算力損耗，同時(shí)它還支持混搭不同品牌GPU，比如把某國產(chǎn)芯片和A800混用，大幅度提升調(diào)度效率。 　　別人都在堆顯卡，中興在修“算力高速公路”。中興通過芯片之間、GPU 卡之間、服務(wù)器之間以及數(shù)據(jù)中心之間的連接創(chuàng)新，包括大容量交換芯片、800G光互聯(lián)等技術(shù)創(chuàng)新，構(gòu)建的跨3個(gè)機(jī)房互聯(lián)的智算集群，與單一機(jī)房部署相比，算力損失控制在5%以內(nèi)。 　　在AI 2.0時(shí)代，會(huì)造顯卡不算本事，能讓每焦耳電力都轉(zhuǎn)化成有效智能，才是真·護(hù)城河。這樣的背景下，中興的未來發(fā)展?jié)摿�無限，未來可期。