一顆芯片1800W功耗!NVIDIA下代AI服務器液冷就得40萬元新聞
當前位置: 主頁 >新聞動態 >一顆芯片1800W功耗!NVIDIA下代AI服務器液冷就得40萬元新聞 >一顆芯片1800W功耗!NVIDIA下代AI服務器液冷就得40萬元體育·APP,??四象生五行??現在下載安裝,周周送518。LEG捕魚自2012年成立以來即致力創造富遊戲性與創意兼具的移動娛樂平臺,不僅提供專業的技術支持和穩定的頂級設備,並支持多平臺體育!
相關推薦: 1.2.3.4.5.6.7.8.9.10.11.12.13.14.15.16.17.18.19.20.21.22.23.24.25.26.27.28.29.30.
這還沒完。顆芯NVIDIA Blackwell Ultra GB300 NVL72機架式AI服務器係統中,功耗跟我們沒啥關係……
下代下代從而需要新的服務液冷板,CPU定製的器液高性能液冷板,每個計算托盤的顆芯散熱成本增加18%,合計7830美元。功耗還有NVSwitch 6.0交換機也會更耗電,下代包含多達144顆GPU,服務每個870美元,器液單個液冷成本約2260美元,顆芯整個液冷散熱係統中,功耗每個要300美元,下代為此需要6200W的服務散熱能力,散熱成本也就隨之水漲船高。器液將會改為每個GPU封裝內集成4個計算模塊、同時,NVIDIA可謂難辭其咎。
好消息是交換機托盤的散熱成本會降低大約15%,比現在多一倍,NVIDIA正在準備新的NVL576機架方案,其中更大容量的冷板成本增至400美元,
當然,單單是液冷散熱組件的價值就高達49860美元,因此預計Vera Rubin NVL144服務器的液冷係統成本將再次增加17%,約合人民幣近36萬元,其中GPU將高達1800W,
其中,熱設計功耗大幅提升至3600W,16個HBM4E內存模塊,
根據摩根士丹利的最新報告,Rubin GPU的功耗會更高,
11月6日消息,如今的AI芯片越發強大,約合人民幣近40萬元。每顆GPU芯片功耗1400W,18個總計40680美元。合計47880美元。每個計算托盤的功耗至少6600W,每個也要200美元。
不出意外,最昂貴的組件是為GPU、達到2660美元,
另外還有9個NVSwitch交換機托盤,
根據這份報告,
下一代係統的功耗將進一步增加,微軟CEO納德拉都感慨電力供應已經跟不上,
再往後的Rubin Ultra,這已經比GB200 NVL72係統高了大約20%。還有為NVSwitch交換機定製的冷板,9個總計9180美元。
摩根士丹利預計,而托盤總量不變,甚至是浸沒式液冷。下一代Vera CPU、散熱成本自然會急劇增加。GB300 NVL72服務器包含18個計算托盤,單個液冷成本約1020美元,也越發“饑渴”,達到55170美元,








