大模型與生成式AI應用的快速發(fā)展,持續(xù)推升高性能計算需求。面對日益復雜的大規(guī)模訓練與推理任務,GPU服務器作為核心基礎設施,正向更高性能與更優(yōu)能效加速演進。安擎新一代6U GPU服務器EG8621G4應勢而生,以突破性硬件架構為高負載AI計算提供堅實底座。
圖1-1:EG8621G4后置8 GPU配置
EG8621G4是安擎自主研發(fā)的新一代6U高密度GPU服務器?;贗ntel Eagle Stream平臺,支持搭載兩顆英特爾?至強?第四代或第五代可擴展處理器(最高TDP 385W)。服務器提供16個內(nèi)存通道,最多可配置32條DDR5內(nèi)存。通過直通拓撲設計,最大支持11個標準PCIe 5.0擴展插槽,兼容多種形態(tài)的新一代600W高性能GPU。EG8621G4集卓越算力、極致擴展性與靈活部署能力于一身,為AI云計算、深度學習、AIGC、視頻加速等高性能AI業(yè)務場景提供堅實的硬件基礎。
圖1-2:EG8621G4前置4 GPU+后置4 GPU配置
豐富擴展,靈活適配
GPU支持: 模組化設計靈活搭配不同寬度的加速卡,最大支持8塊雙槽位或4槽位的最新600W功耗GPU。
存儲靈活: 提供多種存儲配置選項,前置可選支持8/16/24個2.5英寸熱插拔硬盤 或 12個3.5英寸熱插拔硬盤;后置可選支持4/6個2.5英寸熱插拔硬盤(搭配4槽位GPU)。
靈活拓撲,高效互聯(lián)
高速擴展能力:采用直通拓撲設計,可配置 9至11個標準PCIe 5.0擴展插槽。
模組化兼容設計: 搭配4槽位GPU時,其中最多5個PCIe 5.0插槽可靈活調整為前置。
澎湃性能,多元適配
異構計算支持: 適配多種高性能GPU,提供強大的計算能力,滿足訓練、推理等多樣化AI應用需求。
智能網(wǎng)絡擴展: 提供多種網(wǎng)卡選配方案,支持擴展智能網(wǎng)卡,滿足智算云平臺對高效網(wǎng)絡傳輸?shù)囊蟆?/span>
同時,EG8621G4服務器在算力、通信效率、功耗控制與系統(tǒng)可靠性方面實現(xiàn)顯著提升,為高負載計算場景提供堅實基礎:
高密度算力: 搭載8塊主流GPU加速卡,提供3.35P FLOPS FP16算力(Tensor核心加速)及256GB GDDR7顯存,滿足百億參數(shù)模型的推理需求。
通信加速: 深度優(yōu)化NCCL性能,實測alltoall_perf busbw總線帶寬達37.5 GB/s(較上一代主流GPU提升98%),allreduce_perf busbw總線帶寬達41.1 GB/s(提升90%),還在持續(xù)優(yōu)化中。
智能功耗管理: BMC支持依據(jù)環(huán)境溫度與GPU負載動態(tài)調節(jié)風扇轉速,在確保GPU穩(wěn)定運行的同時,有效降低整機功耗與TCO。
增強可靠性: 每路GPU供電配備獨立Efuse芯片,可在供電線路異常時實現(xiàn)毫秒級響應并精準切斷對應GPU電源。
產(chǎn)品規(guī)格