浪潮元腦R1推理服務器NF5688G8是基于浪潮信息全新一代AI超融合架構平臺,面向超大規(guī)模數據中心的強勁性能、擴展人工智能服務器,至強算力密度6U空間內搭載1塊NVIDIA Hopper架構HGX-8GPU模組,系統(tǒng)支持4.0Tbps網絡帶寬,支持FP8原生精度下單機部署DeepSeek 671B大模型。
浪潮NF5688G8服務器搭載2顆AMD第五代EPYC處理器(Max cTDP 500W),可達3TB系統(tǒng)內存,128TB NVMe高速存儲,支持高達12個PCIe Gen5 x16擴展槽位,可靈活支持OCP 3.0、CX7、多種智能網卡等,構建面向超大模型訓練、元宇宙、自然語言理解、推薦、AIGC等場景的最強AI算力平臺。