寒武紀 思元MLU370-X4
MLU370-X4加速卡采用思元370芯片,為單槽位150w全尺寸加速卡,可提供高達256TOPS(INT8)推理算力,和24TFLOPS(FP32)訓練算力,同時提供豐富的FP16、BF16等多種訓練精度,配合全新基礎系統軟件平臺,可充分滿足推訓一體AI任務需求。
MLU370-X4加速卡采用思元370芯片,為單槽位150w全尺寸加速卡,可提供高達256TOPS(INT8)推理算力,和24TFLOPS(FP32)訓練算力,同時提供豐富的FP16、BF16等多種訓練精度,配合全新基礎系統軟件平臺,可充分滿足推訓一體AI任務需求。
產品亮點:
MLU370-X4加速卡采用思元370芯片,為單槽位150w全尺寸加速卡,可提供高達256TOPS(INT8)推理算力,和24TFLOPS(FP32)訓練算力,同時提供豐富的FP16、BF16等多種訓練精度,配合全新基礎系統軟件平臺,可充分滿足推訓一體AI任務需求。
規格參數
計算架構 | Cambricon MLUarch03 |
制程工藝 | 7nm |
內存規格 | 24GB LPDDR5 內存帶寬 307.2 GB/s |
視頻編解碼 | 最高可支持至8K; 132路HEVC全高清視頻解碼; 24路HEVC全高清視頻編碼; |
圖片編解碼 | 圖片編解碼最高分辨率支持16384x16384; 4000 Frames/s 全高清圖片解碼; 3000 Frames/s 全高清圖片編碼; |
vMLU實例 | 4個 |
散熱規格 | MAX 150W 全高全長單槽位被動式散熱 |
計算精度支持 | FP32、FP16、BF16、INT16、INT8、INT4 |
峰值性能 | 256 TOPS (INT8) 128 TOPS (INT16) 96 TFLOPS (FP16) 96 TFLOPS (BF16) 24 TFLOPS (FP32) |