NVIDIA H200 NVL accelererar AI utveckling och produktion av generativ AI, RAG, språkmodeller och mer. Med 141GB minne är det inga problem att köra stora LLM-inferenser och med upp till fyra GPU:er sammankopplade via NVLink får man en prestandaökning med upp till 1.7X över H100 NVL. NVIDA H200 NVL är även särskilt lämplig för HPC laster.
- GPU memory: 141GB HBM3e
- GPU memory bandwidth: 4,8 TB/s
- TDP: 600W
- INT8 Tensor Core: 3341
- FP32: 60 TFLOPS
- FP32 Tensor Core: 835 TFLOPS
- Form Factor: Dual Slot, PCIe