NVIDIA H200 NVL

NVIDIA H200 NVL

NVIDIA H200 NVL accelererar AI utveckling och produktion av generativ AI, RAG, språkmodeller och mer. Med 141GB minne är det inga problem att köra stora LLM-inferenser och med upp till fyra GPU:er sammankopplade via NVLink får man en prestandaökning med upp till 1.7X över H100 NVL. NVIDA H200 NVL är även särskilt lämplig för HPC laster.

  • GPU memory: 141GB HBM3e
  • GPU memory bandwidth: 4,8 TB/s
  • TDP: 600W
  • INT8 Tensor Core: 3341
  • FP32: 60 TFLOPS
  • FP32 Tensor Core: 835 TFLOPS
  • Form Factor: Dual Slot, PCIe
Datablad
Pris: SEK
Tillgänglighet:
Lägg i varukorgen

Vanliga frågor om NVIDIA H200 NVL

Vad är NVIDIA H200 NVL?

NVIDIA H200 NVL är en data center-GPU på Hopper-arkitekturen för generativ AI,
LLM-inferens, RAG och HPC. Det är den första GPU:n med HBM3e-minne.

Hur mycket minne har NVIDIA H200 NVL?

NVIDIA H200 NVL har 141 GB HBM3e-minne med 4,8 TB/s bandbredd, nästan dubbla minnet
jämfört med H100. Den klarar 70B–180B-modeller på en enda GPU.

Hur mycket snabbare är H200 NVL än H100 NVL?

H200 NVL ger upp till 1,7 × högre LLM-inferensprestanda och upp till 3,4 × högre
throughput i minnesbundna scenarier.

Kan jag koppla ihop flera NVIDIA H200 NVL-kort?

Ja. Du kan koppla ihop upp till fyra kort via NVLink-bryggor för delat minne och beräkningskraft.

Ingår NVIDIA AI Enterprise med H200 NVL?

Ja. En 5-årig prenumeration med NVIDIA NIM-microservices, säkerhet och support ingår.

Vad är skillnaden mellan H200 NVL och H200 SXM?

H200 SXM är cirka 18 % snabbare men kräver HGX/DGX-plattformar med vätskekylning.
H200 NVL använder PCIe och luftkylning i standardservrar.

Passar NVIDIA H200 NVL för HPC och vetenskapliga beräkningar?

Ja. Med 4,8 TB/s bandbredd passar H200 NVL mycket bra för molekyldynamik, CFD,
genomisk sekvensering och klimatmodellering.

Bygger South Pole kompletta servrar med H200 NVL?

Ja, vi bygger konfigurationer med upp till 4 × H200 NVL.

Relaterade produkter:
H100
RTX PRO 6000 Server Edition
L40S