NVIDIA H100, baserad på den senaste arkitekturen Hopper, är den mest kraftfulla AI-fokuserade GPU som NVIDIA någonsin gjort, den har 80 miljarder transistorer och en specialutvecklad ”Transformer Engine” som accelererar maskininlärning. NVIDIA H100 har även stöd för NVIDIA NVLink, som gör det möjligt att länka ihop flera GPU:er.
På universitet och i laboratorier runt om i världen använder forskare och utvecklare redan GPU:er från NVIDIA för att kunna få ut så mycket som möjligt av kombinationen HPC och AI – High Performance Computing och artificiell intelligens.
I takt med att artificiell intelligens börjar ta plats på riktigt i näringslivet, kommer allt fler företag och andra organisationer behöva infrastruktur som kan hantera tekniken, och NVIDIA H100 är redo att axla den rollen. NVIDIA H100 har fjärde generationens Tensor-kärnor och en Transformer Engine med FP8-precision som ger upp till nio gånger snabbare AI-träning jämfört med tidigare generationer.
När NVIDIA lanserade sin H100 flyttade de fram sin position som marknadsledare än längre. Med upp till trettio gånger snabbare inferens och marknadens lägsta latency får den det mesta att blekna vid jämförelse.
Med NVIDIA H100 i ditt datacenter kan du räkna med enastående prestanda och fantastisk skalbarhet även för väldigt krävande High Performance Computing (HPC). Och apropå skalbarhet: Med NVIDIA switchsystem NVLink kan du koppla ihop upp till 256 H100, men långt innan dess har du prestanda nog för att skapa, träna och använda riktigt avancerade språkmodeller för chattbotar och andra artificiella intelligenser som det faktiskt går att prata med. Att skala upp din server i takt med att datamängderna eller kraven ökar är alltså inga problem.
Läs gärna om våra andra GPU:er från NVIDIA eller bygg ditt eget system i vår konfigurator.
NVIDIA H100 är en data center-GPU på Hopper-arkitekturen med 80 miljarder transistorer.
Den är industristandard för AI-träning och HPC och har en specialutvecklad Transformer Engine.
Både H100 PCIe och H100 SXM har 80 GB HBM-minne. SXM-versionen har HBM3 med
3,35 TB/s bandbredd. H100 NVL-varianten har 94 GB HBM3.
Transformer Engine möjliggör automatisk växling mellan FP8 och FP16 i Hopper Tensor Cores.
Det ger upp till 5 × snabbare träning av GPT-3 175B jämfört med A100.
H200 NVL har 141 GB HBM3e-minne, vilket är 76 % mer än H100, 4,8 TB/s bandbredd,
vilket är 43 % mer, och cirka 1,7 × högre LLM-inferensprestanda.
Ja. NVIDIA H100 stödjer andra generationens MIG med upp till 7 instanser och säker isolering
via NVIDIA Confidential Computing.
NVIDIA Confidential Computing i H100 är en hårdvarubaserad Trusted Execution Environment
som skyddar data och applikationer. Det är särskilt viktigt för sjukvård, finans och reglerad verksamhet.
H100 SXM använder 4:e generationens NVLink med 900 GB/s för skalning till tusentals kort.
PCIe-varianten använder NVLink-bryggor eller PCIe Gen 5.
Ja, South Pole levererar skräddarsydda GPU-servrar för AI-träning, HPC och inferens.
Ring 08-56 23 71 00.