Amazon-EC2-G5-Instances

G5-Instances bieten bis zu 3-mal höhere Grafikleistung und ein bis zu 40 % besseres Preis-Leistungs-Verhältnis als G4dn-Instances. Diese verfügen über mehr Raytracing-Kerne als jede andere GPU-basierte-EC2-Instance, bieten 24 GB Speicher pro GPU und unterstützen die NVIDIA-RTX-Technologie. Dadurch eignen sie sich ideal zum schnelleren Rendern realistischer Szenen, zum Ausführen leistungsstarker virtueller Workstations und zur Unterstützung grafikintensiver Anwendungen mit höherer Wiedergabetreue.

G5-Instances bieten im Vergleich zu G4dn-Instances eine bis zu 3-mal höhere Leistung und ein bis zu 40 % besseres Preis-Leistungs-Verhältnis für Machine-Learning-Inferenzen. Sie sind eine leistungsfähige und kosteneffiziente Lösung für Kunden, die NVIDIA-Bibliotheken wie TensorRT, CUDA und cuDNN zur Ausführung ihrer ML-Anwendungen verwenden möchten.

G5-Instances bieten bis zu 15 % geringere Trainingskosten als Amazon-EC2-P3-Instances. Außerdem bieten sie im Vergleich zu G4dn-Instances eine bis zu 3,3-mal höhere Leistung beim ML-Training. Dies macht sie zu einer kosteneffizienten Lösung für das Training mäßig komplexer und einzelner Knotenmodelle für Machine Learning zur Verarbeitung natürlicher Sprache, Computer Vision und Anwendungsfälle für Empfehlungs-Engines.

G5-Instances basieren auf dem AWS Nitro System, einer Kombination aus dedizierter Hardware und schlankem Hypervisor, der praktisch alle Rechen- und Speicherressourcen der Host-Hardware für die Instances bereitstellt und so für eine bessere Gesamtleistung und Sicherheit sorgt. Bei G5-Instances stellt das Nitro-System die GPUs im Durchlaufmodus bereit und bietet so eine mit Bare-Metal vergleichbare Leistung.

G5-Instances sind die ersten in der Cloud, die über NVIDIA A10G Tensor-Core-GPUs verfügen, die eine hohe Leistung für grafikintensive Anwendungen und Machine Learning bieten. Jede Instance verfügt über bis zu 8 A10G Tensor-Core-GPUs mit 80 Raytracing-Kernen und 24 GB Speicher pro GPU. Diese bieten außerdem 320 NVIDIA-Tensor-Kerne der dritten Generation, die bis zu 250 TOPS liefern, was zu einer hohen Leistung für ML-Workloads führt.

G5-Instances bieten Kunden NVIDIA-RTX-Enterprise- und Gaming-Treiber ohne zusätzliche Kosten. Mit NVIDIA-RTX-Enterprise-Treibern können hochwertige virtuelle Workstations für eine Vielzahl grafikintensiver Workloads bereitgestellt werden. NVIDIA-Gaming-Treiber bieten unvergleichliche Grafik- und Computing-Unterstützung für die Spieleentwicklung. G5-Instances unterstützen auch CUDA-, cuDNN-, NVENC-, TensorRT-, cuBLAS-, OpenCL-, DirectX 11/12-, Vulkan 1.1- und OpenGL 4.5-Bibliotheken.

Die G5-Instances verfügen über einen Netzwerkdurchsatz von bis zu 100 Gbit/s, wodurch sie die Anforderungen an niedrige Latenzzeiten für Machine-Learning-Inferenzen und grafikintensive Anwendungen unterstützen können. 24 GB Arbeitsspeicher pro GPU und die Unterstützung von bis zu 7,6 TB lokalem NVMe-SSD-Speicher ermöglichen die lokale Speicherung großer Modelle und Datensätze für hochleistungsfähiges Machine-Learning-Training und Inferenz. G5-Instances können außerdem große Videodateien lokal speichern, was zu einer höheren Grafikleistung und der Möglichkeit führt, größere und komplexere Videodateien zu rendern.

Die G5-Instances basieren auf dem AWS Nitro System, einer umfangreichen Sammlung von Modulbausteinen, die viele der herkömmlichen Virtualisierungsfunktionen auf dedizierte Hardware und Software auslagern. Dadurch werden hohe Leistung, hohe Verfügbarkeit und hohe Sicherheit erreicht, während gleichzeitig der Virtualisierungsaufwand reduziert wird.