- Seminar / Training
- NVIDIA
- NVIDIA – CUDA-Kernel entwickeln und Leistungsengpässe messen
- NVIDIA – GPU-Netzwerke und kollektive Kommunikation systematisch prüfen
- NVIDIA – GPU-Plattformen auf Kubernetes betreiben und absichern
- NVIDIA – GPU-Ressourcen für KI-Anwendungen planen und betreiben
- NVIDIA – KI-Agenten mit OpenShell in begrenzten Laufzeitumgebungen betreiben
- NVIDIA – LLM-Inferenz mit TensorRT LLM auf Last und Speicher abstimmen
- NVIDIA – Modelle mit NeMo anhand eigener Daten gezielt anpassen
- NVIDIA – Modelle mit TensorRT und Triton als Dienst bereitstellen
- NVIDIA NIM – Modellbereitstellung und Inferenzbetrieb praktisch prüfen
- NVIDIA – OpenUSD-Szenen für Simulationen mit Omniverse aufbauen
- NVIDIA – Python-Datenanalysen mit GPU-Bibliotheken beschleunigen
- NVIDIA – Robotikabläufe mit Isaac Sim und ROS 2 überprüfen
- NVIDIA – Schutzregeln für KI-Anwendungen mit NeMo Guardrails testen
- NVIDIA – Sprachdienste mit Riva integrieren und anhand eigener Audiodaten prüfen
- NVIDIA – Verteilte Inferenz mit Dynamo planen und messen
- NVIDIA – Videoverarbeitung auf Jetson mit DeepStream betreiben
- Seminar / Training
- NVIDIA
- NVIDIA – CUDA-Kernel entwickeln und Leistungsengpässe messen
- NVIDIA – GPU-Netzwerke und kollektive Kommunikation systematisch prüfen
- NVIDIA – GPU-Plattformen auf Kubernetes betreiben und absichern
- NVIDIA – GPU-Ressourcen für KI-Anwendungen planen und betreiben
- NVIDIA – KI-Agenten mit OpenShell in begrenzten Laufzeitumgebungen betreiben
- NVIDIA – LLM-Inferenz mit TensorRT LLM auf Last und Speicher abstimmen
- NVIDIA – Modelle mit NeMo anhand eigener Daten gezielt anpassen
- NVIDIA – Modelle mit TensorRT und Triton als Dienst bereitstellen
- NVIDIA NIM – Modellbereitstellung und Inferenzbetrieb praktisch prüfen
- NVIDIA – OpenUSD-Szenen für Simulationen mit Omniverse aufbauen
- NVIDIA – Python-Datenanalysen mit GPU-Bibliotheken beschleunigen
- NVIDIA – Robotikabläufe mit Isaac Sim und ROS 2 überprüfen
- NVIDIA – Schutzregeln für KI-Anwendungen mit NeMo Guardrails testen
- NVIDIA – Sprachdienste mit Riva integrieren und anhand eigener Audiodaten prüfen
- NVIDIA – Verteilte Inferenz mit Dynamo planen und messen
- NVIDIA – Videoverarbeitung auf Jetson mit DeepStream betreiben
NVIDIA – GPU-Netzwerke und kollektive Kommunikation systematisch prüfen
Kursüberblick
Planen Sie die Kommunikation mehrerer GPU-Systeme anhand konkreter Lasten. Sie unterscheiden Ethernet-, RoCE- und InfiniBand-Anforderungen und untersuchen mit NCCL-Messungen, wo Topologie, Netzwerk oder Endsystem die Leistung begrenzen.
Dauer: 3 Tage.
Ihre Lernziele
- Kommunikationsanforderungen aus GPU-Workloads ableiten.
- Netzwerk- und Endsystemengpässe mit Messungen unterscheiden.
- Änderungen am GPU-Netz mit belastbaren Abnahmekriterien prüfen.
Inhalte im Detail
- GPU-, PCIe- und Netzwerkverbindungen in einer vollständigen Topologie darstellen.
- Ethernet, RoCE und InfiniBand nach Anwendung und Betriebsanforderungen vergleichen.
- NVIDIA-Adapter, Spectrum- oder InfiniBand-Switches passend zum Labor einordnen.
- MTU, Routing und gegebenenfalls verlustarme Übertragung mit Messpunkten prüfen.
- NCCL-Kollektive und Kommunikationsmuster anhand geeigneter Benchmarks untersuchen.
- Engpässe, Fehlerzähler und Änderungen mit einem reproduzierbaren Abnahmeplan verbinden.
Praktische Übungen
- Erstellen Sie eine Topologie für einen kleinen GPU-Verbund und begründen Sie die erwarteten Kommunikationsengpässe.
- Führen Sie einen NCCL-Vergleich auf der vorhandenen Labortopologie durch und korrelieren Sie Laufzeit mit Netzwerk- und GPU-Metriken.
- Untersuchen Sie einen vorbereiteten Verbindungsfehler anhand von Messdaten und legen Sie eine überprüfbare Korrektur fest.
Zielgruppe
Netzwerk- und KI-Infrastrukturteams.
Voraussetzungen
Linux-Netzwerke, Switching und GPU-Betrieb.
Software und Übungsumgebung
Getrennte GPU-Laborumgebung mit Testdaten. Hardwaregeneration, Treiber, Softwarestand, Modellrechte und gegebenenfalls benötigte NVIDIA-Lizenzen werden vorab auf die Übungen abgestimmt; Zugang erfolgt lokal oder per Fernzugriff. Mehrknotenlabor nach Vereinbarung; alternative Netzwerktechniken werden anhand vorbereiteter Messdaten verglichen.
Teilnahmebestätigung
Sie erhalten eine Teilnahmebestätigung von SCN.
Einordnung des Seminars
Der Einstieg richtet sich nach den genannten Voraussetzungen. Die Lernziele werden an eigenen Aufgaben in einer getrennten Testumgebung bearbeitet.
Ansprechpartner
Ihre Berater für das Training NVIDIA – GPU-Netzwerke und kollektive Kommunikation systematisch prüfen
-

Johannes Quante
E-Mail: johannes.quante@scngmbh.com
Telefon: + 49 (32) 212 619 106 -

Daniel Unger
E-Mail: daniel.unger@scngmbh.com
Telefon: + 49 (32) 212 619 107 -

Benjamin Meier
E-Mail: benjamin.meier@scngmbh.com
Telefon: + 49 (32) 212 619 105
Vorbereitung Ihres Trainings
Besprechen Sie Ihre Lernziele vorab mit dem Trainer. Unsere Ansprechpartner unterstützen Sie bei individuellen Themen und Firmenschulungen.
Verwandte Seminare
Wählen Sie weitere Schwerpunkte anhand Ihrer Aufgaben und der jeweiligen Voraussetzungen.
- NVIDIA – GPU-Ressourcen für KI-Anwendungen planen und betreiben
- NVIDIA NIM – Modellbereitstellung und Inferenzbetrieb praktisch prüfen
- NVIDIA – CUDA-Kernel entwickeln und Leistungsengpässe messen
- NVIDIA – Python-Datenanalysen mit GPU-Bibliotheken beschleunigen
- NVIDIA – Modelle mit TensorRT und Triton als Dienst bereitstellen
- NVIDIA – LLM-Inferenz mit TensorRT LLM auf Last und Speicher abstimmen
- NVIDIA – GPU-Plattformen auf Kubernetes betreiben und absichern
- NVIDIA – Modelle mit NeMo anhand eigener Daten gezielt anpassen
- NVIDIA – Schutzregeln für KI-Anwendungen mit NeMo Guardrails testen
- NVIDIA – OpenUSD-Szenen für Simulationen mit Omniverse aufbauen
- NVIDIA – Robotikabläufe mit Isaac Sim und ROS 2 überprüfen
- NVIDIA – Videoverarbeitung auf Jetson mit DeepStream betreiben
- NVIDIA – Sprachdienste mit Riva integrieren und anhand eigener Audiodaten prüfen
- NVIDIA – Verteilte Inferenz mit Dynamo planen und messen
- NVIDIA – KI-Agenten mit OpenShell in begrenzten Laufzeitumgebungen betreiben
Buchung
Service
Wir bieten Ihnen Seminare mit einem hohen Praxisbezug an. Die Inhalte und Übungen sind auf Ihre täglichen Aufgaben im Unternehmen ausgerichtet und verzichten vollständig auf Werbehinweise anderer Produkte des Softwareherstellers.
Alle Trainings bei uns sind herstellerunabhängig. Dies ermöglicht es uns kritische Betrachtungen zu den Produkten selbst und Vergleiche zu Wettbewerbern des Herstellers im Seminar anzubieten. Die Kursinhalte sind eigene Inhalte und aus den praktischen Erfahrungen unserer Trainer in Projekten abgeleitet.
Selbstverständlich können die Inhalte bei Firmenseminaren individuell an Ihre Bedürfnisse angepasst werden. Bitte sprechen Sie uns einfach an.
Buchung
Das Seminar wurde auf die Merkliste gesetzt
Das von Ihnen gewählte Seminar wurde bereits auf die Merkliste gesetzt
Bitte wählen Sie einen freien Termin aus
Bitte geben Sie Ihren Wunschtermin im Format tt.mm.jjjj ein
Bitte wählen Sie einen freien Termin aus
Bitte geben Sie den gewünschten Termin im Format tt.mm.jjjj der Schulung ein