Basics: Warum ist KI-Netzwerk anders?
Beim KI-Training (z. B. ein großes Sprachmodell) arbeiten tausende GPUs zusammen — sie müssen kontinuierlich riesige Datenmengen untereinander austauschen. Gegenüber klassischen Rechenzentren heißt das: viel mehr Ost-West-Verkehr (GPU↔GPU statt Client↔Server), höchste Bandbreite und extrem niedrige Latenz. Ein „normales" Ethernet-Netz mit CPU-basierter Verarbeitung wäre zu langsam — deshalb setzen KI-Cluster auf spezialisierte Technologien wie RDMA, RoCEv2 oder InfiniBand.
Die 23 Begriffe — in Gruppen
⚡ Beschleuniger & Hardware
Beschleunigt KI-Compute massiv (tausende parallele Kerne). Das „Herz" moderner KI-Cluster.
Die Netzwerk-Schnittstellenkarte, die einen Server ans Netz anbindet.
SmartNIC, die Netzwerk-/Storage-/Sicherheits-Aufgaben von der CPU übernimmt — entlastet den Server bei KI-Workloads.
🔀 RDMA & Cluster-Fabrics
Überträgt Daten direkt von Speicher zu Speicher (GPU↔GPU) mit sehr geringer CPU-Last und niedriger Latenz.
Trägt RDMA über routbares Ethernet/IP — ermöglicht verlustfreies RDMA auf normalem Ethernet.
Klassisches HPC-Transportprotokoll, in vielen HPC- & KI-Clustern (oft NVIDIAs Quantum/ConnectX-Stack).
Korrigiert Übertragungsfehler auf der Leitung, ohne Neu-Übertragung — wichtig bei hohen Geschwindigkeiten.
🌐 Ethernet-Geschwindigkeiten
Verbreitete, paketbasierte LAN-Technologie — Grundlage der meisten Rechenzentren.
Link-Geschwindigkeiten von 400 bzw. 800 Gigabit pro Sekunde — für immer höhere Bandbreiten.
Emergente 1,6-Terabit-Ethernet-Generation für die nächste Welle KI-Bandbreite (East-West-Verkehr).
🏗️ Fabrik-Architektur
Zweistufige Fabrik-Architektur für skalierbaren Ost-West-Verkehr (jede Leaf hängt an jeder Spine).
Verteilt Traffic gleichmäßig über gleichwertige Routen — nutzt die parallelen Pfade im Spine-Leaf-Design.
Ethernet-VPN, moderne Layer-2-Technologie zur Verteilung von Overlay-/Layer-3-Erreichbarkeit.
🎛️ Quality & Congestion
Layer-2-Technologie, die ausgewählte Traffic-Prioritäten auf Ethernet anhält (verlustfreie Übertragung für RDMA).
Markiert Pakete bei Überlastung, statt sie zu verwerfen — bessere Latenz unter Last.
Klassifiziert und priorisiert Traffic — stellt sicher, dass kritischer KI-Verkehr Vorfahrt hat.
Sammelt Netzwerk-Zustands- & Health-Daten (Latenz, Verluste) für Überwachung und Optimierung.
🔌 Optik & Stecker
Bringt optische Komponenten direkt auf/nah an den Switch-Chip — weniger Leistung, mehr Bandbreite.
Hochdichte, optische Transceiver-/Modul-Formfaktoren für hohe Geschwindigkeiten (OSFP = Octal Small Form Pluggable, QSFP-DD = Double Density).
Für längere Reichweiten (punktförmiger Lichtstrahl).
Oft für kürzere Verbindungen (mehrere Lichtmoden).
Selbsttest
- Was ist der Unterschied zwischen RDMA und klassischem Netzwerk-Datenverkehr? (RDMA überträgt direkt Speicher↔Speicher mit sehr geringer CPU-Last und Latenz)
- Warum braucht KI-Training mehr Bandbreite & niedrigere Latenz? (Tausende GPUs tauschen kontinuierlich riesige Datenmengen aus — viel Ost-West-Verkehr)
- Was macht eine DPU? (SmartNIC, die Netzwerk/Storage/Security von der CPU übernimmt)
- Wofür steht ECMP? (Equal-Cost Multipath — verteilt Traffic gleichmäßig über gleichwertige Routen)
- Was bedeutet RoCEv2? (RDMA over Converged Ethernet v2 — RDMA über routbares Ethernet/IP)