6 AI-Chips — CPU GPU TPU NPU LPU DPU

← andblack Check · Übersicht

Original-Reel: „6 chips run modern AI. Each one moves data in a different way." von codewithbrij (164 Likes) — die 6 Chip-Familien, die moderne KI antreiben, mit Fokus auf „wie bewegt jeder Chip die Daten".

Quelle: Instagram — codewithbrij ↗

Kernidee: KI läuft nicht auf „einem" Chip — moderne Systeme kombinieren sechs verschiedene Chip-Typen, jeder spezialisiert auf eine andere Art, Daten zu bewegen. Die Wahl richtet sich nach Workload: Latenz, Parallelität, Leistung, Kosten, Skalierung. Ein echtes System nutzt mehrere davon zusammen.

Basics: Warum braucht KI so viele Chips?

Ein Chip (Prozessor) ist das „Rechengehirn" eines Geräts. KI-Aufgaben sind aber sehr unterschiedlich: Training eines riesigen Modells vs. eine Gesichtserkennung im Handy vs. schnelle Token-Ausgabe im Rechenzentrum. Kein einzelner Chip kann alle Aufgaben optimal — deshalb gibt es spezialisierte Chips, jeder mit einer anderen Stärke. Die Grundidee: Daten bewegen und rechnen — und verschiedene Chips machen beides sehr unterschiedlich gut.

Als Faustregel (analog): CPU = der begabte Allrounder · GPU = viele Spezial-Arbeiter für paralleles Rechnen · TPU = Rechenstraßen-Maschine für riesige Tensor-Mengen · NPU = kleiner, sparsamer On-Device-Chip · LPU = extrem schneller, planbarer Inferenz-Chip · DPU = entlastet CPU/GPU von Netzwerk/Lager.

Die 6 AI-Chips im Detail

🖥️ CPU — Central Processing Unit (Allrounder)

Einige starke Kerne, die vielfältige Aufgaben der Reihe nach abarbeiten. Läuft das Betriebssystem, die Orchestrierung und die Daten-Vorbereitung. „Der Generalist, der alles lenkt" — bestes Einsatzgebiet: variierte, sequenzielle Aufgaben.

🎞️ GPU — Graphics Processing Unit (Parallel-König)

Tausende kleine Kerne, die dieselbe Rechnung auf vielen Datenpunkten gleichzeitig ausführen. Gebaut für Training und hochvolumige Inferenz. „Viele Arbeiter, die dieselbe Aufgabe parallel erledigen" — dank CUDA auch das Rückgrat vieler KI-Rechenzentren.

🧮 TPU — Tensor Processing Unit (Google)

Daten pulsieren durch ein Gitter von Multiply-Accumulate-Zellen (Matrix-Multiplikation = Kernoperation des Deep Learning). „Rechenstraße für riesige Tensor-Workloads" — Googles Spezialchip für maschinelles Lernen in der Cloud.

📱 NPU — Neural Processing Unit (On-Device)

Lokale KI mit niedrigem Stromverbrauch direkt im Handy/Laptop. Face-Unlock und Sprachfunktionen laufen hier — Daten bleiben auf dem Gerät (Datenschutz + keine Latenz). „Der sparsame KI-Chip fürs Endgerät".

⚡ LPU — Language Processing Unit (Groq)

Die Gewichte liegen im Speicher auf dem Chip; ein Compiler plant jeden Schritt im Voraus → gleiche Latenz bei jedem Lauf. So liefert Groq Token besonders schnell aus. „Deterministisch schnelle Inferenz — keine Überraschungen".

🔌 DPU — Data Processing Unit (SmartNIC)

Eine SmartNIC, die Netzwerk, Verschlüsselung und Storage-I/O übernimmt — damit sich CPU und GPU auf die eigentliche KI-Arbeit konzentrieren. „Der Assistent, der Nebendinge abnimmt" — essenziell in modernen Rechenzentren.

Einordnung & Praxis: „Pick by workload: latency, parallelism, power, cost, scale." — Ein reales KI-System (z. B. ein Cloud-Rechenzentrum) nutzt mehrere dieser Chips zusammen: CPU orchestriert, GPU trainiert, TPU multipliziert große Tensoren, NPU läuft auf dem Endgerät, LPU serviert schnell Tokens, DPU entlastet das Netzwerk. Wichtig: Diese Einteilung ist didaktisch nützlich — reale Chips kombinieren oft Fähigkeiten (z. B. eine GPU mit Tensorkernen, ein SoC mit integrierter NPU).

Selbsttest

Welcher Chip hat „tausende kleine Kerne" fürs parallele Rechnen? (GPU)
Welcher Chip ist Googles Spezialist für riesige Tensor-Workloads? (TPU — Tensor Processing Unit)
Welcher On-Device-Chip hält die KI-Daten lokal im Handy? (NPU — Neural Processing Unit)
Welcher Chip serviert Tokens besonders schnell deterministisch (Groq)? (LPU — Language Processing Unit)
Was macht die DPU? (SmartNIC: übernimmt Netzwerk/Verschlüsselung/Storage-I/O, entlastet CPU & GPU)