TOPS Vergleich: Alle NPU-Chips in der Übersicht
Der Consumer-AI-Hardware-Markt wächst auf 539 Milliarden Dollar bis 2028. Die zentrale Metrik für AI-Leistung ist TOPS (Tera Operations Per Second). Aber welcher Chip hat wie viele TOPS? Unsere komplette Übersicht.
TOPS: Kurze Erklärung
TOPS = Tera Operations Per Second = Billionen Operationen pro Sekunde (bei INT8).
Wichtig: NPU-TOPS und GPU-TOPS sind verschieden. Die NPU ist effizienter (5-10 Watt), die GPU braucht mehr Strom (100-300 Watt) für die gleiche AI-Leistung. Microsofts Copilot+ Standard fordert 40 NPU-TOPS (GPU-TOPS zählen nicht).
Komplette Chip-Übersicht 2026
x86 — Intel
| Chip | Plattform | NPU-TOPS | GPU-TOPS | Gesamt | Prozess |
|------|-----------|----------|----------|--------|---------|
| Core Ultra 5 224V | Lunar Lake | 40 | ~50 | ~90 | 3nm |
| Core Ultra 5 226V | Lunar Lake | 40 | ~50 | ~90 | 3nm |
| Core Ultra 7 256V | Lunar Lake | 47 | ~65 | ~112 | 3nm |
| Core Ultra 7 258V | Lunar Lake | 47 | ~65 | ~112 | 3nm |
| Core Ultra 9 288V | Lunar Lake | 47 | ~70 | ~117 | 3nm |
| Core Ultra 7 255HX | Arrow Lake-H | 55 | ~80 | ~135 | 3nm |
| Core Ultra 9 285HX | Arrow Lake-H | 55 | ~80 | ~135 | 3nm |
x86 — AMD
| Chip | Plattform | NPU-TOPS | GPU-TOPS | Gesamt | Prozess |
|------|-----------|----------|----------|--------|---------|
| Ryzen AI 5 340 | Strix Point | 50 | ~30 | ~80 | 4nm |
| Ryzen AI 7 350 | Strix Point | 50 | ~35 | ~85 | 4nm |
| Ryzen AI 9 365 | Strix Point | 50 | ~40 | ~90 | 4nm |
| Ryzen AI 9 HX 370 | Strix Point | 50 | ~45 | ~95 | 4nm |
| Ryzen AI 9 HX 375 | Strix Point | 55 | ~45 | ~100 | 4nm |
| Ryzen AI Max 395 | Strix Halo | 50 | ~150 | ~200 | 4nm |
ARM — Qualcomm
| Chip | Plattform | NPU-TOPS | GPU-TOPS | Gesamt | Prozess |
|------|-----------|----------|----------|--------|---------|
| Snapdragon X | X-Series | 45 | ~20 | ~65 | 4nm |
| Snapdragon X Elite | X-Series | 45 | ~25 | ~70 | 4nm |
| Snapdragon X2 Elite (Q4 2026) | X2-Series | 60* | ~30 | ~90* | 3nm* |
*geschätzt
ARM — Apple
| Chip | NPU-TOPS | GPU-TOPS | Gesamt | Prozess |
|------|----------|----------|--------|---------|
| A18 | 35 | ~15 | ~50 | 3nm |
| A19 | 35 | ~20 | ~55 | 3nm |
| A19 Pro | 35 | ~25 | ~60 | 3nm |
| M5 | 30 | ~15 | ~45 | 3nm |
| M5 Pro | 38 | ~35 | ~73 | 3nm |
| M5 Max | 38 | ~80 | ~118 | 3nm |
| M5 Ultra | 76 | ~160 | ~236 | 3nm |
ARM — MediaTek
| Chip | NPU-TOPS | GPU-TOPS | Gesamt | Prozess |
|------|----------|----------|--------|---------|
| Dimensity 9400 | 40 | ~25 | ~65 | 3nm |
| Dimensity 8400 | 30 | ~20 | ~50 | 4nm |
GPUs (Tensor Core AI-Leistung)
| GPU | AI-TOPS | VRAM | Architektur |
|-----|---------|------|-------------|
| NVIDIA RTX 5090 | 1.400 | 32 GB | Blackwell |
| NVIDIA RTX 5080 | 880 | 16 GB | Blackwell |
| NVIDIA RTX 5070 Ti | 700 | 12 GB | Blackwell |
| NVIDIA RTX 5070 | 680 | 12 GB | Blackwell |
| NVIDIA RTX 4090 | 660 | 24 GB | Ada Lovelace |
| AMD RX 9070 XT | 600 | 16 GB | RDNA 4 |
| Intel Arc B770 | 320 | 16 GB | Battlemage |
Smartphone-Chips
| Chip | Gerät | NPU-TOPS | Prozess |
|------|-------|----------|---------|
| Apple A19 Pro | iPhone 17 Pro | 35 | 3nm |
| Snapdragon 8 Elite Gen 5 | Galaxy S26 | 48 | 3nm |
| Google Tensor G5 | Pixel 10 | 42* | 3nm |
| Exynos 1580 | Galaxy A56 | 22 | 4nm |
| Dimensity 9400 | Various | 40 | 3nm |
*TPU-TOPS, nicht direkt vergleichbar
TOPS-Hierarchie: Was bedeutet was?
| TOPS-Bereich | Kategorie | Beispiele |
|-------------|----------|-----------|
| 0-15 TOPS | Basic AI | Ältere Chips, keine Copilot+ Features |
| 15-30 TOPS | Standard AI | Budget-Laptops, Mittelklasse-Smartphones |
| 30-40 TOPS | Advanced AI | Apple M5, ältere Copilot+ Chips |
| 40-50 TOPS | Copilot+ AI | Intel Lunar Lake, AMD Ryzen AI, Snapdragon X |
| 50-80 TOPS | Next-Gen AI | AMD Strix Halo, Apple M5 Ultra, künftige Chips |
| 80-200 TOPS | Pro AI | Workstation, zukünftige Desktop-CPUs |
| 200+ TOPS | Extreme AI | Nur GPUs, Spezial-Hardware |
| 1000+ TOPS | AI Workhorse | NVIDIA RTX 5090 (GPU-AI-TOPS) |
Prognose: TOPS-Entwicklung bis 2030
| Jahr | Standard NPU-TOPS | High-End NPU-TOPS |
|------|-------------------|-------------------|
| 2024 | 10-15 | 40 (Copilot+ Launch) |
| 2025 | 40-45 | 50 |
| 2026 | 45-55 | 80 |
| 2027 | 60-80 | 120 |
| 2028 | 80-120 | 200+ |
| 2030 (Prognose) | 150-200 | 400+ |
FAQ
Was ist besser: 50 NPU-TOPS oder 500 GPU-TOPS?
Für Copilot+: NPU-TOPS (40+ erforderlich). Für AI-Development: GPU-TOPS (mehr VRAM, mehr Rohleistung). Für Lokale LLMs: Beides ist nützlich.
Warum hat Apple weniger NPU-TOPS als AMD, ist aber schneller?
Unified Memory. Apple teilt RAM zwischen CPU, GPU und NPU. Das vermeidet Datenflaschenhälse. Ein M5 Pro mit 38 TOPS schlägt einen AMD mit 50 TOPS bei lokalen LLMs.
Was bedeutet INT4 vs INT8?
INT8 = 8-bit Genauigkeit (Standard für TOPS-Angaben). INT4 = 4-bit (doppelt so schnell, weniger genau). Viele moderne LLMs nutzen INT4 für bessere Performance.
Wie viele TOPS brauche ich für Stable Diffusion?
Minimum: 30 TOPS (langsam, ~15s pro Bild). Empfohlen: 50+ TOPS (5-8s pro Bild). Für schnelle Generation: GPU mit 300+ TOPS (<1s pro Bild).
Fazit
TOPS sind die wichtigste Metrik für AI-Hardware 2026. Die Standard-Anforderung ist 40 TOPS (Microsoft Copilot+). AMD führt bei x86-NPU-TOPS (50), Intel bei Effizienz, Qualcomm bei ARM-Effizienz und Apple bei Unified Memory. Bis 2028 werden wir NPUs mit über 200 TOPS sehen. Der Markt wächst auf 539 Milliarden Dollar — TOPS sind das neue GHz.