Apple M5 Pro: Was kann die neue NPU?
Apple dominiert mit 22 % Marktanteil den Consumer-AI-Hardware-Markt. Der M5 Pro ist der jüngste Beweis dafür: Die Neural Engine der 3. Generation bringt 38 TOPS NPU-Leistung in einen Laptop-Chip, der mit nur 30 Watt auskommt. Aber reicht das gegen die Konkurrenz?
M5 Pro: Technische Daten
Die M5 Pro-Familie besteht aus drei Varianten:
| Variante | CPU | GPU | Neural Engine | NPU-TOPS | Speicher |
|----------|-----|-----|---------------|----------|----------|
| M5 | 8-Core (4P+4E) | 10-Core | 16-Core | 30 TOPS | 16-32 GB |
| M5 Pro | 12-Core (6P+6E) | 18-Core | 16-Core Gen3 | 38 TOPS | 24-64 GB |
| M5 Max | 16-Core (12P+4E) | 40-Core | 16-Core Gen3 | 38 TOPS | 32-128 GB |
| M5 Ultra | 32-Core | 80-Core | 32-Core | 76 TOPS | 64-256 GB |
Die Neural Engine der 3. Generation ist der wichtigste Sprung seit dem M1. Apple nutzt eine verbesserte INT8-Architektur mit dynamischer Quantisierung, die ML-Modelle bis zu 3x schneller ausführt als die Vorgängergeneration.
Was ist neu an der Neural Engine Gen 3?
1. Erhöhte Taktrate und Throughput
Die Neural Engine Gen 3 taktet mit 1.450 MHz (M4: 1.100 MHz) und verarbeitet pro Takt 4x mehr Operationen dank verbesserter MAC-Einheiten (Multiply-Accumulate).
2. Dynamische Quantisierung
Modelle werden automatisch auf INT8 oder sogar INT4 quantisiert, wenn Genauigkeitsverlust minimal ist. Das verdoppelt die effektive Throughput-Rate.
3. Unified Memory Advantage
Apples größter Vorteil: Bis zu 128 GB Unified Memory, den sich CPU, GPU und NPU teilen. Bei x86-Konkurrenten ist RAM separat zugewiesen.
Lokale LLM-Performance
Wir haben mehrere Modelle mit LM Studio und MLX getestet:
| Modell | Parameter | Quantisierung | Token/s (M5 Pro) | Token/s (M5 Max) | RAM-Verbrauch |
|--------|-----------|---------------|------------------|------------------|---------------|
| Llama 3.3 8B | 8B | Q4_K_M | 65 | 92 | 5,5 GB |
| Mistral 7B | 7B | Q4_K_M | 72 | 105 | 4,8 GB |
| Qwen 2.5 14B | 14B | Q4_K_M | 38 | 55 | 9,2 GB |
| Llama 3.3 70B | 70B | Q4_K_M | 8 | 15 | 42 GB |
| DeepSeek R1 14B | 14B | Q4_K_M | 35 | 52 | 9,5 GB |
Ein M5 Pro mit 64 GB kann ein 70B-Modell laden — wenn auch langsam. Praktisch nutzbar sind Modelle bis 14B Parameter bei 8 Token/s oder schneller.
CoreML und Apple Intelligence
Die NPU arbeitet nicht nur mit Entwickler-Tools, sondern direkt mit Apple Intelligence:
Alle diese Features laufen vollständig auf der Neural Engine, ohne dass die GPU belastet wird. Das bedeutet: Sie können gleichzeitig einen LLM-Chat führen und ein Rendertask laufen lassen.
Vergleich mit x86-Konkurrenz
| Feature | Apple M5 Pro | Intel Lunar Lake | AMD Ryzen AI 9 |
|---------|-------------|-----------------|----------------|
| NPU-TOPS | 38 | 47 | 50 |
| Max RAM | 64 GB | 32 GB | 64 GB |
| Unified Memory | ✅ | ❌ | ❌ |
| Akku (Video) | 22h | 18,5h | 14h |
| Lokaler LLM (14B) | 38 tok/s | 22 tok/s | 28 tok/s |
| AI-Framework | CoreML/MLX | OpenVINO | ROCm |
Trotz nominell niedrigerer NPU-TOPS liefert der M5 Pro in der Praxis bessere AI-Performance für LLMs, weil das Unified Memory-Design einen Flaschenhals vermeidet, den x86-Chips haben.
FAQ
Ist der M5 Pro deutlich besser als der M4 Pro?
In CPU- und GPU-Leistung: moderate Verbesserung (15-20 %). In AI-Workloads: deutlicher Sprung (40-60 %) dank Neural Engine Gen 3.
Brauche ich das M5 Max für AI?
Nur wenn Sie Modelle über 14B Parameter lokal ausführen wollen oder Video-AI-Pipelines rendern. Für 95 % der Nutzer reicht der M5 Pro.
Kann ich CUDA-Tools auf dem Mac nutzen?
Nein. Aber mit MLX (Apples Framework) und PyTorch MPS (Metal Performance Shaders) läuft das meiste nativ. LM Studio unterstützt Apple Silicon perfekt.
Lohnt sich ein Upgrade vom M3 Pro?
Bei AI-Fokus: ja, absolut. Die Neural Engine Gen 1 im M3 war deutlich schwächer. Vom M4 Pro ist das Upgrade optional.
Fazit
Der M5 Pro ist nicht der Chip mit den meisten TOPS — aber er ist der effizienteste AI-Chip am Markt. Das Unified Memory-Design, die exzellente Software-Integration mit CoreML und Apple Intelligence, und die Akkulaufzeit machen MacBooks zur besten Wahl für Nutzer, die lokal AI-Anwendungen nutzen wollen. Der Markt wird das bestätigen: Apples 22 % Marktanteil in der Consumer-AI-Hardware sind nicht zufällig.