Welche KI passt zu deinem Mac?
Welches lokale LLM auf deinem Mac läuft, wann ein Cloud-Modell besser passt und was es kostet. Mit Quellen und getrennt von Hersteller-Benchmarks.
Befehlsbeispiel · keine aufgezeichnete Messung
~/ai-on-mac ❯ ollama run gemma3:4b --verbose
>>> Erkläre Unified Memory in zwei Sätzen.
Kurz erklärt (Redaktion):
CPU und GPU nutzen denselben Speicher. Modelle, KV-Cache und macOS teilen sich den RAM.
~/ai-on-mac ❯
Wie viel RAM braucht lokale KI?
16 GB für den Einstieg, 32 GB für ernsthafte Arbeit, 64 GB und mehr für 70B-Modelle.
- 16 GB bis 12B Gemma 4 12B
- 32 GB bis 32B Qwen 3.8 27B
- 64 GB 70B Llama 3.1 70B
- 128 GB 120B gpt-oss 120B
Eigene MLX-Benchmarks
Welches lokale Modell ist wirklich gut?
38 MLX-Modelle, 16 Benchmarks, lokal gemessen auf einem Mac mini M4 mit 32 GB. Top 5 nach Durchschnittswert.
Wischen für alle Kategorien →
| Modell | Avg | Wissen | Reasoning | Mathe | Coding | Sicherheit |
|---|---|---|---|---|---|---|
| gpt-oss-safeguard 20BMXFP4 | 73,6 | 68,9 | 69,0 | 90,0 | 68,9 | 85,0 |
| Qwen3.5 9B4-bit | 71,7 | 67,0 | 79,7 | 80,0 | 49,6 | 92,0 |
| Gemma 4 12B Coder8-bit · Community-Fine-Tune | 71,5 | 65,9 | 84,0 | 55,7 | 62,9 | 88,9 |
| Gemma 4 12B it4-bit | 66,9 | 61,6 | 79,0 | 54,0 | 55,6 | 85,5 |
| Gemma 4 12B Coder4-bit · Community-Fine-Tune | 66,6 | 60,5 | 80,4 | 52,2 | 56,6 | 84,0 |
Wofür nutzt du KI?
Lokal, Cloud oder beides
01 Private Notizen und PDFs Lokales 7B–13B-Modell zuerst testen Lokal
Auf 8 GB eher 7B–9B, ab 16 GB wird 13B realistischer. Wichtig sind Kontextlänge und Halluzinationsrate.
Lokale Modelle öffnen → 02 Lange Dokumente und Recherche Starkes Cloud-Modell mit Quellenkontrolle CloudClaude, Gemini oder ChatGPT lohnen sich, wenn 100K+ Kontext, Quellenprüfung und Export wichtiger sind als Offline-Betrieb.
Cloud-KI vergleichen → 03 Coding, Agenten, Multimodal Hybrid: Cloud-Agent, lokale Checks HybridCloud-Agenten sind stärker bei großen Refactors und Vision-Aufgaben. Lokale Checks bleiben für Diffs, Tests und vertrauliche Repos sinnvoll.
Coding-Artikel lesen →Redaktion
Neueste Artikel
Neue Modelle und bewährte Anleitungen
- Kimi K3.1 Pro: Preise, Benchmarks, Hermes und Mac Kimi K3.1 Pro seit 23. Oktober: API-Preise, 1M Kontext, unabhängige Benchmarks, Hermes-Konfiguration und …
- DeepSeek V4.1 Flash 1017: Coding-Gewinne, API-Kosten und Agenten-Check DeepSeek V4.1 Flash 1017 ist seit dem 17. Oktober 2026 verfügbar. Was sich bei Coding-Benchmarks ändert, wie …
- Meta Muse Wonder: Preise, Benchmarks, API und Mac-Nutzung Muse Wonder und Wonder Full im Faktencheck: API-Kosten, unabhängige Benchmarks, 1M Kontext, OpenRouter, …
- Kimi K3.1 Pro: API Pricing, Benchmarks and Hermes on Mac Kimi K3.1 Pro launched October 23: U.S. API pricing, million-token context, independent benchmark data, Hermes …
- DeepSeek V4.1 Flash 1017: Coding Gains, API Costs, and Agent Setup DeepSeek V4.1 Flash 1017 launched on October 17, 2026: reported coding gains, official US-dollar API rates, …
- Meta Muse Wonder: Pricing, Benchmarks, API Access and Mac Setup What Meta Muse Wonder really costs: the API, OpenRouter access, independent scores, 1M context, Wonder Full, …
Gerade überarbeitet
So arbeiten wir
Gemessen, belegt, getrennt
KI-unterstützte Recherche, redaktionelle Prüfung und Verantwortung: Julian Dominic Altmann.
Arbeitsweise →Eigene Messungen
Chip, RAM, macOS, Runtime, Quantisierung und Prompt werden pro Test dokumentiert.
Primärquellen
Modellkarten, Doku und Paper zuerst; Herstellerangaben werden gekennzeichnet.
Klare Kennzeichnung
Affiliate-Links und Werbung sind markiert und ändern keine Empfehlung.