Tag
#mlx
26 Artikel
Ternary Bonsai 2 27B fact check: 5.9 GB, 262K context, and the runtime catch
Ternary Bonsai 2 27B: 5.95 GB GGUF needs PrismML's fork, MLX requires a bundled loader, and Mac RAM and vision limits need checking.
Ternary Bonsai 2 27B im Faktencheck: 5,9 GB, 262K Kontext – aber mit Runtime-Haken
Ternary Bonsai 2 27B: 5,95-GB-GGUF, PrismML-Fork statt Standard-llama.cpp, MLX-Loader, RAM-Grenzen und reproduzierbare Mac-Tests.
Qwen3.8-Flash im Faktencheck: Preise, 1M Kontext, Benchmarks und Flash-Next erklärt
Qwen3.8-Flash geprüft: aktuelle Preise, 1M Kontext, API-Funktionen, Benchmarks und der wichtige Unterschied zu Qwen3.8-Flash-Next.
Qwen3.8-Flash Explained: Pricing, 1M Context, Benchmarks, and Flash-Next
A source-checked guide to Qwen3.8-Flash pricing, its 1M context window, API features, benchmarks, and the separate Flash-Next open-weight release.
Qwen3.8-27B auf dem Mac: MLX, Speicherbedarf und Benchmarks
Qwen3.8-27B seit 14. August 2026 als offizieller Open-Weight-Checkpoint. Parameterzahl, Lizenz, MLX/GGUF-Versionen, Mac-Speicherbedarf, offene Benchmark-Fragen.
Qwen3.8-27B on Mac: MLX setup, memory and benchmarks
Qwen3.8-27B landed August 14, 2026 as an official open-weight checkpoint. Metadata, MLX/GGUF ecosystem, Mac memory math and remaining benchmark gaps.
Meta Muse Glimmer 30B im Faktencheck: lokales Agentenmodell für 24/32 GB
Muse Glimmer 30B geprüft: 24/32-GB-Hardware, DFlash-Speed, 131K Kontext, Ollama/MLX und Benchmarks gegen Qwen3.6-27B – mit Methodikcheck.
Meta Muse Glimmer 30B fact-checked: 24/32 GB, DFlash, Qwen3.6-27B
Muse Glimmer 30B checked: 24/32 GB hardware, DFlash speed, 131K context, Ollama/MLX and independent benchmarks against Qwen3.6-27B.
NVIDIA Nemotron 3.5 Lightning: 30B-Agentenmodell, 1M Kontext, RTX & Mac
Faktencheck zu NVIDIA Nemotron 3.5 Lightning: 30B/3B-Architektur, 1M Modellmaximum, unabhängige Benchmarks, API-Preise und lokale Nutzung.
NVIDIA Nemotron 3.5 Lightning: 30B agent model, 1M context, RTX & Mac
NVIDIA Nemotron 3.5 Lightning: 30B MoE with 3B active, up to 1M context, $0.05/$0.20 per 1M tokens on OpenRouter, about 670 tok/s on NVFP4.
Best MacBook for AI Development in 2026: M5 Pro 48GB vs 64GB
M5 Pro 48GB is the best overall MacBook for local AI development (7B-32B models). M5 Air 24GB, M5 Pro 64GB and M5 Max 128GB for Ollama, MLX, LM Studio.
MacBook für KI-Entwicklung 2026: M5 Pro 48 GB vs 64 GB im RAM-Check
M5 Pro mit 48 oder 64 GB ist die ausgewogenste Wahl für lokale KI-Entwicklung. M5 Air 24 GB, M5 Pro und M5 Max 128 GB für Ollama, MLX, LM Studio.
Apple Intelligence Local AI: On-Device Models, PCC and Apple Silicon
Which Apple Intelligence requests stay on your Mac, which go to Private Cloud Compute or ChatGPT, and which need an M3 with 12GB.
Apple Intelligence: Lokale KI, Foundation Models und Private Cloud Compute
Apple Intelligence nutzt ein ~3B-On-Device-Modell; AFM 3 Core Advanced hat 20 Mrd. Parameter, davon 1–4 Mrd. aktiv. Komplexes geht an Private Cloud.
Nex N2 Pro auf dem Mac: Was 397B MoE in der Praxis bedeuten
Nex N2 Pro auf dem Mac: 397B/17B MoE, offizielles FP8 mit 400 GB, realistische RAM-Grenzen und sichere Remote-Nutzung statt erfundener MLX-Tests.
Nex N2 Pro on Mac: What 397B MoE Means in Practice
Nex N2 Pro on Mac: 397B/17B MoE, official 400GB FP8 release, realistic memory limits, and secure remote use without invented MLX benchmarks.
Gemma 4 12B auf dem Mac: RAM, Ollama, MLX und Multimodalität
Gemma 4 12B Unified bietet 256K Kontext sowie Text-, Bild-, Audio- und Videoeingaben. Aktueller Mac-Check für Ollama, MLX, RAM und Benchmarks.
Gemma 4 12B on Mac: RAM, Ollama, MLX and Multimodal Support
Gemma 4 12B runs on 16GB Macs in 4-bit (~8GB package): 256K context, image, audio and video input, plus a repeatable 16/24/32GB RAM check for Ollama and MLX.
Gemma 4 26B vs. Qwen3.6 27B auf dem Mac: RAM, Ollama und MLX
Gemma 4 26B A4B und Qwen3.6 27B im Mac-Vergleich: RAM, Ollama, MLX, Coding, Multimodalität und der Hinweis auf den neueren Qwen3.8-Nachfolger.
Gemma 4 26B vs Qwen3.6 27B on Mac: RAM, Ollama and MLX
Gemma 4 26B A4B and Qwen3.6 27B compared on Mac: RAM, Ollama, MLX, coding, multimodality and the newer Qwen3.8 successor.
Wie viel RAM braucht ein lokales LLM auf dem Mac?
16 GB für 7B–8B, 24–32 GB Sweet Spot für 12B–32B, 70B Q4 ab 64 GB mit Checks. Mac-RAM-Staffeln für Ollama, LM Studio und MLX, inkl. KV-Cache und Systemreserve.
How Much RAM Does a Local LLM Need on a Mac?
16GB runs 7B–8B models, 24–32GB is the sweet spot for 12B–32B, and 70B Q4 needs 64GB with checks. Mac RAM tiers for Ollama, LM Studio and MLX, incl. KV cache.
Apple Intelligence vs Local AI: Mac Privacy Guide
Apple Intelligence routes requests to Private Cloud Compute or ChatGPT, so it is not local inference. A local Ollama or MLX model needs cloud features off.
Apple Intelligence vs. lokale KI: Datenschutz auf dem Mac
Apple Intelligence, PCC und ChatGPT: Wann Daten den Mac verlassen und wie du Ollama mit deaktivierten Cloud-Funktionen lokal betreibst.
Mac mini M4 for Local AI in 2026: 16GB, 24GB or M4 Pro?
The Mac mini M4 with 24GB is the practical pick for local AI: 4B-8B models with headroom. 32GB opens 8B-14B, M4 Pro adds bandwidth. Check Activation Lock used.
Mac mini M4 für lokale KI 2026: 16 GB, 24 GB oder M4 Pro?
Mac mini M4 gebraucht für lokale KI kaufen? Prüfe 16–64 GB RAM, Aktivierungssperre, Bandbreite und den Vergleich zum M6 – mit Quellen und Grenzen.