Tag
#kv-cache
2 Artikel
Wie viel RAM braucht ein lokales LLM auf dem Mac?
Wie viel Unified Memory lokale LLMs auf Apple-Silicon-Macs wirklich brauchen – mit Formeln, KV-Cache-Rechnungen und Kaufberatung von 8 bis 512 GB.
How Much RAM Does a Local LLM Need on a Mac?
A practical guide to unified memory for local LLMs on Apple silicon, including weight math, KV-cache examples, Mac tiers and buying advice.