Nex N2 Pro kombiniert offene Gewichte mit 397 Milliarden Gesamtparametern und 17 Milliarden aktiven Parametern pro Token; Nex AGI berichtet starke Coding- und Agenten-Benchmarks. Für Mac-Nutzer ist die entscheidende Frage deshalb: Lässt es sich sinnvoll auf dem eigenen Mac verwenden?
Für fast alle lautet die ehrliche Antwort: nicht lokal, nicht als Pro-Modell und nicht als unkompliziertes Ollama- oder MLX-Setup.
Nex N2 Pro ist ein großes Modell für GPU-Server. Ein Mac kann trotzdem eine Rolle spielen, aber eher als Entwicklungsrechner oder Client für einen extern betriebenen Inference-Server. Wer lokal arbeiten möchte, sollte sich den kleineren Nex-N2-mini-Ableger oder andere Modelle in einer realistischeren Größenklasse ansehen.
Nex N2 Pro auf dem Mac: die praktischen Grenzen
| Frage | Ehrliche Antwort |
|---|---|
| Läuft Nex N2 Pro auf einem normalen MacBook oder Mac mini? | Nein. |
| Reichen 64 GB oder 128 GB Unified Memory? | Nein. |
| Ist es ein 17B-Modell, weil 17B Parameter aktiv sind? | Nein. Die übrigen Experten müssen weiterhin gespeichert werden. |
| Gibt es einen offiziellen MLX- oder Ollama-Workflow? | Die offizielle Dokumentation beschreibt SGLang und vLLM, nicht MLX oder Ollama auf Apple Silicon. |
| Kann ein Mac trotzdem mit Nex N2 Pro arbeiten? | Ja, als Client für einen Remote-Server oder eine API. |
| Welche Nex-Variante ist für lokale Macs interessanter? | Nex-N2-mini mit 35B Gesamtparametern ist deutlich plausibler, aber ebenfalls kein Modell für kleine Macs. |
Was ist Nex N2 Pro?
Nex N2 Pro ist ein offen gewichtetes Agentenmodell von Nex AGI unter Apache-2.0-Lizenz. Es basiert laut Model Card auf Qwen3.5-397B-A17B: einem Mixture-of-Experts-Modell mit 397 Milliarden Gesamtparametern und ungefähr 17 Milliarden aktiven Parametern pro Token.
Der Schwerpunkt liegt nicht auf einem einzelnen Chat-Prompt, sondern auf Aufgabenketten:
- Code schreiben, ausführen und überarbeiten
- Tools und APIs aufrufen
- Recherche- und Browser-Workflows strukturieren
- Terminal-Aufgaben durchführen
- Ergebnisse gegen Feedback aus der Umgebung prüfen
Nex AGI nennt diesen Ansatz „Agentic Thinking”. Hinter dem Begriff steckt eine nachvollziehbare Idee: Das Modell soll bei einfachen Aufgaben schnell handeln und bei schwierigen Aufgaben mehr Zwischenschritte, Planung und Prüfung einsetzen. Das ist sinnvoll für Agenten-Workflows, sagt aber noch nichts darüber aus, ob ein Modell auf deiner Hardware gut läuft.
Die wichtigste Zahl ist nicht 17B, sondern 397B
Bei MoE-Modellen werden pro Token nur Teile des gesamten Modells aktiviert. Das senkt den Rechenaufwand pro erzeugtem Token. Es senkt jedoch nicht den Speicherbedarf auf die Größe eines 17B-Modells.
Das Modell muss seine Experten im Speicher behalten, damit der Router je nach Eingabe die passenden Experten auswählen kann. Daher gilt:
17B aktive Parameter beschreiben vor allem die Rechenarbeit pro Token. Für das Laden des Modells zählt weiterhin die Größe aller Gewichte.
Die offizielle BF16-Ablage umfasst laut Hugging Face rund 794 GB. Die separat veröffentlichte FP8-Ablage liegt bei rund 400 GB. Rechnerisch wären die Gewichte bei durchgehender 4-Bit-Speicherung ungefähr 198,5 GB groß; das ist keine veröffentlichte, für Apple Silicon validierte Quantisierung. Zu allen Gewichtsgrößen kommen Runtime, Kontext, KV-Cache und Betriebssystem hinzu.
Offizielle FP8-Version: weniger Speicher, aber weiterhin Server-Größenordnung
Neben dem BF16-Checkpoint gibt Nex AGI eine separate FP8-Version nex-agi/Nex-N2-Pro-fp8 heraus. Hugging Face zeigt für diese Ablage rund 400 GB. Für die Speicherplanung ist das wichtig: FP8 ist ein offiziell bereitgestelltes Gewichtsformat, nicht die bloße Annahme, irgendwann werde eine Community eine 4-Bit-Datei konvertieren.
| Repräsentation | Rechenweg bei 397 Mrd. Parametern | Aussage für den Mac |
|---|---|---|
| BF16 (offiziell) | 397 Mrd. × 2 Byte ≈ 794 GB | Weit außerhalb der 512-GB-Klasse |
| FP8 (offiziell) | grob 1 Byte/Parameter; Repository ≈ 400 GB | Selbst 512 GB garantieren weder Mac-Runtime noch ausreichend KV-Cache |
| 4 Bit (theoretisch) | 397 Mrd. × 0,5 Byte ≈ 198,5 GB | Kein nachgewiesenes offizielles Mac-Paket; Metadaten und Kontext fehlen |
Die Werte sind dezimal GB, keine GiB-Speicherzuweisung. Tensorformate, nicht quantisierte Teile und Metadaten verändern reale Dateien und Arbeitsspeicherbedarf. Vor allem: Eine FP8-Datei für CUDA-Inferenz lässt sich nicht allein wegen ihrer Dateigröße mit MLX oder Ollama auf macOS laden. BF16-Dateien · FP8-Dateien.
Speicherbedarf: Die lokale Realität auf Apple Silicon
Die Tabelle ist keine Garantie für jede künftige Quantisierung. Sie zeigt die Größenordnung, die man vor einem Download verstehen sollte.
| Speicherklasse | Nex N2 Pro lokal? | Einordnung |
|---|---|---|
| 16-32 GB | Nein | Bereits deutlich kleinere lokale Modelle müssen stark quantisiert werden. |
| 64 GB | Nein | Für 397B-Gewichte auch in 4 Bit viel zu wenig. |
| 128 GB | Nein | Nicht genug Platz für eine realistische Pro-Quantisierung samt Laufzeitpuffer. |
| 192 GB | Praktisch nein | Die theoretische 4-Bit-Untergrenze liegt bereits ungefähr in dieser Größenordnung. |
| 256 GB | Experiment statt Empfehlung | Gewichte, Kontext und Laufzeitpuffer machen das Setup unattraktiv und unbestätigt. |
| 512 GB | Spezialfall (M5 Ultra) | Apple bietet diese Kapazität an; FP8-Gewichte könnten rechnerisch hineinpassen, ein unterstützter Nex-N2-Pro-Mac-Port ist nicht dokumentiert. |
Laut Apple-Datenblatt für Deutschland bietet der Mac Studio mit M5 Ultra Konfigurationen mit 256 oder 512 GB Unified Memory. Die Tabelle bewertet Speicherplatz, nicht die Funktionsfähigkeit einer bestimmten Inferenz-Engine: Für Nex N2 Pro fehlt weiterhin ein belegter Mac-Port.
Der häufige Denkfehler ist: „Mein Mac hat viel Unified Memory, also kann er jedes quantisierte Modell laden.“ Unified Memory ist für lokale KI nützlich, beseitigt aber keine Größenordnung von mehreren hundert Gigabyte. Präziser als „alle MoE-Experten müssen dauerhaft im RAM liegen“ ist: Die Gewichte aller Experten müssen für die Inferenz zugänglich sein. Eine spezielle Engine könnte Teile auf SSD oder in anderen Speicher auslagern. Das reduziert eventuell den gleichzeitig belegten Arbeitsspeicher, nicht die Größe des gesamten Modells; zusätzliche Datenübertragungen können die Tokenrate stark begrenzen. Für Nex N2 Pro ist kein getesteter schneller Mac-Offloading-Pfad dokumentiert. Deshalb ist aus einer 256- oder 512-GB-RAM-Zahl weder Kompatibilität noch brauchbare Agentenleistung abzuleiten.
Hinzu kommen Kontext und KV-Cache, Runtime-Puffer, Bildverarbeitung und andere Mac-Apps. Die zuvor genannten 198,5 GB sind nur eine rechnerische 4-Bit-Rohgewichts-Untergrenze, keine angebotene, nachgewiesen funktionierende Quantisierung. Wer ein Offloading-Experiment behauptet, muss Modell-/Runtime-Version, quantisierte Dateigröße, tatsächlichen RAM- und Swap-Verbrauch, Promptlänge sowie Tokens/s veröffentlichen.
Warum die offizielle Deployment-Anleitung wichtig ist
Die Model Card nennt für Nex N2 Pro als Referenz einen Multi-Node-Start mit zwei Servern und insgesamt 16 H100-GPUs. Das ist keine Mindestanforderung für jede denkbare Inferenz, aber es zeigt eindeutig, für welche Umgebung Nex AGI das Pro-Modell optimiert und getestet hat.
Offiziell beschrieben werden:
- ein angepasster Fork von SGLang
- vLLM
- CUDA-basierte GPU-Server
- Tensor Parallelism über mehrere GPUs und Server
Nicht beschrieben wird ein getesteter Apple-Silicon-Workflow mit MLX, LM Studio oder Ollama. Das ist ein wichtiger Unterschied zwischen „die Gewichte sind offen verfügbar” und „das Modell ist lokal auf dem Mac alltagstauglich”.
Nex N2 Pro vom Mac aus nutzen: sicherer Verbindungstest
Wenn Nex N2 Pro bereits auf eigener, geeigneter GPU-Serverhardware mit SGLang läuft, kann der Mac den OpenAI-kompatiblen Endpunkt ansprechen. Nex AGI dokumentiert dafür unter anderem --tool-call-parser qwen3_coder und --reasoning-parser qwen3; die SGLang-Referenz verwendet zwei Server mit zusammen 16 H100-GPUs. Diese Hardware wird durch die folgenden Mac-Befehle nicht bereitgestellt.
Sicherer Weg ohne öffentlichen Inferenz-Port: Voraussetzung ist ein bereits funktionierender Server, ein SSH-Konto sowie ein auf dem Server erreichbarer SGLang-Endpunkt unter 127.0.0.1:30000. Dann auf dem Mac:
# Auf dem Mac: lokale Verbindung durch SSH zum GPU-Server tunneln.
ssh -N -L 18000:127.0.0.1:30000 user@your-gpu-serverIn einem zweiten Mac-Terminal:
# Verfügbare Modell-IDs über den Tunnel prüfen.
curl --fail-with-body -sS http://127.0.0.1:18000/v1/models
# YOUR_MODEL_ID aus der Modellliste übernehmen.
curl --fail-with-body -sS http://127.0.0.1:18000/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"YOUR_MODEL_ID","messages":[{"role":"user","content":"Antworte nur mit OK."}],"max_tokens":64}'Wichtige Abgrenzung: localhost:18000 ist nur auf dem Mac lokal. Die Inferenz und übermittelten Prompts laufen auf dem GPU-Server. Das SSH-Tunnel-Beispiel setzt voraus, dass der Server-Port nicht öffentlich erreichbar ist, dass der Server administrativ abgesichert ist und dass deine SSH-Identität berechtigt ist. Ein ungeschützter SGLang-Endpunkt darf nicht direkt ins Internet gestellt werden. Ergebnisse, Agenten-Tools und Datenspeicherung hängen von der tatsächlichen Serverkonfiguration ab; für sensible Repositories müssen Anbieter, Region und Auftragsverarbeitung geprüft werden.
Funktioniert Nex N2 Pro mit Ollama oder MLX?
Derzeit taugt kein einzelner Ollama- oder MLX-Befehl als verlässliche Anleitung.
Es kann künftig Community-Konvertierungen nach GGUF oder MLX geben. Eine Konvertierung allein löst aber nicht die entscheidenden Probleme:
- Speicher: Eine 4-Bit-Variante bleibt grob ein 200-GB-Projekt, bevor Kontext und Laufzeit dazukommen.
- Kompatibilität: MoE-Architektur, Chat-Template, Tool Calling und Reasoning-Ausgabe müssen in der jeweiligen Runtime korrekt unterstützt werden.
- Geschwindigkeit: Selbst wenn das Modell startet, kann die Ausgabe so langsam sein, dass Agenten-Workflows kaum noch sinnvoll sind.
- Reproduzierbarkeit: Ohne dokumentierte Mac-Benchmarks und eine gepflegte Modellvariante ist das Setup eher Experiment als Empfehlung.
MLX und Ollama bleiben für viele lokale Modelle auf Apple Silicon gute Optionen. Nex N2 Pro liegt jedoch in einer anderen Gewichtsklasse.
Benchmarks: Gemeldete Werte im Kontext lesen
Die folgende Auswahl stammt aus Nex AGIs eigener Model Card. Die Benchmarks untersuchen unterschiedliche Fähigkeiten und verwenden nicht dieselbe Skala:
| Benchmark | Nex N2 Pro | Was der Wert grob abbildet |
|---|---|---|
| BrowseComp | 83,7 | Recherche und informationsintensive Browser-Aufgaben |
| GDPval | 1.585 | Langfristige, wirtschaftlich orientierte Agentenaufgaben |
| Toolathlon | 51,9 | Tool-Nutzung in mehreren Schritten |
| SWE-Bench Pro | 58,8 | Software-Engineering-Aufgaben |
| Terminal-Bench 2.1 | 75,3 | Aufgaben im Terminal und in realen Umgebungen |
| SWE-Bench Verified | 80,8 | Behebung realer Software-Issues |
| DeepSWE | 33,6 | Agentische Softwareentwicklung; anderer Bewertungsmaßstab |
| GPQA Diamond | 90,7 | Anspruchsvolle wissenschaftliche Fragen |
Von den 16 in der Model Card aufgeführten Benchmarks sind hier acht gezeigt, darunter DeepSWE. Dort liegt Nex N2 Pro laut derselben Herstellertabelle bei 33,6, GPT-5.5 dagegen bei 70 und Opus 4.7 bei 54. Unterschiedliche Benchmarks lassen sich nicht über ihre Zahlenwerte miteinander vergleichen.
Diese Zahlen machen Nex N2 Pro interessant, besonders für Teams mit eigener GPU-Infrastruktur. Sie sind aber Herstellerangaben. Benchmarks hängen an Versionen, Harness, Tool-Umgebung, Prompting, Limits und Auswertungsregeln. Ein hoher Terminal-Bench-Wert bedeutet nicht automatisch, dass das Modell jedes lokale Projekt zuverlässig implementiert oder auf einem Mac flott genug reagiert.
Die faire Schlussfolgerung lautet: Nex N2 Pro ist ein ernstzunehmendes offenes Agentenmodell. Seine veröffentlichten Zahlen sind ein Anlass zum Testen, keine Abkürzung um eigene Evaluierung.
Wo Nex N2 Pro sinnvoll eingesetzt wird
Nex N2 Pro passt eher zu diesen Szenarien:
- Ein Team betreibt mehrere NVIDIA-GPUs oder mietet passende Inferenzkapazität.
- Ein Unternehmen möchte ein offen lizenziertes Modell in einer eigenen Agenten-Architektur evaluieren.
- Tool Calling, Terminal-Interaktion und mehrstufige Coding-Aufgaben sind wichtiger als eine kleine lokale Desktop-App.
- Der Mac dient als Editor, Terminal und Steuerzentrale für einen Remote-Server.
Für einen Mac als Client ist das Modell durchaus relevant. Du kannst beispielsweise deinen Code lokal schreiben, den Agenten auf einem externen Server ausführen lassen und die Änderungen anschließend lokal prüfen. Die Daten verlassen in diesem Fall jedoch deinen Mac. Ob das akzeptabel ist, hängt von Serverstandort, Vertrag, Zugriffsrechten und deinem Umgang mit Quellcode ab.
Wann du stattdessen ein kleineres Modell wählen solltest
Wenn dein Ziel wirklich lokale KI auf dem Mac ist, sind diese Kriterien wichtiger als die Gesamtparameterzahl:
- Das Modell passt mit brauchbarer Quantisierung und Kontextreserve in deinen Unified Memory.
- Es gibt eine gepflegte MLX- oder GGUF-Variante.
- Die Runtime unterstützt Tool Calling und das Chat-Template zuverlässig.
- Es existieren nachvollziehbare Mac-Benchmarks oder zumindest praktische Erfahrungsberichte.
- Die Antwortgeschwindigkeit passt zu deinem Workflow.
Nex-N2-mini basiert laut Nex AGI auf Qwen3.5-35B-A3B-Base. Mit 35B Gesamtparametern rückt es spürbar näher an eine realistische lokale Mac-Klasse als Nex N2 Pro. Trotzdem greift der isolierte Blick auf die drei Milliarden aktiven Parameter zu kurz: Für die Speicherplanung bleibt unverändert die gesamte Gewichtsmenge ausschlaggebend.
Für viele Nutzer ist ein gut laufendes 14B-, 24B- oder 32B-Modell produktiver als ein Pro-Modell, das nur mit Mühe startet. Ein lokaler Coding-Workflow lebt von kurzen Wartezeiten, stabiler Tool-Nutzung und genug Reserven für Editor, Browser und Tests.
Fazit: Ein starkes Servermodell, kein normaler Mac-Download
Nex N2 Pro zeigt, wie weit offene Agentenmodelle inzwischen reichen: starke veröffentlichte Werte in Coding, Terminal-Aufgaben, Tool-Nutzung und komplexeren Workflows, kombiniert mit einer permissiven Apache-2.0-Lizenz.
Für lokale KI auf einem normalen Mac ist die Empfehlung trotzdem klar: Nex N2 Pro nicht als primäres Modell einplanen. Die 17B aktiven Parameter machen es rechenökonomischer als ein dichtes 397B-Modell, aber nicht klein. Die Gewichte, der Kontext und die Runtime-Anforderungen bleiben weit oberhalb dessen, was MacBook, Mac mini und die meisten Mac-Studio-Konfigurationen sinnvoll abdecken.
Nutze Nex N2 Pro, wenn du Zugriff auf passende GPU-Server hast und ein offenes Agentenmodell ernsthaft evaluieren möchtest. Für lokale Apple-Silicon-KI ist Nex-N2-mini oder ein kleineres, gut unterstütztes Modell die deutlich bessere Ausgangsbasis.
FAQ
Ist Nex N2 Pro Open Source?
Die Gewichte von Nex N2 Pro werden auf Hugging Face unter der Apache-2.0-Lizenz bereitgestellt. „Open Source” beschreibt dabei Lizenz und Verfügbarkeit der Gewichte; es bedeutet nicht automatisch, dass jede Trainingskomponente, jeder Datensatz oder jede Produktionspipeline vollständig offengelegt ist.
Kann ich Nex N2 Pro mit 128 GB Unified Memory auf einem Mac nutzen?
Nicht sinnvoll lokal. Selbst eine theoretische 4-Bit-Variante der reinen 397B-Gewichte liegt deutlich über 128 GB. Für Kontext, Runtime und macOS bliebe ohnehin kein praktikabler Puffer.
Warum helfen die 17B aktiven Parameter nicht genug?
Bei MoE wird pro Token nur ein Teil der Experten berechnet. Damit die Runtime aber den passenden Experten wählen kann, müssen die Modellgewichte weiterhin verfügbar sein. Rechenbedarf und Speicherbedarf sind deshalb zwei unterschiedliche Fragen.
Ist Nex N2 Pro besser als ein kleineres Modell für Coding?
Bei anspruchsvollen, serverseitigen Agentenaufgaben kann Nex N2 Pro laut den veröffentlichten Ergebnissen sehr stark sein. Für lokale Coding-Arbeit auf einem Mac ist ein kleineres Modell, das schnell und stabil läuft, meist die produktivere Wahl.
Für lokale Qwen-basierte Alternativen steht der Qwen3.8-27B-Guide bereit; die Speicherrealität erklärt der Unified-Memory-Guide.
Quellen und Methodik
- Nex AGI: Nex-N2-Pro Model Card
- Nex-N2-Pro: Dateigröße, Lizenz und bereitgestellte Runtime-Hinweise
- Nex AGI: Nex-N2 Repository
- Nex AGI: offizieller FP8-Checkpoint und Dateien
- Apple Deutschland: Mac Studio mit M5 Ultra, 256 und 512 GB
Redaktionsprüfung: 11. Oktober 2026. Die Hugging-Face-Dateiansicht zeigt für die originale BF16-Ablage rund 794 GB und für Nex-N2-Pro-fp8 rund 400 GB. Das rechnerische 4-Bit-Minimum von 198,5 GB ist kein geprüfter GGUF-/MLX-Download und keine tatsächliche RAM-Messung. Apple bestätigt die 256- und 512-GB-Konfigurationen des M5 Ultra, nicht die Nex-N2-Pro-Kompatibilität. Eigene Mac-Benchmarks wurden nicht durchgeführt.
Häufig gestellte Fragen
Läuft Nex N2 Pro lokal auf einem Mac?
Für typische MacBooks und Mac mini nein. Nex AGI bietet rund 794 GB BF16- und etwa 400 GB FP8-Gewichte an; 4 Bit ergibt rechnerisch mindestens 198,5 GB ohne Runtime und Kontext. Ein 512-GB-Mac-Studio könnte FP8 zwar vom Speicher her aufnehmen, aber ein getesteter, unterstützter Mac-Port ist nicht dokumentiert.
Reichen 17B aktive Parameter, um es als kleines Modell zu behandeln?
Nein. Die 17B beschreiben nur die Rechenarbeit pro Token. Beim Laden zählt die Größe aller Gewichte, was einem 397B-MoE-Modell entspricht.
Worauf basiert Nex N2 Pro?
Laut Model Card auf Qwen3.5-397B-A17B: einem Mixture-of-Experts-Modell mit 397 Milliarden Gesamtparametern und ungefähr 17 Milliarden aktiven Parametern pro Token, veröffentlicht unter Apache 2.0.
Wie nutze ich Nex N2 Pro trotzdem sinnvoll?
Über API- oder Cloud-Anbieter beziehungsweise eigene Server-Hardware. Der Mac dient dabei als Client; für private Offline-Aufgaben bleiben kleinere lokale Modelle die realistischere Wahl.