NVIDIA Nemotron 3 Ultra auf dem Mac: Cloud-Tag, 256K und NIM

Neuere Version: Dieser Artikel beschreibt NVIDIA Nemotron 3 Ultra. Die neuere Version NVIDIA Nemotron 3.5 Lightning ist inzwischen verfügbar.

Stand: 11. Oktober 2026. NVIDIA Nemotron 3 Ultra lässt sich vom Mac aus verwenden, ist aber kein lokal auf Apple Silicon ausgeführtes Modell. In der aktuellen Ollama-Modellbibliothek steht der konkrete Tag nemotron-3-ultra:cloud. Ollamas Cloud-Dokumentation erklärt, dass solche Modelle automatisch an den Cloud-Dienst ausgelagert werden; der Mac stellt also den Client und gegebenenfalls lokale Tools, nicht die Modellinferenz.

Die entscheidende Frage lautet deshalb nicht „Wie installiert man 550B auf dem Mac?“, sondern: Ist eine Cloud-Inferenz mit den eigenen Daten erlaubt, und passt die konkrete Provider-Konfiguration zum Vorhaben?

Kurzentscheidung

Die wichtigsten Fragen zu Nemotron 3 Ultra auf dem Mac, jeweils mit der vom Hersteller dokumentierten Einordnung:

Frage	Belastbare Einordnung
Lokale Inferenz auf Apple Silicon	Nicht der von Ollama oder NVIDIA dokumentierte Pfad.
Nutzung vom Mac aus	Ja, über den Ollama-Cloud-Tag oder einen API-Provider.
Modellklasse	550B Gesamtparameter und bis zu 55B aktive Parameter pro Token; so beschreiben es NVIDIA und Ollama.
Aktueller Ollama-Tag	nemotron-3-ultra:cloud, Text-Eingabe, 256K im aktuellen Tags-Eintrag.
NIM-Standardkontext	256K beziehungsweise 262.144 Token laut NVIDIA-NIM-Guide.
NIM-Langkontext	Bis zu 1M konfigurierbar, aber nicht als allgemeiner Default; der Override braucht zusätzliche Konfiguration und Qualitätsprüfung.
Offline-Nutzung	Nein. Ollama Cloud benötigt Konto und Verbindung; APIs benötigen zusätzlich die jeweilige Authentifizierung.
Selbst gehosteter NIM	NVIDIA-GPU-, CUDA-, Linux-, Docker- und sehr große Speicheranforderungen; kein MacBook-Installationsrezept.

Was Ollama aktuell anbietet

Die Ollama-Modellseite positioniert Nemotron 3 Ultra für hochdurchsatzfähiges Reasoning und lang laufende Agenten. Die Tags-Seite ist für die konkrete Mac-Entscheidung wichtiger als eine allgemeine Marketingbeschreibung: Dort wird nemotron-3-ultra:cloud aktuell mit 256K Kontext, Text-Eingabe und Cloud-Nutzung geführt.

Ollama zeigt außerdem Integrationen wie:

ollama launch hermes --model nemotron-3-ultra:cloud

Für allgemeine Chats nennt der Ollama-Beitrag vom 4. Juni 2026 den Befehl:

ollama run nemotron-3-ultra:cloud

Beide Befehle werden lokal im Terminal eingegeben. Das macht die Benutzeroberfläche lokal, nicht die Inferenz. Für Cloud-Modelle verlangt Ollama ein Konto; die Authentifizierungsdokumentation unterscheidet zwischen ollama signin für die lokale Installation und API-Schlüsseln für den direkten Zugriff auf ollama.com.

Ollama Cloud: Preise pro Million Tokens (11. Oktober 2026)

Ollama listet für nemotron-3-ultra:cloud jetzt einen konkreten Cloud-Tarif in US-Dollar. Das ist keine Preisangabe für NVIDIA NIM, einen Drittanbieter oder eine lokale Installation:

Ollama Cloud · Nemotron 3 Ultra	USD je 1 Mio. Tokens
Regulärer Input	0,10 USD
Cached Input	0,10 USD
Output	3,00 USD

Rechenbeispiel: 100.000 Input-Tokens und 10.000 Output-Tokens ergeben ohne Sonderkonditionen 0,04 USD: 0,1 × 0,10 + 0,01 × 3,00. Dabei ist der teure Output-Anteil bereits 75 % der Summe. Ein Agent, der viele lange Antworten und Tool-Läufe erzeugt, kann deshalb trotz günstiger Eingabetokens merklich kosten. Die auf der Preisliste identischen Sätze für normalen und gecachten Input liefern bei diesem Modell keinen zusätzlichen Preisvorteil durch Cache-Hits.

Die Preise stammen aus der Ollama-Modellübersicht und Ollamas Preisliste, erneut geprüft am 11. Oktober 2026. In Deutschland sind die USD-Tarife keine garantierten EUR-Endpreise inklusive Steuern; Abo-Abrechnung und Steuern können abweichen. NVIDIAs Build-/NIM-Angebot oder andere API-Router rechnen separat ab.

Ollama-Abos sind Guthaben – nicht unbegrenzte Tokens

Stand 11. Oktober 2026: Ollama hat auf ein nutzungsbasiertes Guthabensystem umgestellt. Das Free-Konto umfasst ein kleines Starterguthaben für ausgewählte Modelle; weitere Nutzung erfordert bei Bedarf zusätzlich gekaufte Credits. Pro kostet in der aktuellen US-Preisliste 20 USD pro Monat (alternativ 200 USD jährlich) und umfasst 60 USD monatliches Nutzungsguthaben. Max kostet 100 USD monatlich und umfasst 300 USD monatliches Nutzungsguthaben. Das Guthaben wird zu den modellabhängigen Tokenraten verbraucht; es ist keine Flatrate. Die aktuellen Limits für gleichzeitig laufende Anfragen: Free 1, Pro 3, Max 10. Nach Ollamas FAQ verfallen nicht verbrauchte enthaltene Credits beim Monatsreset, statt in den nächsten Monat übertragen zu werden. Ollama: Tarif- und Nutzungsregeln.

Beispiel Nemotron 3 Ultra	Eingabe	Ausgabe	Kosten bei aktuellem Tarif
Kurzer Test	100.000 Tokens	10.000 Tokens	0,04 USD
Agenten-Session	10 Mio. Tokens	2 Mio. Tokens	7,00 USD
Viele Agentenläufe	100 Mio. Tokens	20 Mio. Tokens	70,00 USD

Alle Beispiele sind eigene Rechenmodelle, kein Nutzungsbenchmark. Formel: Input-Millionen × 0,10 + Output-Millionen × 3,00. Andere Modelle, Tools und Provider können anders kosten. In Ollamas aktueller Preistabelle steht keine separate Off-Peak-Zeile für Nemotron 3 Ultra; für dieses Modell keinen automatisch halbierten Preis behaupten. Konto, verfügbare Credits und Kostenbudget vor einem längeren Agentenlauf prüfen.

Cloud-App und direkte Ollama-API unterscheiden

Für die lokale Ollama-CLI wird der :cloud-Tag verwendet. Ollamas aktuelle Cloud-API-Dokumentation empfiehlt dagegen, für direkte Aufrufe von https://ollama.com/api/chat den über https://ollama.com/api/tags gelieferten Modellnamen zu verwenden. Verwende nicht blind denselben Modellbezeichner für beide Schnittstellen. Die direkte API benötigt OLLAMA_API_KEY; der lokale Ollama-Client nutzt die Anmeldung. Weder der API-Zugriff noch eine Terminal-App machen die Modellberechnung lokal.

Agentenkosten selbst berechnen: Input, Cache und Ausgabe

Die aktuellen Ollama-Cloud-Preise für Nemotron 3 Ultra sind 0,10 USD pro Million reguläre Eingabetokens, 0,10 USD pro Million Cache-Eingabetokens und 3,00 USD pro Million Ausgabetokens. Die Cache-Zeile kostet hier genauso viel wie normaler Input, und Output ist pro Token 30-mal teurer. Das ist der konkrete Ollama-Tarif, nicht NVIDIAs NIM- oder ein anderer API-Tarif.

Mit diesem Rechner lassen sich Agenten-Workloads ohne API-Anfrage, Schlüssel oder Kosten schätzen. INPUT_TOKENS erfasst nur ungecachte Eingabe; gecachte Tokens gehören separat in CACHED_TOKENS, damit nichts doppelt gezählt wird.

INPUT_TOKENS=100000 CACHED_TOKENS=0 OUTPUT_TOKENS=10000 python3 - <<'PY'
from decimal import Decimal
import os
# Estimates only: no network request, API key or charge.
rates = {"INPUT_TOKENS": Decimal("0.10"), "CACHED_TOKENS": Decimal("0.10"), "OUTPUT_TOKENS": Decimal("3.00")}
defaults = {"INPUT_TOKENS": "100000", "CACHED_TOKENS": "0", "OUTPUT_TOKENS": "10000"}
cost = {}
for key, rate in rates.items():
    amount = Decimal(os.getenv(key, defaults[key]))
    if not amount.is_finite() or amount < 0 or amount != amount.to_integral_value():
        raise SystemExit(f"{key}: expected a nonnegative integer")
    cost[key] = amount / Decimal(1000000) * rate
total = sum(cost.values(), Decimal(0))
print(f"input: {cost['INPUT_TOKENS']:.4f} USD")
print(f"cached input: {cost['CACHED_TOKENS']:.4f} USD")
print(f"output: {cost['OUTPUT_TOKENS']:.4f} USD")
print(f"total: {total:.4f} USD (before taxes)")
PY

Die Beispielwerte ergeben 0,0400 USD. Bei 10 Mio. Eingabe- und 2 Mio. Ausgabetokens ergeben sich 7,0000 USD (1 USD für Input, 6 USD für Output); bei 100 Mio. Eingabe- und 20 Mio. Ausgabetokens 70,0000 USD. Diese Zahlen sind nur Berechnungen, keine gemessenen Agentenläufe. Das monatliche Ollama-Pro-Guthaben von 60 USD bzw. das Max-Guthaben von 300 USD wird auch von anderen Modellen verbraucht; Steuern und individuelle Kontoeinstellungen sind hier nicht enthalten.

Hermes-Test ohne echte Repository-Daten

Der von Ollama dokumentierte Befehl ollama launch hermes --model nemotron-3-ultra:cloud führt Modellberechnung in der Cloud aus. Für einen ersten Agententest ein isoliertes synthetisches Repository anlegen und keine produktiven Schreibrechte, API-Schlüssel oder persönlichen Dateien bereitstellen. Vor echtem Einsatz Cloud-Datentransfer, Tool-Freigaben, erlaubte Pfade, Tokenbudget und Abbruchregeln prüfen. Ein Cloud-Tag mit 256K Kontext ist kein 1M-Deployment. Für zwingend lokale Datenverarbeitung ein kleineres Modell mit belegter Mac-Runtime wählen.

256K und 1M sind keine austauschbaren Angaben

Die verschiedenen Zahlen gehören zu unterschiedlichen Betriebswegen:

Betriebsweg	Aktuelle Angabe	Was sie bedeutet
Ollama-Tag :cloud	256K	Der konkrete, auf Ollama gelistete Cloud-Tag zeigt diesen Kontextwert.
NVIDIA NIM, Standard	256K / 262.144	Das ist der native und per /v1/models gemeldete Default-Kontext.
NVIDIA NIM, expliziter Override	bis 1M	VLLM_ALLOW_LONG_MAX_MODEL_LEN=1 und ein höheres --max-model-len sind erforderlich. NVIDIA warnt vor zusätzlichem KV-Cache-Bedarf und nötiger Qualitätsvalidierung außerhalb des nativen Bereichs.
NVIDIA Technical Report	Langkontext bis 1M	Der Report beschreibt die Modell- und Trainingsseite; das ist keine Zusage, dass jeder Provider denselben Wert freischaltet.
Drittanbieter-Provider	providerabhängig	Die OpenRouter-Modellseite zeigt aktuell einen anderen Metadatenwert als ihre Beschreibung. Das ist ein Grund, die API-Antwort des tatsächlich gewählten Providers zu prüfen.

Damit sind die Angaben nicht einfach „256K oder 1M“. 256K ist der belastbare aktuelle Default für den Ollama-Tag und für NIM. 1M ist eine erweiterte Konfiguration beziehungsweise eine Provider-/Dokumentationsangabe, nicht automatisch die nutzbare Mac-Eigenschaft. Ein längerer Kontext braucht mehr KV-Cache und kann die parallele Auslastung reduzieren; NVIDIA empfiehlt, Qualität und Speicherreserve für den eigenen Workload zu validieren.

Achtung beim 1M-Versprechen: Auch Ollamas Beschreibung erwähnt 1M. Der konkrete Cloud-Tag zeigt im selben Modellkatalog jedoch 256K. NVIDIA erklärt 1M im NIM-Leitfaden als Konfiguration oberhalb des nativen 256K-Kontexts; sie erfordert explizite Serverparameter. Ein für 1M beworbenes Modell und ein für 1M freigeschalteter Endpunkt sind unterschiedliche Aussagen.

Warum der Cloud-Befehl nicht lokal bedeutet

Bei :cloud laufen der Ollama-Client und die lokale Schnittstelle auf dem Mac, während Gewichte und Inferenz beim Cloud-Dienst verbleiben. Das ist praktisch, wenn ein kleiner Mac auf ein sehr großes Modell zugreifen soll. Es ändert aber die Datenschutzgrenze:

• Prompts und eingefügter Kontext können den Mac verlassen.
• Ein Agent mit Shell-, Editor- oder Dateizugriff kann zusätzlich lokale Inhalte an den Provider übermitteln.
• Ein lokaler API-Endpunkt ist nicht automatisch ein lokaler Datenpfad.
• Für sensible Dokumente braucht es eine ausdrückliche Freigabe, minimale Verzeichnisrechte und passende Providerbedingungen.

Die Ollama-Cloud-Dokumentation nennt Konto, Cloud-Offloading und den lokalen API-Zugriff ausdrücklich. Ollama erklärt in seiner Preisliste/Privacy-FAQ, Prompts und Antworten nicht für Training zu verwenden oder zu protokollieren; für Partner fordert Ollama nach eigenen Angaben No-Logging-/No-Training-/Zero-Retention-Regeln. Das sind Anbieteraussagen, keine unabhängige technische Überprüfung oder eine Garantie für EU-Datenresidenz: Ollama nennt primär US-Hosting und mögliches zusätzliches Routing nach Europa. Bei sensiblen Workloads daher zuerst Verträge, regionale Anforderungen, Toolrechte und Freigaben prüfen.

NVIDIA NIM: ein anderer Deploymentpfad

NVIDIA Build stellt für nvidia/nemotron-3-ultra-550b-a55b einen OpenAI-kompatiblen Prototyp-Endpunkt bereit. Das ist ein API-Zugang vom Mac aus, kein lokales Apple-Silicon-Deployment. NVIDIA veröffentlicht daneben in der Self-Hosted-Ansicht einen echten NIM-Docker-Pfad mit lokalem Port 8000. Dieser Self-Hosting-Weg läuft auf Linux mit NVIDIA-GPUs; laut NVIDIAs Day-0-Guide braucht er:

• AMD64- oder ARM64-CPU plus unterstützte NVIDIA-GPU,
• Ubuntu 22.04 oder neuer empfohlen,
• NVIDIA Container Toolkit 1.14 oder neuer,
• CUDA SDK 12.9 oder neuer,
• NVIDIA-Treiber 580 oder neuer,
• Docker 24 oder neuer,
• NGC-Zugang und persönlicher NGC-API-Key.

Die NIM-Dokumentation nennt als Größenordnung ungefähr 38 GB für das Container-Image, etwa 330 GB Modell-Cache für ein NVFP4-Profil und ungefähr 1,1–1,7 TB für BF16, abhängig von Profil und GPU-Konfiguration. Die Support-Matrix führt NVIDIA-GPU-Profile mit Tensor-/Pipeline-Parallelität auf. Das erklärt, warum „Open Weights“ nicht mit „läuft auf meinem Mac“ gleichgesetzt werden darf.

NVIDIA veröffentlicht zwar BF16- und NVFP4-Gewichte auf Hugging Face, und der vLLM-Beitrag beschreibt offene Bereitstellung und GPU-Profile. Die dort gezeigten Startbeispiele setzen aber eine CUDA-/NVIDIA-Infrastruktur voraus. Eine theoretische Portierung auf Apple Silicon wäre ein eigenes, nicht durch diese Mac-Dokumentation belegtes Projekt.

Ist 550B auf einem Mac lokal realistisch?

Für die praktische Entscheidung reicht die aktivierte Zahl von 55B nicht als RAM-Rechnung. Ein sparsames MoE-Modell benötigt weiterhin Gewichte, Routing, Aktivierungen, Runtime-Overhead und Kontextspeicher. Zusätzlich unterscheiden sich BF16, NVFP4, vLLM, SGLang, Ollama und mögliche Quantisierungen in ihren Anforderungen.

Die belastbare Aussage ist deshalb enger und nützlicher: Der dokumentierte Mac-Weg ist Ollama Cloud oder ein API-Provider. Der dokumentierte Self-Hosting-Weg ist eine NVIDIA-/CUDA-Umgebung. Ollama und NVIDIA dokumentieren keine fertige, unterstützte lokale Apple-Silicon-Installation.

Wer Daten wirklich offline halten muss, sollte stattdessen ein Modell auswählen, für das die konkrete lokale Runtime, der exakte Tag und die passende Quantisierung für den eigenen Mac dokumentiert sind. Eine allgemeine RAM-Tabelle ohne Modell- und Runtimebezug wäre hier Scheingenauigkeit.

Wofür Nemotron 3 Ultra gedacht ist

Ollama, NVIDIA und vLLM beschreiben das Modell als Kandidaten für:

• Coding-Agenten über größere Repositories,
• Deep Research und Analyse,
• Tool-Aufrufe über lange Agentenketten,
• komplexe Unternehmens- und Automatisierungsabläufe,
• Reasoning mit hohem Durchsatz.

Das sind Hersteller- beziehungsweise Projektbeschreibungen, keine unabhängigen Mac-Messungen. Der NVIDIA Technical Report dokumentiert Benchmarks mit konkreten Modellvarianten, Hardware und Harnesses. Diese Ergebnisse dürfen nicht als Tokens-pro-Sekunde- oder Qualitätsgarantie für Ollama Cloud auf einem bestimmten Mac ausgegeben werden.

Sicherheitsgrenzen für Agenten

NVIDIA weist in der Explainability-Subkarte ausdrücklich darauf hin, dass instruction-tuned Modelle anfälliger für Prompt Injection und Jailbreaking sein können. Bei Agenten können bösartige direkte oder aus Webseiten beziehungsweise Retrieval übernommenen Anweisungen ohne wirksame Guardrails bis zu schädlichen Systemfolgen führen, einschließlich Remote Code Execution. Das ist eine Herstellerwarnung für den Einsatzkontext, kein Nachweis, dass jeder Aufruf unsicher ist.

Für einen realen Agenten-Test gehören deshalb mindestens dazu:

• Tools in einer Sandbox und nach dem Least-Privilege-Prinzip ausführen;
• untrusted Webseiten, Dokumente und Retrieval-Inhalte als Daten behandeln, nicht als Systemanweisungen;
• keine Secrets oder produktiven Schreibrechte in die Testumgebung geben;
• destruktive Aktionen menschlich bestätigen lassen und Tool-Aufrufe protokollieren;
• Provider- und Modell-Output mit eigenen Validierungen, Limits und Abbruchregeln absichern.

Die NVIDIA-Build-Seite warnt für den kostenlosen Trial außerdem, dass Ein- und Ausgaben zur Bereitstellung, Produktverbesserung sowie Sicherheits- und Missbrauchsüberwachung verarbeitet werden können; vertrauliche Daten sollen dort nicht hochgeladen werden. Das unterscheidet sich von Ollamas aktueller Privacy Policy, die Cloud-Prompts und Antworten laut eigener Aussage nur transient verarbeitet und nicht zum Training verwendet. Diese Aussagen gelten jeweils nur für den genannten Anbieterpfad.

Ein kontrollierter Test vom Mac aus

Wenn Cloud-Verarbeitung erlaubt ist, sollte der erste Test bewusst klein bleiben:

1. Erstelle ein synthetisches Repository ohne Secrets.
2. Melde dich nur mit den nötigen Verzeichnissen und Tools an.
3. Verwende feste Coding-, Recherche- und Tool-Aufgaben.
4. Teste den normalen 256K-Pfad getrennt von einem Provider, der erweiterten Kontext anbietet.
5. Miss Antwortzeit, Fehlversuche, Tool-Aufrufe, Tokenverbrauch und Abbrüche.
6. Prüfe jeden Dateidiff manuell und beende die Session danach.

So entsteht ein eigener Entscheidungsdatensatz. Ein Vendor-Benchmark oder die Zahl „1M“ ersetzt keine Prüfung des realen Providers und des eigenen Datenschutzmodells.

Fazit: Cloud-Pfad mit 256K — Kontext statt lokalem Betrieb

Nemotron 3 Ultra ist vom Mac aus nutzbar, aber im geprüften Ollama-Pfad ein Cloud-Modell. Der aktuelle Ollama-Tag und der NIM-Default liegen bei 256K. Ein NIM-Setup kann bis zu 1M konfigurieren, verlangt dafür aber explizite Einstellungen, mehr KV-Cache und eine Qualitätsprüfung außerhalb des nativen Kontextbereichs. NVIDIA Self-Hosting setzt eine große CUDA-/GPU-Umgebung voraus, nicht einen normalen Mac.

Für einen Mac-Artikel ist deshalb die richtige Empfehlung nicht „550B lokal installieren“, sondern: Cloud-Datenfluss und Provider zuerst klären; den konkreten Tag und /v1/models prüfen; und für echte Offline-Privatsphäre ein kleineres, nachweislich Mac-kompatibles Modell wählen.

Quellen

• Ollama Cloud-Modellpreise und Abo-Guthaben – USD-Tokenraten, monatliches Guthaben und Request-Limits, geprüft 11. Oktober 2026.

• Ollama: NVIDIA Nemotron 3 Ultra – aktuelle Modellübersicht und Integrationen.

• Ollama: Tags – konkreter :cloud-Tag und aktueller 256K-Eintrag.

• Ollama Cloud-Dokumentation und Authentifizierung – Offloading, Konto und API-Zugriff.

• Ollama Blog, 4. Juni 2026 – Herstellerangaben zu 1M, Cloud-Start und Benchmarks.

• NVIDIA Build – API-Modell und OpenAI-kompatibler Prototyp-Endpunkt.

• NVIDIA NIM Day-0-Guide und Support-Matrix – native/erweiterte Kontextkonfiguration, Hardware und Speicherbedarf.

• NVIDIA Nemotron 3 Ultra auf Hugging Face – offene Gewichte und Runtime-Hinweise.

• vLLM: Day-0-Support und NVIDIA Technical Report – Deployment- und Benchmark-Kontext.