Tencent Hy3 auf dem Mac: Warum 21B aktiv nicht 21B Speicherbedarf bedeuten

Neuere Version: Dieser Artikel beschreibt Tencent Hy3. Die neuere Version Tencent Hy4 preview ist inzwischen verfügbar.

Aktualisiert am 9. Oktober 2026. Tencent Hy3 ist ein öffentliches 295B-MoE-Modell mit 21B aktiven Parametern und einer Apache-2.0-Lizenz. Der nutzbare OpenRouter-Slug lautet tencent/hy3; für Tests wird auch tencent/hy3:free gelistet. Für die Hardwareplanung entscheidend: Die 21B aktiven Parameter beschreiben die Rechenarbeit eines Tokens, nicht die Menge aller Gewichte, die bei lokaler Inferenz vorgehalten werden muss. Das vollständige Modell bleibt für gewöhnliche Macs eine Serverklasse. Tencent-Modellkarte · OpenRouter.

Einordnung für Mac-Nutzer

Tencent Hy3 ist ein offenes 295B-Parameter-Mixture-of-Experts-Modell für Reasoning, Coding, Agenten und lange Produktivitäts-Workflows. Auf OpenRouter nutzt du es als tencent/hy3; das eigentliche Open-Weight-Modell liegt als tencent/Hy3 auf Hugging Face. Für Mac-Nutzer ist die wichtigste Einordnung: Hy3 ist zwar offen verfügbar und unter Apache 2.0 veröffentlicht, aber es ist kein normales lokales Mac-Modell. Tencent empfiehlt für das Serving 8 GPUs wie H20-3e oder vergleichbare GPUs mit großer Speicherkapazität. Auf einem Mac mini, MacBook oder normalen Mac Studio nutzt du Hy3 realistisch über OpenRouter, Cloud-Provider oder eigene Server-Hardware – nicht wie ein 7B- oder 14B-Modell in Ollama.

Was ist Tencent Hy3?

Hy3 ist ein großes Mixture-of-Experts-Modell des Tencent Hy Teams. Die finale Version folgt auf Hy3 Preview, das Tencent Ende April 2026 vorgestellt hatte. Laut Modellkarte wurden nach der Preview Feedback aus mehr als 50 Produkten gesammelt, die Post-Training-Pipeline skaliert und mehrere Probleme in realen Produkt- und Agenten-Workflows verbessert.

Der Fokus liegt nicht auf einfacher Chatbot-Rhetorik, sondern auf Aufgaben, bei denen ein Modell über viele Schritte zuverlässig bleiben muss:

• Coding-Agenten und Repository-Arbeit
• Tool-Calling und strukturierte Ausgaben
• Dokumentenverarbeitung
• Finanzmodellierung
• Office- und Produktivitätsaufgaben
• Frontend-Design
• Game-Development
• mehrstufige Agentenläufe
• lange Kontexte mit wechselnden Anforderungen

Tencent beschreibt Hy3 als kosteneffiziente Option für reale Produktivitätsaufgaben. Sachlich eingeordnet ist Hy3 ein offenes MoE-Modell, das besonders auf Agenten und lange Workflows ausgerichtet ist; daraus folgt kein pauschaler Vergleich mit einzelnen geschlossenen Modellen.

Die wichtigsten Fakten zu Tencent Hy3

Die Zahl „262K“ bei OpenRouter und „256K“ in der Modellkarte ist kein echter Widerspruch: 256K meint typischerweise 262.144 Tokens. Die beiden Werte sollten trotzdem immer der jeweiligen Quelle zugeordnet bleiben.

Mac-RAM: Rechenaktivität ist nicht Modellgröße

Die 295 Milliarden Gesamtparameter müssen je nach Speicher- und Offloading-Strategie bereitgestellt werden. Für eine überschlägige Modellgewichte-Rechnung ergibt das 590 GB in BF16 (2 Byte je Gewicht), 295 GB in FP8 (1 Byte) oder mindestens 147,5 GB bei idealisierten vier Bits. Das sind rein mathematische Gewichtsmengen, keine gemessenen Arbeitsspeicherwerte. Quantisierungsmetadaten, Ausrichtungsdaten, KV-Cache, Betriebssystem und parallele Anwendungen erhöhen den Bedarf; Offloading und Frameworks verändern wiederum die Speicherverteilung.

Daher ist die Aussage „21B aktiv, passt wie ein 21B-Modell auf 24 GB RAM“ falsch. Für die Frage, ob Hy3 lokal auf deinem Mac tatsächlich läuft, braucht es einen konkreten Port, eine verfügbare Quantisierung, messbaren Peak-Memory-Verbrauch und die gewünschte Kontextlänge. Tencent-Modellkarte.

Warum Hy3 nicht einfach ein lokales Mac-Modell ist

Hy3 ist offen, aber riesig. Genau hier passieren bei KI-Artikeln oft Fehler: Open Weights bedeutet nicht automatisch MacBook-tauglich.

Die Hugging-Face-Modellkarte enthält zwar Hinweise auf Docker Model Runner und Quantisierungen. Für das eigentliche Serving nennt Tencent aber vLLM oder SGLang und schreibt, dass Hy3 insgesamt 295B Parameter hat; für Serving auf 8 GPUs empfiehlt Tencent H20-3e oder andere GPUs mit großer Speicherkapazität.

Für die Nutzung auf einem Mac folgt daraus:

• Hy3 läuft nicht einfach lokal mit Ollama auf dem Mac.
• 21B aktive Parameter machen einen Mac mini nicht automatisch ausreichend.
• GGUF- oder MLX-Unterstützung muss für eine konkrete Runtime und Quantisierung geprüft werden.
• Eine pauschale RAM-Empfehlung für 16, 24, 32 oder 64 GB Unified Memory wäre nicht belastbar.

Für Mac-Nutzer lautet die praktische Einordnung:

Hy3 ist ein offenes Server-/Cloud-Modell. Auf dem Mac nutzt du es sinnvoll als API-Modell oder über OpenRouter. Für lokale Offline-Workflows bleiben kleinere Modelle wie Qwen, Gemma, Mistral oder Llama realistischer.

OpenRouter: aktuelle Preise, Cache und Provider

Der OpenRouter-Modellkatalog am 9. Oktober 2026 zeigt für tencent/hy3 einen Standardtarif von 0,132 USD je Million Input-Tokens, 0,528 USD je Million Output-Tokens und 0,033 USD je Million Cache-Read-Tokens. Das ist eine API-Abrechnung, kein Claude- oder ChatGPT-Abo und kein deutscher Euro-Endpreis. Der Anbieter führt mehrere Upstream-Provider mit abweichenden Preisen und Latenzen. Bei Provider-Pinning sind dessen konkrete Rate und Verfügbarkeit entscheidend. OpenRouter: Tencent Hy3.

Modell / Zugangsart	Input je 1 Mio.	Output je 1 Mio.	Einordnung
tencent/hy3 · OpenRouter-Listenpreis	0,132 USD	0,528 USD	kostenpflichtiges API-Routing
tencent/hy3-preview	0,180 USD	0,600 USD	ältere Preview, separat bepreist
tencent/hy3:free	0 USD	0 USD	eigene Free-Limits, kein SLA

Deutsche Nutzer: API-Listenpreise in USD dürfen nicht ohne Checkout, Umrechnung und Steuerstatus als Brutto-Europreise ausgegeben werden. Bei OpenRouter kann die tatsächliche Modellinferenz über Drittanbieter erfolgen. Ein europäischer Nutzer oder deutscher Prompt garantiert keine EU-Datenverarbeitung. Für Kundendaten müssen Providerliste, Logging, Retention, Vertrag und Datenübermittlungen geprüft werden.

Free-Slug: OpenRouter bezeichnet den Endpoint als kostenlos, weist aber ausdrücklich auf Rate Limits hin. Er ist nicht dieselbe Kapazität oder garantierte Verfügbarkeit wie ein bezahlter Endpunkt. OpenRouter Free Endpoint · OpenRouter Tarifübersicht.

OpenRouter-Kosten tatsächlich nachrechnen: Cache ist kein kostenloser Input

Der Preis von 0,132 USD je Mio. Eingabetokens, 0,528 USD je Mio. Ausgabetokens und 0,033 USD je Mio. gecachter Eingabetokens stammt aus dem OpenRouter-Angebot für Hy3, geprüft am 9. Oktober 2026. Der Cache-Read-Tarif gilt nur, wenn ein Upstream-Provider diese Abrechnung für die konkrete Anfrage tatsächlich bereitstellt. Provider können andere Raten anbieten; jede Abrechnung muss mit dem tatsächlichen Usage-Datensatz und gewählten Endpunkt abgeglichen werden.

Rechenbeispiele, keine gemessenen API-Aufrufe und ohne Steuern/Gateway-Aufschläge:

Fiktiver Request mit OpenRouter-Listenpreis	Eingabe	Cache-Read als Teil der Eingabe	Ausgabe	Rechnerische Kosten
Ohne Cache	100.000 Tokens	0	10.000 Tokens	0,01848 USD
60 % der Eingabe als Cache-Read	100.000 Tokens	60.000 Tokens	10.000 Tokens	0,01254 USD
Längerer Auftrag ohne Cache	200.000 Tokens	0	50.000 Tokens	0,05280 USD

Im mittleren Fall sind nur 40.000 Eingabetokens voll zu berechnen: 40.000 × 0,132 / 1 Mio. + 60.000 × 0,033 / 1 Mio. + 10.000 × 0,528 / 1 Mio. = 0,01254 USD. Die 60.000 Cache-Tokens noch einmal zum vollen Inputpreis hinzuzufügen wäre eine Doppelberechnung. Ohne bestätigten Cache-Hit gilt die erste Zeile. Bei Tool-Workflows, Reasoning, Anbieterwechseln und längeren Ausgaben ist der reale Verbrauch anders.

Kosten und Datenschutz getrennt prüfen: Ein günstiger Upstream kann andere Retention- oder Regionsbedingungen haben als ein teurerer. Die Spalte „US-Dollar“ ist kein deutscher Brutto-Europreis. Bevor du Kundendaten sendest, tatsächlichen Provider und Vertrag prüfen; OpenRouter-Routing allein belegt keine Datenverarbeitung in der EU.

API-Setup auf dem Mac

OpenRouter ist OpenAI-kompatibel. Das heißt: Du kannst auf dem Mac viele bestehende OpenAI-Clients weiterverwenden und nur Base URL, API-Key und Modellnamen ändern.

read -rs OPENROUTER_API_KEY
export OPENROUTER_API_KEY

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="tencent/hy3",
    messages=[
        {
            "role": "system",
            "content": "Du bist ein präziser Mac- und Coding-Assistent. Antworte kurz, belege unsichere Aussagen und erfinde keine Benchmarks."
        },
        {
            "role": "user",
            "content": "Erkläre, wann ich ein lokales Mac-Modell und wann Tencent Hy3 über OpenRouter nutzen sollte."
        }
    ],
    temperature=0.7,
)

print(response.choices[0].message.content)

Wichtig: Dieser Code nutzt Hy3 über OpenRouter. Er lädt kein Modell auf deinen Mac und führt keine Inferenz auf Apple Silicon aus.

OpenRouter-Routing absichern: ZDR, Provider-Fallback und EU-Grenzen

Standard-Routing ist keine Datenschutz-Freigabe. OpenRouter dokumentiert, dass ohne zusätzliche Filter geeignete Upstream-Provider automatisch gewählt werden und Fallbacks standardmäßig erlaubt sind. Wer in einem Agenten vertrauliche Prompts verarbeitet, muss die Routing-Optionen explizit setzen. Ein Beispiel auf dem Mac nutzt ausschließlich die OpenRouter-Cloud-API, keine lokale Hy3-Inferenz:

# Eingabe ohne Klartextschlüssel im Kommandoverlauf:
read -rs OPENROUTER_API_KEY
export OPENROUTER_API_KEY
curl --fail-with-body -sS https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"tencent/hy3","messages":[{"role":"user","content":"Antworte nur mit OK."}],"max_tokens":64,"provider":{"data_collection":"deny","zdr":true,"require_parameters":true,"allow_fallbacks":false}}'

Bedeutung der Filter:

• data_collection: "deny" schließt laut OpenRouter Endpunkte aus, die Eingaben dauerhaft speichern oder für Training nutzen könnten. Das ersetzt keine Prüfung von Auftragsverarbeitung, Unterauftragsverarbeitern und Datenübermittlungen.
• zdr: true beschränkt das Routing auf nach OpenRouter-Angaben Zero Data Retention-fähige Endpunkte. Das ist nicht identisch mit EU-Datenresidenz oder einem Nachweis allgemeiner DSGVO-Konformität.
• require_parameters: true fordert passende Parameter-Unterstützung beim gewählten Endpunkt. allow_fallbacks: false schaltet die automatische Provider-Ausweichlogik ab. Für eine streng definierte Providerliste ergänze provider.only mit den aktuell auf der Modellseite ausgewiesenen exakten Provider-Slugs; ohne diese Liste wird kein bestimmtes Land festgelegt.
• Fehler statt stiller Ausweichroute: Erfüllt kein Hy3-Endpunkt die Anforderungen, kann der Request fehlschlagen. Filter deshalb nicht einfach deaktivieren, nur um eine Antwort zu bekommen.

Das Beispiel sendet nur einen künstlichen Testprompt. Die Verfügbarkeit der Kombination Hy3 + ZDR + gewünschte Region wurde nicht live getestet; der Code verspricht keinen verfügbaren Endpunkt. Für Deutschland gilt: Geeignete ZDR-Filter ersetzen weder eine EU-Verarbeitungsgarantie noch einen belastbaren AV-Vertrag. Kein sensibles Repository und keine personenbezogenen Kundendaten hochladen, bevor diese Anforderungen nachweislich erfüllt sind.

Reasoning-Modi: nicht blind „maximal denken“

Hy3 unterstützt laut OpenRouter und Modellkarte konfigurierbares Reasoning. Die Modellkarte zeigt für lokale OpenAI-kompatible Server reasoning_effort über chat_template_kwargs:

• no_think: direkte Antwort, Standard in der Beispielkonfiguration
• low: leichter Reasoning-Modus
• high: tieferes Reasoning für Mathematik, Coding und komplexe mehrstufige Aufgaben

Veröffentliche keine vollständigen Chain-of-Thought-Traces. Entscheidend sind bessere Planung, stabilere Tool-Nutzung und weniger Aufgaben-Drift. Reasoning-Modi sind Kosten-, Latenz- und Qualitätsregler, keine magischen Qualitätsschalter.

Was wurde gegenüber Hy3 Preview verbessert?

Die finale Hy3-Version geht deutlich über ein Rebranding der Preview hinaus. Tencent nennt mehrere Verbesserungen aus Produktfeedback und Post-Training:

Das sind Herstellerangaben, keine unabhängigen Messungen. Sie sind interessant, aber kein Ersatz für eigene Tests mit echten Workflows.

Benchmarks: stark, aber sauber lesen

Hy3 zeigt auf der Hugging-Face-Seite mehrere Evaluationsergebnisse, darunter:

Diese Werte sind als Kontext nützlich, aber kein Beleg für eine allgemeine Modellrangliste. Benchmarks hängen stark von Harness, Scaffold, Tool-Zugriff, Prompting, Reasoning-Modus, Timeout und Auswertungslogik ab. Besonders bei SWE-bench-Varianten ist die Umgebung entscheidend. Sie belegen daher weder, dass Hy3 Claude übertrifft, noch dass es das beste Coding-Modell oder besser als alle lokalen Mac-Modelle ist.

Für echte Mac-Workflows zählt, ob Hy3 im eigenen Tooling zuverlässig, bezahlbar und datenschutzseitig akzeptabel ist.

Wann Hy3 für Mac-Nutzer sinnvoll ist

Hy3 kann sinnvoll sein, wenn du auf dem Mac arbeitest, aber bewusst Cloud- oder Server-Inferenz akzeptierst.

Gute Einsatzfälle:

• großes Repository prüfen
• Refactoring über viele Dateien planen
• Agentenlauf mit Tools strukturieren
• Daten- oder Tabellenlogik analysieren
• technische Dokumentation zusammenfassen
• lange Chat- oder Projektkontexte stabil halten
• Frontend-Komponenten entwerfen
• Browser-/Research-Agenten testen

Schlechte Einsatzfälle:

• private Dokumente ohne Cloud-Verarbeitung
• Offline-Arbeit im Zug oder in der Uni
• kleine Alltagsfragen, bei denen ein lokales 4B- bis 14B-Modell reicht
• sensibler Kundencode ohne klare Datenschutzfreigabe
• Aufgaben, bei denen Latenz wichtiger ist als Modellstärke

Hy3 vs lokale Mac-Modelle

Der beste Workflow ist hybrid: lokale Modelle für private, schnelle und offline nutzbare Aufgaben; Hy3 für große agentische Aufgaben, bei denen Cloud-Verarbeitung akzeptabel ist.

Vergleich mit Hy3 Preview

Hy3 Preview war die Vorabversion vom April 2026. OpenRouter listet sie separat als tencent/hy3-preview. Für neue Integrationen ist die finale Version tencent/hy3 die relevante Variante.

Gerade die Lizenz ist wichtig: Leite aus alten Preview-Informationen nicht ab, dass die finale Version dieselbe Lizenz hat. Für Hy3 nennt die Modellkarte Apache 2.0.

Datenschutz in Deutschland: Router und Upstream trennen

OpenRouter ist der API-Vermittler; die Inferenz kann bei Tencent Cloud oder einem anderen gelisteten Provider erfolgen. Daten verlassen den Mac. Bei personenbezogenen Daten, unveröffentlichtem Kundencode oder Forschungsdaten vor dem Einsatz prüfen, welche Subunternehmer aktiv sind, ob Speicherung oder Training stattfindet und welche Bedingungen für Drittlandübermittlungen gelten. Eine deutsche Spracheinstellung macht das System nicht DSGVO-konform und erzwingt keine EU-Inferenz. Für lokale, sensible Aufgaben ein offline verifiziertes Modell verwenden.

Praktische Einordnung

Die relevanten Eckdaten von Tencent Hy3 sind 295B Parameter, 21B aktive Parameter, 256K Kontext, Apache 2.0 und der OpenRouter-Slug tencent/hy3.

Für Mac-Nutzer ist die entscheidende Botschaft: Hy3 ist nicht plötzlich ein lokales Mac-Modell. Es ist ein offenes, aber servergroßes Modell. Auf dem Mac ist es sinnvoll als Cloud-/API-Ergänzung zu lokalen Modellen. Wer Datenschutz, Offlinefähigkeit und Apple-Silicon-Inferenz will, bleibt bei kleineren lokalen Modellen. Wer lange Agentenläufe, großes Kontextverständnis und starke Tool-Workflows braucht, kann Hy3 über OpenRouter oder eigene GPU-Infrastruktur testen.

Quellen

• Tencent Hy3 auf Hugging Face: https://huggingface.co/tencent/Hy3
• Tencent Hy3 auf OpenRouter: https://openrouter.ai/tencent/hy3
• OpenRouter Endpoint-Preise: https://openrouter.ai/tencent/hy3-20260706/
• Tencent Hy3 Preview auf OpenRouter: https://openrouter.ai/tencent/hy3-preview
• Tencent Hy3 Free auf OpenRouter: https://openrouter.ai/tencent/hy3:free
• OpenRouter Models API: https://openrouter.ai/api/v1/models
• Tencent Hy3 Preview auf Hugging Face: https://huggingface.co/tencent/Hy3-preview
• Tencent News zu Hy3 Preview: https://www.tencent.com/en-us/articles/2202320.html