TypeSafe Jev Router wählt Modell, Reasoning und Cache pro Anfrage – was die 237-Aufgaben-Zahl wirklich bedeutet

Überarbeitet am 9. Oktober 2026. typesafe/jev-router ist ein neuer gehosteter Modellrouter auf OpenRouter. Er beantwortet den Prompt nicht selbst. Stattdessen nutzt er TypeSafes Entscheidungsmodell Jev, um ein passendes generatives Modell und den Reasoning-Aufwand auszuwählen. OpenRouter nennt für den Router ein Kontextfenster von 1.000.000 Tokens, multimodale Eingaben und eine Veröffentlichung am 25. September 2026. ¹²

Der technisch relevante Teil liegt in der Sitzungssteuerung. Laut OpenRouters Launch-Erklärung versucht Jev Router, ein funktionierendes Modell über eine Unterhaltung hinweg beizubehalten, den Reasoning-Aufwand bei Bedarf hoch- oder herunterzusetzen und erst dann das Modell zu wechseln, wenn der erwartete Qualitätsgewinn die Kosten des Wechsels einschließlich eines verlorenen Prompt-Caches rechtfertigt. ³⁴

Jev Router ist vor allem für Nutzer interessant, die nicht bei jedem Request selbst zwischen schnellen, günstigen und stärkeren Modellen wählen möchten. Der größte noch offene Punkt ist die unabhängige Validierung: Die starken Router-Benchmarkzahlen stammen derzeit von OpenRouter selbst.

Die wichtigsten Fakten

Merkmal	geprüft am 08.10.2026
OpenRouter-ID	typesafe/jev-router
Anbieter	TypeSafe / OpenRouter
Typ	gehosteter, Jev-gestützter Modell- und Reasoning-Router
Release	25. September 2026
Kontext laut OpenRouter	bis zu 1.000.000 Tokens; effektives Limit je Zielmodell
Eingaben	Text, Bilder, Dateien/PDFs, Audio, Video
Ausgabe	Text
Jev selbst	textbasiertes Entscheidungsmodell, kein Chat-LLM
Router-Listenpreis	$0 Prompt / $0 Completion auf der Modellseite
Modellwechsel	cache-aware; nach OpenRouter nur bei ausreichend großem erwarteten Nutzen
ZDR	OpenRouter sagt, dass Jev unter ZDR läuft und zdr: true unterstützt wird
Launch-Benchmark	237/423 Aufgaben vs. 130/423 für OpenRouter Auto Router; Anbieterangabe

Quellen: OpenRouter-Modellseite und Launch-Kommunikation, TypeSafe-Dokumentation. ¹³³

Was ist Jev Router genau?

OpenRouter beschreibt Jev Router als einen Router, der für jede Anfrage Modell und Reasoning-Aufwand auswählt. Der Endpunkt bleibt dabei stabil: Anwendungen senden ihre Chat-Anfrage an OpenRouter und setzen lediglich model auf typesafe/jev-router. ¹²

Das darunterliegende Jev ist etwas grundlegend anderes als ein normales LLM. TypeSafe nennt Jev ein „System One“-Modell: Es liest Text und gibt strukturierte Entscheidungen sowie Wahrscheinlichkeiten aus. Die öffentlichen primitiven Fragetypen sind Choice, Score und Noul. Jev schreibt selbst keine Chatantwort, keinen Code und keine Erklärung. ⁵

Genau diese Trennung ist für den Router sinnvoll: Jev muss nicht selbst die eigentliche Aufgabe lösen. Es soll schnell beurteilen, wie die Aufgabe beschaffen ist und welche Ausführungsstrategie sinnvoll erscheint; danach übernimmt ein generatives Modell die eigentliche Antwort. TypeSafe führt Modellrouting ausdrücklich als Jev-Anwendungsfall auf. ⁶⁵

Wie entscheidet der Router?

OpenRouter nennt für den gehosteten Router mehrere Signale. Vor einem Turn bewertet Jev unter anderem die Schwierigkeit, die benötigte Präzision, den möglichen Nutzen eines größeren Modells beziehungsweise höheren Reasoning-Aufwands, die Frage, ob ein günstigeres Modell genügt, und ob sich die Aufgabe innerhalb der Unterhaltung verändert hat. ³

Die Session-Logik ist dabei wichtiger als ein simpler „Prompt rein, Modell raus“-Klassifikator:

1. Der Router prüft den aktuellen Turn.
2. Wenn das bisherige Modell weiterhin passend ist, soll es beibehalten werden.
3. Der Reasoning-Aufwand kann verändert werden, ohne zwingend das Modell zu wechseln.
4. Ein Modellwechsel soll erst erfolgen, wenn der erwartete Nutzen größer ist als dessen Kosten – inklusive des möglicherweise verlorenen gecachten Chats. ³

Das ist wirtschaftlich relevant. Prompt Caching spart bei langen, wiederholten Präfixen Geld und Zeit; OpenRouter verwendet zusätzlich „sticky routing“, um Cache-Hits beim selben Modell und Provider wahrscheinlicher zu machen. Ein Wechsel zu einem anderen Modell kann diesen Vorteil aufheben, weil das neue Ziel den bisherigen Kontext erneut verarbeiten muss. ⁷

Jev Router: Steuerung, Grenzen und Kosten

Korrektur vom 8. Oktober 2026: OpenRouters aktuelle Jev-Router-Dokumentation unterscheidet die Modellwahl, den Reasoning-Aufwand und eine eigene Kostenstrategie. Der Basisaufruf typesafe/jev-router benötigt kein Plugin; optionale Filter sehen so aus:

{
  "model":"typesafe/jev-router",
  "plugins":[{"id":"jev-router","cost_tier":"low","models":["anthropic/*","google/*"],"excluded_models":["anthropic/claude-opus*"]}],
  "reasoning":{"effort":"low"},
  "messages":[{"role":"user","content":"Prüfe diesen Patch."}]
}

• cost_tier (low, medium, high) ist eine Kosten-/Qualitätsstrategie, keine Preisobergrenze und nicht die Reasoning-Stufe. reasoning.effort ist ein unverbindlicher Hinweis.
• models oder allowed_models sind keine harten Allowlists: Ein Filter ohne Treffer wird ignoriert. excluded_models bleibt verbindlich; sind keine Modelle übrig, folgt HTTP 404. Ungültige Pluginfelder und nicht unterstützte Reasoning-Optionen (reasoning.max_tokens, reasoning.mode: "pro") führen zu HTTP 400.
• Der zurückgegebene model-Wert ist das gewählte Zielmodell. Über X-OpenRouter-Metadata: enabled und openrouter_metadata.pipeline sind resolved_models, candidates, reason und advisor_model sichtbar. estimated_cost ist keine finale Rechnung. Für schwierige Agenten-Aufgaben kann ein Expert Advisor hinzugezogen werden.
• Kontext: Die beworbenen 1.000.000 Tokens sind ein Maximum. Das tatsächlich gewählte Modell bestimmt das verfügbare Kontextfenster; nicht jede Route bietet 1 Mio. Tokens. OpenRouter-Modellseite
• Abrechnung: Jev Router hat keinen festen Eigenpreis. Der Request kostet den Preis des gewählten generativen Modells. Beispiel, kein garantierter Route-Preis: 1 Mio. Input zu 0,50 USD/M und 100.000 Output zu 2,00 USD/M ergeben 0,70 USD, vor Zusatzkosten.
• EU/Datenschutz: Die Jev-Stufe läuft laut OpenRouter unter ZDR; für das gewählte Antwortmodell ist ZDR separat zu prüfen. Die Router-Dokumentation beschränkt Jev Router auf die globale Datenregion und schließt HIPAA-Workspaces aus. ZDR garantiert keine Verarbeitung ausschließlich in der EU.

OpenRouters Router-Benchmarks vom 2. Oktober 2026 sind zusätzliche Plattformmessungen, keine unabhängige Replikation der 237-vs.-130-Launch-Aufgaben.

Jev Router vs. OpenRouter Auto Router

OpenRouters bestehender openrouter/auto verfolgt eine andere Strategie. Die im August 2026 erneuerte Variante nutzt die aggregierte Modellauswahl der OpenRouter-Nutzer: OpenRouter wertet laut eigener Beschreibung mehr als 55 Billionen Tokens wöchentlichen Spend aus, klassifiziert Aufgaben und baut daraus eine Pareto-Auswahl nach Kostenstufe. Die zugrunde liegenden Signale werden über ein rollierendes Sieben-Tage-Fenster aktualisiert. ⁸

Jev Router bewertet dagegen den konkreten Turn mit Jev und bezieht nach OpenRouters Launch-Text explizit Schwierigkeit, Reasoning-Aufwand und Cache-Kosten des Modellwechsels ein. ³

Eigenschaft	Jev Router	Auto Router
ID	typesafe/jev-router	openrouter/auto
Kernsignal	Jev-Entscheidung über konkrete Anfrage	Aufgabenklasse + aggregierter OpenRouter-Spend
Kostensteuerung	Teil der Jev-/Cache-Abwägung	cost_tier von low bis max
Reasoning-Aufwand	wird laut Launch explizit gewählt	nicht als zentrales öffentliches Router-Signal beschrieben
Multi-Turn	Modell möglichst halten; Effort separat anpassen	Modell bleibt, solange es weiter zu den führenden Kandidaten gehört
Cache-Awareness	expliziter Bestandteil der Wechselentscheidung	Sticky Routing und Session-Verhalten vorhanden, aber andere Auswahlmethodik
Öffentlicher Launch-Vergleich	237/423 vs. 130/423 zugunsten Jev Router	Vergleichsbasis im OpenRouter-Launch

Quellen: ⁸³

Der 237-vs.-130-Benchmark: starkes Signal, aber noch kein unabhängiger Beweis

OpenRouter berichtet, Jev Router habe über vier Agent-Benchmarks 237 von 423 Aufgaben gelöst, Auto Router dagegen 130 von 423. Das entspricht eigenen Berechnungen zufolge etwa 56,0 % gegenüber 30,7 %, also +25,3 Prozentpunkten beziehungsweise 82,3 % mehr gelösten Aufgaben relativ zur Auto-Router-Zahl. ⁹⁹

OpenRouter meldet begleitend eine niedrigere mediane Time-to-First-Token als alle anderen in fünf Agent-Benchmarks getesteten Router. ⁹

Diese Zahlen sollten derzeit aber exakt so beschriftet werden: OpenRouter-eigener Launch-Benchmark. In den geprüften Quellen war keine vollständige öffentliche Router-Eval mit allen 423 Aufgaben, exakten Kandidatenmodellen, Kostenprofilen, Effort-Einstellungen und reproduzierbaren Rohresultaten auffindbar. Deshalb lässt sich der 82-%-Vorteil noch nicht unabhängig reproduzieren.

Das ist nicht dasselbe wie zu sagen, die Zahl sei falsch. Es bedeutet nur, dass ihre Evidenzklasse derzeit unter einer vollständig reproduzierten unabhängigen Messung liegt.

Was unabhängige Jev-Forschung über mögliche Grenzen zeigt

Jev Router ist mehr als Jev allein. Trotzdem ist die Qualität des Entscheidungsmodells ein wichtiger Teil der Kette. Genau hier sind seit Jevs Veröffentlichung mehrere unabhängige Preprints erschienen.

Eine Studie von Rao und Callison-Burch verglich Jev auf neun Panels aus sieben Benchmarks mit drei Flash-Klasse-LLM-Judges. Die Autoren fanden große Kosten- und Latenzvorteile für Jev, aber auch stark korrelierte Fehler: Ein Kaskadenansatz, der unsichere Jev-Fälle an ein LLM weitergibt, verbesserte die beste Einzel-Judge-Leistung in ihren aufgezeichneten Experimenten nur begrenzt. ¹⁰

Eine zweite Arbeit testete, ob Optionsnamen die Entscheidung beeinflussen können. Bei 1.200 Workflow-Entscheidungen änderte allein das Umhängen von Rubriken hinter semantisch aufgeladenen Labels wie „no/yes“ viele Antworten; beim gehosteten Modell replizierten die Autoren eine deutliche Sensitivität. Wichtig: Die Ausgaben blieben formal typkorrekt, obwohl die semantische Entscheidung schlechter wurde. ¹¹

Ein weiterer Preprint, „JevOut“, zeigt, dass natürlich wirkende Zusatzkontexte gezielt bereits korrekte Entscheidungen verschieben können. Das ist besonders für Router und Tool-Gates relevant, weil deren Eingaben häufig aus nicht vollständig vertrauenswürdigen Nutzertexten oder Tool-Ausgaben bestehen. ¹²

Für Jev Router folgt daraus kein pauschales „funktioniert nicht“. Sinnvoller ist eine konkrete Betriebsregel: Routing-Qualität auf der eigenen Prompt-Verteilung messen und Fehlrouten sichtbar loggen.

Jev selbst ist text-only – warum der Router trotzdem Bilder und PDFs annimmt

Hier entsteht leicht ein scheinbarer Widerspruch. TypeSafe dokumentiert Jev 1.13 als text-only. OpenRouter führt Jev Router dagegen als multimodalen Endpunkt für Audio, Dateien, Bilder, Text und Video. ¹⁵

OpenRouters Launch-Erklärung löst diesen Widerspruch auf: Jev liest für die Routingentscheidung den Unterhaltungstext; Attachments werden laut OpenRouter nicht an Jev gesendet. Der anschließend gewählte Ziel-LLM kann die Multimodalität übernehmen. ³

Damit sollten zwei Kontextangaben ebenfalls nicht vermischt werden:

• Jev 1.13 direkt: TypeSafe dokumentiert 64K Gesamtbudget pro Request mit einer zusätzlichen 32K-Grenze für state plus längste Frage. ⁵
• Jev Router: OpenRouter wirbt mit 1.000.000 Tokens Kontext. ¹

Die Million Tokens ist somit eine Eigenschaft des Router-Endpunkts beziehungsweise seiner kompatiblen Routingumgebung – nicht des Jev-Klassifikators selbst.

Datenschutz: ZDR und Hosting-Region

OpenRouter nennt für den Jev-Entscheidungsschritt ZDR. Das schließt nicht automatisch den gewählten Antwortprovider ein. Besonders wichtig: Jev Router unterstützt laut aktueller Dokumentation nur die globale Datenregion, keine HIPAA-Workspaces. Die ausführliche Einordnung steht oben unter „Jev Router: Steuerung, Grenzen und Kosten“.

Was kostet typesafe/jev-router?

Laut OpenRouter hat Jev Router keinen festen eigenen Modellpreis; jede Anfrage wird zu den Preisen des tatsächlich ausgewählten generativen Modells abgerechnet. Der Router ist damit nicht mit einer kostenlosen Inferenz-Flatrate zu verwechseln. Kostenbeispiel, Metadaten und cost_tier-Grenzen stehen im aktualisierten Abschnitt oben.

So nutzt du Jev Router über OpenRouter

OpenRouter führt TypeSafe-Modelle hinter seiner OpenAI-kompatiblen API. Der wesentliche Wechsel ist die Modell-ID. ²¹³

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key=os.environ["OPENROUTER_API_KEY"],
)

response = client.chat.completions.create(
    model="typesafe/jev-router",
    messages=[
        {
            "role": "user",
            "content": "Erkläre, warum ein KV-Cache bei langen Agent-Sessions Geld sparen kann."
        }
    ],
)

print(response.choices[0].message.content)

Für produktive Tests würde ich zusätzlich die rohe Response protokollieren. OpenRouter sagt, Jev Router liefere Routing-Metadaten mit dem Grund für die Auswahl; die Oberfläche weist ergänzend Scores wie Aufgabe, Schwierigkeit, Präzision und Nutzen eines größeren Modells aus. Da die öffentlich auffindbare Launch-Beschreibung kein stabiles JSON-Schema dieser Zusatzmetadaten festschreibt, sollte Anwendungscode diese Felder nicht blind anhand eines Social-Post-Beispiels hardcoden. ¹³

Was passiert, wenn Jev ausfällt?

Hier unterscheidet sich der gehostete Router bewusst von manchen selbstgebauten Routern. Laut OpenRouter schlägt der Request fehl, wenn der Jev-Aufruf ein Timeout hat oder ungültige Ausgabe liefert. Es wird nicht still auf einen anderen Router zurückgefallen. ³

Das ist für Zuverlässigkeit relevant: Ein fail-closed Router macht seine Fehlentscheidung nicht unsichtbar, kann aber die Verfügbarkeit senken. Anwendungen mit hoher Verfügbarkeitsanforderung sollten deshalb selbst entscheiden, ob sie bei einem Router-Fehler erneut mit einem fest definierten Modell senden wollen.

Jev Router auf dem Mac: lokal oder Cloud?

typesafe/jev-router ist ein Cloud-Endpunkt, kein herunterladbarer Apple-Silicon-Checkpoint. Ein Mac mini oder MacBook führt weder Jev Router noch das jeweils ausgewählte Frontier-Modell lokal aus. Für die Nutzung reichen ein API-Client, ein Agent oder ein kompatibles Tool.

Damit unterscheidet sich die Hardwarefrage stark von einem MLX- oder Ollama-Modell: Unified Memory und Speicherbandbreite bestimmen nicht die Inferenzgeschwindigkeit des Routers. Relevant sind stattdessen Netzwerklatenz, OpenRouter-Provider, gewähltes Modell, Promptgröße, Caching und Reasoning-Aufwand.

Für Mac-Nutzer ist deshalb die praktischere Frage: Soll der lokale Workflow selbst ein Modell festlegen – oder darf der Cloud-Router Qualität, Latenz und Kosten dynamisch abwägen?

Jev Router, Pareto oder ein festes Modell?

Jev Router und Systeme wie Pareto lösen verschiedene Probleme. Ein Router versucht ein Zielmodell auszuwählen. Pareto 26.9 dagegen wird als Multi-LLM-/Blended-System angeboten, bei dem mehrere Modelle an einer Anfrage beteiligt werden und ein Ergebnis synthetisiert wird. Auf ai-on-mac.com ist dieser Unterschied bereits im Pareto-26.9-Faktencheck erklärt.

Ein fest ausgewähltes Modell ist wiederum sinnvoll, wenn Reproduzierbarkeit, explizite Capability-Anforderungen oder ein stabil evaluiertes Setup wichtiger sind als automatische Optimierung. Die Kostenunterschiede verschiedener Reasoning-Stufen und Modellklassen zeigt der bestehende GPT-6-Sol-vs.-Luna-Vergleich.

Für wen lohnt sich ein Test?

Jev Router ist besonders interessant, wenn ein Workflow:

• viele unterschiedliche Aufgabenschwierigkeiten enthält,
• lange Multi-Turn-Sessions mit wertvollem Prompt-Cache erzeugt,
• mehrere Modellklassen nutzen darf,
• Reasoning-Aufwand dynamisch variieren kann,
• und Routingentscheidungen beobachtbar geloggt werden können.

Vorsicht ist sinnvoll, wenn ein System eine exakt reproduzierbare Modellwahl verlangt, regulatorisch nur eine enge Provider-Liste erlaubt oder Fehlrouting sehr hohe Folgekosten hat. Die unabhängigen Jev-Studien machen zusätzlich klar, dass strukturierte Ausgabe nicht mit semantischer Fehlerfreiheit gleichgesetzt werden darf. ¹⁰¹¹¹²

Ein sinnvoller eigener Benchmark

Statt zehn zufällige Prompts zu vergleichen, sollte ein Router-Test reale Verteilungen abbilden. Ein brauchbarer Minimalversuch:

1. 100–500 echte, anonymisierte Aufgaben aus dem eigenen Workflow sammeln.
2. Vorab Erfolgskriterien pro Aufgabe definieren.
3. typesafe/jev-router, openrouter/auto und ein bis zwei feste Basismodelle gegeneinander laufen lassen.
4. Pro Run Modellwahl, Reasoning-Einstellung, Input-/Output-Tokens, Cache-Nutzung, TTFT, Gesamtlatenz, Kosten und Aufgaben-Erfolg speichern.
5. Multi-Turn-Aufgaben separat auswerten, weil genau dort Cache-Awareness relevant wird.
6. Fehlrouten manuell gruppieren: zu schwaches Modell, unnötig starkes Modell, falscher Effort, Capability-Mismatch, Router-Fehler.
7. Den Test nach größeren Router- oder Modelländerungen wiederholen.

Das liefert einen belastbareren Entscheidungswert als ein globaler Launch-Benchmark, weil Router immer von der konkreten Aufgabenverteilung abhängen.

Fazit

Jev Router ist technisch interessanter als ein gewöhnliches „Auto“-Alias: OpenRouter kombiniert Jevs schnelle strukturierte Entscheidungen mit Modellwahl, Reasoning-Steuerung, Session-Stickiness und Cache-Kosten. Die öffentliche Spezifikation – 1M Kontext, Multimodalität und ein einziger OpenRouter-Endpunkt – macht den Einstieg einfach. ¹³

Der wichtigste Vorbehalt bleibt die Evidenz. 237 statt 130 gelöste Aufgaben ist ein starkes Launch-Ergebnis, aber derzeit eine OpenRouter-Messung. Gleichzeitig zeigen unabhängige Arbeiten zu Jev, dass formal saubere Entscheidungen empfindlich auf Labels und Kontext reagieren können. ¹⁰¹¹¹²

Für produktive Nutzung ist deshalb nicht die Frage „Ist Jev Router generell besser?“, sondern: Wie oft trifft er auf deinen Aufgaben die richtige Modell-/Effort-Wahl, was kostet diese Route inklusive Cache-Effekten und wie stabil bleibt sie über längere Sessions? Genau diese drei Größen sollten beim eigenen Test zuerst gemessen werden.

Methodik und Quellenhinweis

Recherche durchgeführt am 26. September 2026. Kernangaben wurden gegen OpenRouter- und TypeSafe-Primärquellen geprüft. Router-Benchmarkwerte sind als Anbieterangaben gekennzeichnet; unabhängige Jev-Studien werden nur für die zugrunde liegende Entscheidungskomponente herangezogen und nicht als direkte Reproduktion des gehosteten Routers ausgegeben. Die nachstehenden Belege führen zu den tatsächlich verwendeten Anbieter-, Forschungs- und API-Dokumenten. Welche lokale Runtime zum jeweiligen Workflow passt, vergleicht LM Studio vs. Ollama.

Quellen nach Aussage

Der Router selbst ist nicht das Modell, das die finale Antwort liefert. Router-Benchmarkwerte stammen von OpenRouter oder aus Launch-Unterlagen; unabhängige Studien zu Jev untersuchen die Entscheidungskomponente, nicht automatisch den gehosteten Jev Router. Für produktive Agenten bleibt eine eigene, vorher festgelegte Erfolgsmessung erforderlich.

Footnotes

1. openrouter.ai: source 3 ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶

2. openrouter.ai: source 15 ↩ ↩² ↩³

3. openrouter.ai: source 1 ↩ ↩² ↩³ ↩⁴ ↩⁵ ↩⁶ ↩⁷ ↩⁸ ↩⁹ ↩¹⁰

4. docs.typesafe.ai: source 16 ↩

5. docs.typesafe.ai: source 17 ↩ ↩² ↩³ ↩⁴

6. docs.typesafe.ai: source 21 ↩

7. openrouter.ai: source 7 ↩

8. openrouter.ai: source 13 ↩ ↩²

9. systemonemodels.org: source 29 ↩ ↩² ↩³

10. arxiv.org: source 30 ↩ ↩² ↩³

11. arxiv.org: source 31 ↩ ↩² ↩³

12. arxiv.org: source 32 ↩ ↩² ↩³

13. openrouter.ai: source 14 ↩ ↩²