llmrouter: Alias-Art schwelle (Index + Mindestkontext), Stufen 25/40/47/50
billigsterUeberSchwelle in openrouter-auswahl, gemeinsamer klasseFiltern mit dem Referenzmodus. Stufen jetzt als Schwelle: low 25/256k, medium 40/256k, high 47/500k, max 50/500k (Andreas 2026-09-05). Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
This commit is contained in:
@@ -22,6 +22,10 @@ Zwei Arten:
|
||||
Die Effort-Stufe des Ziels wird als `reasoning.effort` gesetzt; ein vom
|
||||
Client mitgeschicktes `reasoning_effort` wird verworfen, die Klasse gehört
|
||||
zum Alias.
|
||||
- **`schwelle`** — Index-Schwelle (0–100) plus Mindestkontext, ohne Referenzmodell:
|
||||
das günstigste Modell, das beides erfüllt, mit der niedrigsten ausreichenden
|
||||
Effort-Stufe. Stand 2026-09-05: low 25/256k, medium 40/256k, high 47/500k,
|
||||
max 50/500k. Stabiler als eine Referenz, sagt aber weniger über die Bedeutung.
|
||||
- **`fest`** — Upstream und Modell stehen fest (lokales Qwen, TTS/STT,
|
||||
Embeddings, kira auf deizo). Optional ein `body`-Patch, etwa
|
||||
`chat_template_kwargs.enable_thinking` für die Qwen-Stufen.
|
||||
|
||||
+14
-9
@@ -35,20 +35,24 @@
|
||||
},
|
||||
"aliases": {
|
||||
"marvin:low": {
|
||||
"art": "alternative",
|
||||
"referenz": "anthropic/claude-haiku-4.5"
|
||||
"art": "schwelle",
|
||||
"index": 25,
|
||||
"minContext": 256000
|
||||
},
|
||||
"marvin:medium": {
|
||||
"art": "alternative",
|
||||
"referenz": "anthropic/claude-sonnet-5"
|
||||
"art": "schwelle",
|
||||
"index": 40,
|
||||
"minContext": 256000
|
||||
},
|
||||
"marvin:high": {
|
||||
"art": "alternative",
|
||||
"referenz": "anthropic/claude-opus-5:medium"
|
||||
"art": "schwelle",
|
||||
"index": 47,
|
||||
"minContext": 500000
|
||||
},
|
||||
"marvin:max": {
|
||||
"art": "alternative",
|
||||
"referenz": "anthropic/claude-fable-5.1:high"
|
||||
"art": "schwelle",
|
||||
"index": 50,
|
||||
"minContext": 500000
|
||||
},
|
||||
"marvin-free": {
|
||||
"art": "fest",
|
||||
@@ -133,5 +137,6 @@
|
||||
"42i/marvin-2608-core:medium": "marvin-core:medium",
|
||||
"marvin-reasoning": "marvin-core:medium",
|
||||
"marvin-core": "marvin-core:none"
|
||||
}
|
||||
},
|
||||
"_stufen_doku": "Stufen als Index-Schwelle (Artificial-Analysis-Intelligence-Index, 0-100) mit Mindestkontext (Andreas 2026-09-05): low 25/256k, medium 40/256k, high 47/500k, max 50/500k. Die Art \"alternative\" mit Referenzmodell (z.B. anthropic/claude-opus-5:medium) bleibt möglich."
|
||||
}
|
||||
|
||||
@@ -13,6 +13,7 @@ import { dirname, resolve } from "path";
|
||||
export type Upstream = { base: string; keyEnv?: string; maxParallel?: number };
|
||||
export type Alias =
|
||||
| { art: "alternative"; referenz: string }
|
||||
| { art: "schwelle"; index: number; minContext: number }
|
||||
| { art: "fest"; upstream: string; model: string; body?: Record<string, unknown> };
|
||||
export type Config = {
|
||||
port: number;
|
||||
|
||||
+17
-9
@@ -12,7 +12,7 @@
|
||||
*/
|
||||
import { readFileSync, writeFileSync, appendFileSync, mkdirSync, existsSync, statSync } from "fs";
|
||||
import {
|
||||
apiKeyHolen, aaKeyHolen, listenHolen, kandidatenBauen, sperrliste, guenstigereAlternative,
|
||||
apiKeyHolen, aaKeyHolen, listenHolen, kandidatenBauen, sperrliste, guenstigereAlternative, billigsterUeberSchwelle,
|
||||
variantenHolen, referenzParsen, referenzFormat, type Variante, type Effort,
|
||||
} from "../../llmlite/openrouter-auswahl.ts";
|
||||
import { configLaden, type Config } from "./config.ts";
|
||||
@@ -74,20 +74,28 @@ export async function aufloesen(c: Config, bisher: State, opts?: { dryRun?: bool
|
||||
const neu: State = { aktualisiert: new Date().toISOString(), zuordnung: { ...bisher.zuordnung } };
|
||||
|
||||
for (const [alias, def] of Object.entries(c.aliases)) {
|
||||
if (def.art !== "alternative") continue;
|
||||
if (def.art === "fest") continue;
|
||||
const alt = bisher.zuordnung[alias];
|
||||
try {
|
||||
const abgelehnt: string[] = [];
|
||||
const { referenz, auswahl } = await guenstigereAlternative(def.referenz, alle, key,
|
||||
(id, grund) => abgelehnt.push(`${id}: ${grund}`), gesperrt,
|
||||
{ varianten, lasttest: c.lasttest, bestand: alt?.model });
|
||||
const ziel: Zuordnung = auswahl === null
|
||||
? { model: referenz.id, effort: referenz.effort ?? null, index: referenz.index, weighted: referenz.weighted, referenz: def.referenz, seit: alt?.seit ?? neu.aktualisiert, istReferenz: true }
|
||||
: { model: auswahl.candidate.id, effort: auswahl.candidate.effort ?? null, index: auswahl.candidate.index, weighted: auswahl.candidate.weighted, referenz: def.referenz, seit: alt?.seit ?? neu.aktualisiert, istReferenz: false };
|
||||
const melden = (id: string, grund: string) => abgelehnt.push(`${id}: ${grund}`);
|
||||
const o = { varianten, lasttest: c.lasttest, bestand: alt?.model };
|
||||
let ziel: Zuordnung;
|
||||
if (def.art === "alternative") {
|
||||
const { referenz, auswahl } = await guenstigereAlternative(def.referenz, alle, key, melden, gesperrt, o);
|
||||
ziel = auswahl === null
|
||||
? { model: referenz.id, effort: referenz.effort ?? null, index: referenz.index, weighted: referenz.weighted, referenz: def.referenz, seit: alt?.seit ?? neu.aktualisiert, istReferenz: true }
|
||||
: { model: auswahl.candidate.id, effort: auswahl.candidate.effort ?? null, index: auswahl.candidate.index, weighted: auswahl.candidate.weighted, referenz: def.referenz, seit: alt?.seit ?? neu.aktualisiert, istReferenz: false };
|
||||
} else {
|
||||
const beschreibung = `Index>=${def.index}, Kontext>=${def.minContext}`;
|
||||
const { auswahl } = await billigsterUeberSchwelle(def.index, def.minContext, alle, key, melden, gesperrt, o);
|
||||
if (auswahl === null) throw new Error(`kein Modell erfuellt ${beschreibung}`);
|
||||
ziel = { model: auswahl.candidate.id, effort: auswahl.candidate.effort ?? null, index: auswahl.candidate.index, weighted: auswahl.candidate.weighted, referenz: beschreibung, seit: alt?.seit ?? neu.aktualisiert, istReferenz: false };
|
||||
}
|
||||
const gleich = alt !== undefined && alt.model === ziel.model && alt.effort === ziel.effort;
|
||||
if (!gleich) {
|
||||
ziel.seit = neu.aktualisiert;
|
||||
const zeile = `${neu.aktualisiert} ${alias}: ${alt ? referenzFormat(alt.model, alt.effort) : "(neu)"} -> ${referenzFormat(ziel.model, ziel.effort)} (Index ${ziel.index.toFixed(1)}, ${ziel.weighted.toFixed(2)} $/1M gewichtet, Referenz ${def.referenz}${ziel.istReferenz ? ", = Referenz" : ""})`;
|
||||
const zeile = `${neu.aktualisiert} ${alias}: ${alt ? referenzFormat(alt.model, alt.effort) : "(neu)"} -> ${referenzFormat(ziel.model, ziel.effort)} (Index ${ziel.index.toFixed(1)}, ${ziel.weighted.toFixed(2)} $/1M gewichtet, ${ziel.referenz}${ziel.istReferenz ? ", = Referenz" : ""})`;
|
||||
log(zeile);
|
||||
if (!opts?.dryRun) { mkdirSync(c.logDir, { recursive: true }); appendFileSync(`${c.logDir}/changes.log`, zeile + "\n"); }
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user