llmrouter: Deploy-Stand — Port 4010, Kira-Keys, MODEL_BLOCKLIST, max auf fable-5.1:high
Läuft seit 2026-09-05 als systemd-Unit llmrouter im LXC 185020 unter /srv/llmrouter, parallel zu LiteLLM (:4000). 4001 war von nginx belegt. Admin-Key in OpenBao jessie/llmrouter. Token für inka-mx, nightjob, lab-xo, team-copilot fehlen (nur Hash in LiteLLM). Co-Authored-By: Claude Fable 5.1 <noreply@anthropic.com>
This commit is contained in:
@@ -65,7 +65,7 @@ keine Kosten, das Feld bleibt leer, wir erfinden keine Preise.
|
||||
|
||||
```bash
|
||||
bun run src/stats.ts 7 # Tag × Key: Anfragen, Tokens, Kosten, Modelle
|
||||
curl -H "Authorization: Bearer $ADMIN_KEY" http://llm.lan:4001/stats?days=7
|
||||
curl -H "Authorization: Bearer $ADMIN_KEY" http://llm.lan:4010/stats?days=7
|
||||
```
|
||||
|
||||
Die Antwort trägt `x-llmrouter-model`, damit ein Client sieht, was wirklich lief.
|
||||
@@ -73,11 +73,11 @@ Die Antwort trägt `x-llmrouter-model`, damit ein Client sieht, was wirklich lie
|
||||
## Betrieb
|
||||
|
||||
```bash
|
||||
PORT=4001 KEYS_FILE=/srv/llmrouter/keys.json ADMIN_KEY=… OPENROUTER_API_KEY=… bun run src/server.ts
|
||||
PORT=4010 KEYS_FILE=/srv/llmrouter/keys.json ADMIN_KEY=… OPENROUTER_API_KEY=… bun run src/server.ts
|
||||
bun run build # dist/llmrouter, ein statisches Linux-Binary
|
||||
```
|
||||
|
||||
Parallelbetrieb neben LiteLLM (Port 4000) im LXC 185020 auf Port 4001; die
|
||||
Parallelbetrieb neben LiteLLM (Port 4000) im LXC 185020 auf Port 4010; die
|
||||
Umschaltung ist ein Wechsel der `base_url` in den Client-Configs.
|
||||
|
||||
Bedient: `/v1/chat/completions`, `/v1/completions`, `/v1/responses`,
|
||||
|
||||
Reference in New Issue
Block a user