Günstige und lokale Modelle

Zeltro verkauft Ihnen keine KI. Es startet den Agenten, auf den Sie es einstellen, mit dem Modell Ihrer Wahl, auch mit Modellen, die auf Ihrem eigenen Rechner laufen.

Die Standard-Agenten rechnen zu Preisen von Spitzenmodellen ab. Für viel Zeltro-Arbeit (Gerüste anlegen, Konfiguration verdrahten, Routineänderungen) reicht ein deutlich günstigeres Modell, und der Unterschied ist groß:

Modell	Eingabe / Ausgabe pro 1 Mio. Tokens
Claude Sonnet 5 (Anthropic API)	$2 / $10
Qwen3 Coder Next (OpenRouter)	~$0.12 / ~$0.80
Qwen3 Coder 30B A3B Instruct (OpenRouter)	~$0.07 / ~$0.28
Jedes Modell auf lokalem Ollama	nichts pro Token (Ihre Hardware und Ihr Strom)

Preise Stand September 2026; die Preise bei OpenRouter ändern sich, prüfen Sie also die Seite des Modells, bevor Sie sich darauf verlassen. In einem Test im August 2026 hat Qwen Code mit qwen/qwen3-coder-30b-a3b-instruct eine funktionierende Django-App vollständig für $0.87 gebaut.

Zeltro spart schon Tokens, bevor das Modell überhaupt ins Spiel kommt: Umgebung, Netzwerk, Datenbank und Container-Unterbau sind vorgefertigt, sodass der Agent seinen Kontext für Ihre App verwendet, statt sich ein Docker-Setup herzuleiten. Ein Modellwechsel kommt zu dieser Einsparung hinzu, statt sie zu ersetzen.

So funktioniert es#

zeltro ai-set --agent <agent> --model <model> --api-base <url> --api-key <key>

--api-base ist die entscheidende Option. Zeltro reicht sie über die Einstellung weiter, die die jeweilige CLI liest:

Agent	Endpunkt übergeben als	Schlüssel übergeben als	Erwarteter Endpunkt
`qwen`	`OPENAI_BASE_URL`	`OPENAI_API_KEY`	OpenAI-kompatibel
`aider`	`--openai-api-base`	`--api-key <provider>=<key>`	OpenAI-kompatibel
`opencode`	ein OpenAI-kompatibler Inline-Anbieter in `OPENCODE_CONFIG_CONTENT`	der `apiKey` dieses Anbieters	OpenAI-kompatibel
`hermes`	`OPENAI_BASE_URL`, mit `--provider openai`	`OPENAI_API_KEY`	OpenAI-kompatibel
`claude`	`ANTHROPIC_BASE_URL`	`ANTHROPIC_API_KEY`, nur wenn er mit `sk-ant-` beginnt	Anthropic-kompatibel
`codex`	`-c openai_base_url=…` (Zeltro übergibt es für Sie)	`OPENAI_API_KEY`, nur wenn er mit `sk-` beginnt	OpenAI Responses API
`agy`	nichts (abgelehnt)	`GEMINI_API_KEY`	Die eigene Google-Anmeldung oder ein Gemini-API-Schlüssel
`gemini` (veraltet)	`GOOGLE_GEMINI_BASE_URL`	`GEMINI_API_KEY`	Ein kostenpflichtiger Gemini-API-Schlüssel

„OpenAI-kompatibel“ umfasst OpenRouter, DeepInfra, Together, Fireworks, Ollama, LM Studio und vLLM. Für günstige oder lokale Modelle sind also qwen, aider, opencode und hermes die richtigen Agenten. In unseren Tests liefen OpenCode und Hermes beide über OpenRouter mit DeepSeek V4.1 Flash; OpenCode mit Qwen3 Coder hat manchmal eine Dateiänderung beschrieben, statt sie vorzunehmen. Probieren Sie also ein zweites Modell, wenn eines sich danebenbenimmt.

Für einen einzelnen Lauf mit einem anderen Modell, ohne die globale Einstellung anzufassen, nutzen Sie das Überschreiben pro Sitzung (ZELTRO_AI_AGENT, ZELTRO_AI_MODEL, ZELTRO_AI_API_BASE, ZELTRO_AI_API_KEY_FILE). In der Zeltro-App erledigt ein KI-Profil dasselbe.

OpenRouter (am günstigsten gehostet)#

zeltro ai-set --agent qwen \
  --model qwen/qwen3-coder-30b-a3b-instruct \
  --api-base https://openrouter.ai/api/v1 \
  --api-key sk-or-v1-...

Bezahlung nach Verbrauch, kein Abo. qwen/qwen3-coder-next ist ein neueres, größeres Qwen-Coding-Modell zum zwei- bis dreifachen Preis. Mit Aider nutzen Sie OpenRouters eigenes Präfix und keinen Endpunkt: --agent aider --model openrouter/qwen/qwen3-coder-30b-a3b-instruct --api-key sk-or-v1-....

Ollama (lokal, privat)#

Installieren Sie Ollama, laden Sie ein Coding-Modell und verweisen Sie Zeltro darauf:

ollama pull qwen3-coder:30b

zeltro ai-set --agent qwen \
  --model qwen3-coder:30b \
  --api-base http://localhost:11434/v1 \
  --api-key ollama

Der Schlüssel ist ein Platzhalter. Ollama ignoriert ihn, aber die CLIs erwarten irgendetwas.

Nichts verlässt Ihren Rechner, was bei Kundenarbeit unter NDA zählt.

Erhöhen Sie vor dem Start die Kontextlänge von Ollama. Der Standardwert hängt von Ihrem VRAM ab und liegt unter 24 GB bei nur 4k Tokens, viel zu wenig für einen Agenten. Ollama empfiehlt für Coding-Werkzeuge mindestens 64k: Starten Sie den Server mit OLLAMA_CONTEXT_LENGTH=64000 ollama serve oder nutzen Sie den Schieberegler in den Einstellungen der Ollama-App. Mehr Kontext braucht mehr VRAM.

Die Modellgröße zählt mehr, als einem lieb ist, und das ist gemessen, nicht vermutet. Im Test mit qwen2.5-coder:1.5b lieferte zeltro create --classify-only gültiges, korrekt aufgebautes JSON (die Mechanik stimmt), empfahl aber eine Budget-App für einen Gitarrenpedal-Tracker, mit der Begründung „Laravel eignet sich hervorragend für Budget-Apps“. Stimmige Ausgabe, unstimmiges Denken.

Kleine Modelle scheitern also auf die schlimmste Art: Mechanisch klappt alles, aber inhaltlich liegen sie falsch. Ein Modell mit ~30B auf 24 GB VRAM ist ungefähr die Untergrenze für agentisches Arbeiten (qwen3-coder:30b ist ein 19-GB-Download); darunter sollten Sie plausiblen Unsinn statt Fehlermeldungen erwarten.

Qwen Code verlangt außerdem Node 22 oder neuer. Unter Node 20 lässt es sich installieren und starten (npm warnt mit EBADENGINE und es läuft trotzdem), aber das wird nicht unterstützt.

LM Studio oder vLLM#

Beide stellen einen OpenAI-kompatiblen Server bereit, der Aufbau ist also identisch. LM Studio lauscht auf Port 1234, vLLM standardmäßig auf 8000:

zeltro ai-set --agent qwen --model <model> \
  --api-base http://localhost:1234/v1 --api-key local

Codex mit einem anderen Endpunkt#

Aktuelle Versionen der Codex CLI lesen OPENAI_BASE_URL nicht mehr. Deshalb übergibt Zeltro den Endpunkt aus zeltro ai-set --agent codex --api-base ... (oder ZELTRO_AI_API_BASE) bei jedem Lauf als Codex' eigene Einstellung, -c openai_base_url="…". Der Haken: Codex spricht nur OpenAIs Responses API, und die implementiert nicht jeder kompatible Server. Für alles Aufwendigere konfigurieren Sie Codex selbst in ~/.codex/config.toml mit einem Eintrag [model_providers]. Für Ollama oder LM Studio hat Codex einen eigenen --oss-Modus (oss_provider in derselben Datei). Siehe Codex' erweiterte Konfiguration. Für günstige oder lokale Modelle machen qwen oder aider weniger Arbeit.

Claude Code mit einem lokalen Modell#

Claude Code spricht Anthropics API, nicht die von OpenAI. Ollama ab Version 0.14 spricht auch Anthropics API, Claude Code kann also direkt ein Ollama-Modell nutzen:

zeltro ai-set --agent claude --model qwen3-coder:30b \
  --api-base http://localhost:11434

Beachten Sie, dass die URL kein /v1 hat. Lassen Sie --api-key leer: Ollama ignoriert den Schlüssel, und Zeltro gibt nur Schlüssel weiter, die mit sk-ant- beginnen. Fordert Claude Code Sie zur Anmeldung auf, führen Sie vorher in Ihrer Shell export ANTHROPIC_AUTH_TOKEN=ollama aus, wie es Ollamas Anleitung beschreibt.

Für einen Server, der nur OpenAIs API spricht, schalten Sie einen übersetzenden Proxy wie LiteLLM davor und übergeben dessen Adresse als --api-base.

Das lohnt sich nur, wenn Sie ausdrücklich die Oberfläche von Claude Code mit einem lokalen Modell möchten. Sonst ist qwen weniger Aufwand.

Zurückwechseln#

zeltro ai-set --agent claude --api-base none --api-key ""

none löscht den Endpunkt; ein leeres --api-key löscht einen gespeicherten Schlüssel. Ein Agentenwechsel löscht auch das gespeicherte Modell, damit sind Sie wieder beim eigenen Standardmodell von Claude Code. Wo Sie stehen, zeigt zeltro ai-set --json-output.

Ehrlich abwägen#

Günstigere Modelle sind bei langer, selbstständiger Arbeit wirklich schlechter. Die realistische Aufteilung:

Routineänderungen, Gerüste, Konfiguration, Boilerplate. Ein günstiges oder lokales Modell reicht, und die Ersparnis ist echt.
zeltro create, das aus einem Satz eine ganze App baut, oder die Suche nach einem subtilen Fehler. Hier sind Spitzenmodelle ihren Preis noch wert.

Nichts hindert Sie daran, pro Aufgabe zu wechseln. zeltro ai-set dauert eine Sekunde und ändert den globalen Standard; die ZELTRO_AI_*-Variablen ändern ihn für einen einzelnen Lauf.

Einen Fehler in dieser Übersetzung gefunden? Sagen Sie es uns auf GitHub.