Zum Inhalt springen

Zugriff

Start6 · Zugriff & Routing

Zugriff & Routing – wie man mit Modellen spricht

Ein laufendes Modell muss angesprochen werden: programmatisch (API, CLI), über Verteiler, die viele Anbieter bündeln (OpenRouter, LiteLLM), oder über eine Chat-Oberfläche (Open WebUI). Der Clou: Fast alle sprechen dasselbe API-Format – dadurch sind Modelle austauschbar wie Glühbirnen.

DEINE ANWENDUNGEN Chat-UI (Open WebUI) grafische Oberfläche Eigener Code / App per API-Aufruf CLI / Terminal z.B. Claude Code Agent ruft Modell in Schleife MODELL-ROUTER LiteLLM (selbst gehostet) OpenRouter (Cloud-Dienst) ein Format rein → passend übersetzt raus einheitliches OpenAI-Format MODELL-ANBIETER OpenAI (GPT) Anthropic (Claude) Google (Gemini) Ollama (lokal) vLLM (eigener Server) Vorteile: Anbieter wechseln ohne Code-Änderung · Ausfall-Fallback · Kosten-Tracking · lokal und Cloud mischen Ohne Router ginge jede Anwendung direkt zu genau einem Anbieter – und wäre an ihn gebunden („Lock-in“)
Schaubild 7: Der Router als Drehscheibe: Links sprechen alle Anwendungen ein Format, rechts hängen beliebige Anbieter – Cloud und lokal gemischt. Genau das meinen „LiteLLM“ und „OpenRouter“.

API Application Programming Interface Programmierschnittstelle

Die standardisierte „Steckdose“, über die Programme mit dem Modell reden: Anfrage hin (Prompt + Einstellungen), Antwort zurück. Der Klebstoff zwischen allen Schichten der Landkarte.

Analogie: Steckdose – du musst das Kraftwerk nicht verstehen. Das „OpenAI-kompatible“ Format ist der Quasi-Standard-Stecker geworden.
API — Programmierschnittstelle — Die Steckdose, an der die ganze KI-Welt hängt

CLI Command-Line Interface Kommandozeile

Steuerung per getippten Textbefehlen statt Klicks. Viele KI-Werkzeuge leben primär hier – auch die Coding-Agenten wie Claude Code. Ungewohnt für Einsteiger, unschlagbar für Automatisierung.

CLI — Kommandozeile — Textbefehle statt Klicks: das Cockpit der Entwickler (und Agenten)

OpenRouter Gehosteter Modell-Marktplatz

Ein Konto, ein API-Key, Zugriff auf hunderte Modelle aller Anbieter – zentral abgerechnet. Perfekt zum Vergleichen und schnellen Ausprobieren ohne eigenen Betrieb.

Vorteile
  • Ein Zugang für alles, sofort startklar
  • Preis-/Leistungsvergleich eingebaut
  • Automatischer Ausfall-Fallback
Nachteile
  • Daten laufen über einen Dritten
  • Kleine Preis-Marge obendrauf
  • Abhängigkeit vom Dienst
OpenRouter — Ein Konto, hunderte Modelle — der gehostete Modell-Marktplatz

LiteLLM Selbstbetriebener Universal-Proxy

Gleiche Idee wie OpenRouter, aber als Software, die du selbst betreibst: dein Code spricht ein Format, LiteLLM übersetzt zu 100+ Anbietern. Dazu Kosten-Tracking, Budgets, Schlüsselverwaltung fürs Team.

Vorteile
  • Volle Kontrolle, Daten bleiben bei dir
  • Team-Budgets & Kostenlimits
  • Lokal + Cloud frei mischbar
Nachteile
  • Selbst einrichten & warten
  • Braucht technisches Know-how
LiteLLM — Der selbstbetriebene Universal-Proxy für Teams

Open WebUI Selbstgehostete Chat-Oberfläche

Eine ChatGPT-ähnliche Weboberfläche für deine Modelle – meist mit Ollama kombiniert: Chats, Nutzerverwaltung, Dokumenten-Upload (RAG eingebaut), Modellwechsel per Klick.

Analogie: Dein privates „ChatGPT“ im Firmennetz – gleiche Bedienung, Daten bleiben im Haus.
Open WebUI — Die selbstgehostete Chat-Oberfläche — dein privates „ChatGPT“

Vergleich auf einen Blick

WerkzeugArtAm besten für
Direkte API1 AnbieterEinfachheit, ein fester Anbieter
OpenRouterCloud-DienstViele Modelle testen, kein Betrieb
LiteLLMEigene SoftwareTeams, Kontrolle, Unabhängigkeit
Open WebUIOberflächeMenschen statt Programme