Zum Inhalt springen

Entscheidungshilfe

Start10 · Entscheidungshilfe

Entscheidungshilfe – was setze ich wofür ein?

Die Landkarte in Entscheidungen übersetzt: erst der Entscheidungsbaum für die Grundsatzfragen, dann die Situations-Tabelle.

Müssen die Daten im Haus bleiben? (Datenschutz, Geschäftsgeheimnisse, Compliance) JA → lokal NEIN → Cloud ok Wie viele Nutzer gleichzeitig? nur du ↔ ganzes Team/Produkt ich allein viele Ollama + Open WebUI + offenes Modell (gpt-oss, Qwen, Llama) auf PC/Mac vLLM oder NIM auf Server-GPU / DGX, davor LiteLLM fürs Team Ein Anbieter oder flexibel? fester Favorit ↔ vergleichen & wechseln fester Favorit flexibel Direkte API OpenAI / Anthropic / Google oder einfach die Chat-Apps OpenRouter / LiteLLM ein Zugang, alle Modelle, jederzeit wechselbar Und: Soll die KI eigenes Wissen nutzen oder anders klingen? gilt unabhängig von lokal/Cloud Eigenes WISSEN → RAG (+ Vektor-DB) Anderes VERHALTEN → LoRA / Fine-Tuning
Schaubild 12: Zwei Fragen klären fast alles: (1) Datenschutz → lokal oder Cloud, und in welcher Größenordnung. (2) Wissen vs. Verhalten → RAG oder LoRA.
Deine SituationEmpfehlungWarum
Nur mal ausprobieren, ein LaptopOllama + gpt-oss-20b oder QwenIn Minuten startklar, kostenlos, Consumer-Hardware reicht
Private ChatGPT-Alternative fürs TeamOpen WebUI + Ollama/vLLMVertraute Bedienung, Daten bleiben im Haus
Maximale Qualität, kein BetriebsaufwandTop-Modell per API / Chat-AppGPT, Claude & Gemini bleiben die Spitze
Viele Modelle vergleichenOpenRouterEin Konto, hunderte Modelle
Team-Setup mit Kostenkontrolle & UnabhängigkeitLiteLLM (selbst gehostet)Budgets, Schlüssel, freier Anbieterwechsel
KI soll unser Firmenwissen kennenRAG + Vektor-DBAktuell, belegbar, ohne Training änderbar
KI soll in unserem Ton/Format antwortenLoRA / Fine-TuningVerhalten dauerhaft ins Modell trainiert
KI soll Aufgaben selbst erledigenAgent + MCP (+ Skills)Werkzeuge + Vorgehenswissen = echtes Handeln
KI soll mitprogrammierenClaude Code / Codex / Gemini CLI + AGENTS.mdAgentische Schleife + gute Steuer-Dateien = beste Ergebnisse
Große Modelle lokal / Fine-Tuning im HausStarke GPU bzw. DGX Spark + vLLM/NIM128 GB Unified Memory für Modelle bis ~200B
Merksätze: Wissen → RAG · Verhalten → LoRA · Handeln → Agent+MCP · Datenschutz → lokal · Spitzenleistung → Cloud · Flexibilität → Router (LiteLLM/OpenRouter).