Nicht jede Aufgabe braucht das größte Modell
Die Modellwahl ist eine Kostenentscheidung mit Qualitätsfolgen — und selten gibt es eine Antwort für das ganze Projekt.
In den meisten Anwendungen gibt es nicht eine Aufgabe, sondern viele: Text klassifizieren, Felder extrahieren, zusammenfassen, argumentieren. Diese Aufgaben unterscheiden sich in ihrem Anspruch erheblich — und trotzdem laufen sie oft alle über dasselbe, größtmögliche Modell.
Eine brauchbare Reihenfolge
- Mit einem kleinen, schnellen Modell anfangen.
- Messen, wo es nachweislich scheitert — nicht vermuten.
- Nur diese Stellen auf ein stärkeres Modell heben.
So bleibt teure Rechenleistung dort, wo sie einen Unterschied macht, und die Antwortzeiten bleiben im Rest der Anwendung kurz.
Unsere Einordnung
Die Modellwahl gehört zur Architektur, nicht in die Konfiguration am Schluss. Wer sie früh als Entscheidung behandelt, spart später den Umbau.
Quellen
Passt in die KI-Landkarte
Die Zusammenhänge hinter dieser Meldung stehen ausführlich im Kapitel Modellwahl.
Zu Modellwahl- modellwahl
- kosten
- architektur