Fine-Tuning.

Beim Fine-Tuning nehmt ihr ein vortrainiertes Modell, etwa ein LLM, und trainiert es mit eigenen Beispielen weiter. Laut Google wird dabei das Basismodell auf einem eigenen, beschrifteten Datensatz neu trainiert, und seine Gewichte werden an Aufgabe und Daten angepasst. Für Unternehmen klingt das nach dem naheliegenden Weg, eine KI auf die eigene Firma zuzuschneiden. In der Praxis ist es selten der erste Schritt, denn die großen Anbieter empfehlen selbst eine andere Reihenfolge.

Fine-Tuning, RAG oder gutes Prompting?

Prompting kommt zuerst. Google rät, mit Prompting zu beginnen, den besten Prompt zu finden und erst danach, falls nötig, per Fine-Tuning die Leistung zu steigern oder wiederkehrende Fehler zu beheben. Auch OpenAI beschreibt einen Kreislauf aus Tests, Prompts und Fine-Tuning, in dem gutes Prompt Engineering für viele Anwendungen schon genügt.

RAG liefert Wissen, Fine-Tuning formt Verhalten. Sollen Antworten auf aktuellen Firmendokumenten beruhen, ist RAG der passende Weg, weil sich Dokumente ohne neues Training austauschen lassen. Fine-Tuning eignet sich laut OpenAI dagegen für Klassifikation, für Übersetzungen mit Feinheiten und dafür, Antworten durchgängig in einem bestimmten Format zu erzeugen. Außerdem kann laut OpenAI ein feinjustiertes kleineres Modell eine Aufgabe übernehmen, für die ein großes Modell zu teuer wäre.

Worauf ihr im Unternehmen achten solltet

Sammelt zuerst saubere Beispiele. Google nennt als Richtwert einen Datensatz von etwa 100 Beispielen oder mehr und betont, dass gut beschriftete Daten wichtiger sind als ihre Menge. Die Beispiele sollen laut Google den Anfragen entsprechen, die das Modell später im Betrieb bekommt.

Prüft die Verfügbarkeit beim Anbieter. Laut OpenAI-Dokumentation baut OpenAI seine Self-Service-Plattform für Fine-Tuning ab. Seit dem 7. Mai 2026 können Organisationen, die bisher kein Fine-Tuning genutzt haben, dort keine Trainings mehr starten. Ab dem 6. Januar 2027 gilt das auch für bestehende Kunden. Google bietet Fine-Tuning für Gemini-Modelle laut eigener Dokumentation weiterhin an.

Plant die Wiederholung mit jedem neuen Basismodell ein. Ein Fine-Tuning hängt an einem bestimmten Basismodell. Laut OpenAI folgen feinjustierte Modelle dem Abschaltplan ihres Basismodells. Wird es abgelöst, steht das Training erneut an. In Projekten sehen wir, dass dieser Folgeaufwand in Kalkulationen oft fehlt.

Häufige Fragen zum Fine-Tuning

Lernt das Modell so unser aktuelles Firmenwissen? Für Wissen, das sich ändert, ist das der falsche Weg. Ändert sich eine Preisliste, müsstet ihr neu trainieren. Mit RAG tauscht ihr nur das Dokument aus.

Was kostet Fine-Tuning? Laut OpenAI werden sowohl das Training als auch die spätere Nutzung feinjustierter Modelle abgerechnet. Dazu kommt die interne Zeit für das Sammeln und Prüfen der Beispiele, die in der Praxis oft den größten Teil ausmacht.

Gibt es eine schlankere Variante? Google beschreibt parametereffizientes Tuning, das nur einen kleinen Teil der Modellparameter anpasst. Es braucht laut Google deutlich weniger Rechenleistung und kommt mit kleineren Datensätzen aus als vollständiges Fine-Tuning.

Ob sich Fine-Tuning für euren Fall lohnt oder Prompting und RAG reichen, testen wir mit euch bei KI für Unternehmen.