Was ist Fine-Tuning?
Fine-Tuning ist das gezielte Nachtrainieren eines bereits vortrainierten KI-Modells mit eigenen Beispieldaten. Das Modell lernt dadurch Stil, Fachsprache, Format oder eine bestimmte Aufgabe besser, ohne dass es von Grund auf neu entwickelt werden muss.
Fine-Tuning: Definition
Große Sprachmodelle werden zunächst allgemein trainiert und sind dadurch vielseitig, aber nicht auf Ihr Unternehmen zugeschnitten. Beim Fine-Tuning wird ein solches Modell mit einigen Hundert bis Tausenden eigenen Beispielpaaren weitertrainiert, jeweils aus Eingabe und gewünschter Ausgabe. Dadurch ändert sich sein Verhalten dauerhaft.
Wichtig ist die Abgrenzung: Fine-Tuning vermittelt vor allem Stil, Struktur und Aufgabenroutine, nicht zuverlässig neues Faktenwissen. Aktuelles Wissen, etwa Preise oder Handbücher, liefert man besser zur Laufzeit über Retrieval-Augmented Generation (RAG), weil sich Dokumente leichter austauschen lassen als ein trainiertes Modell.
So läuft Fine-Tuning ab
Zuerst werden Beispiele gesammelt und bereinigt: gute Eingaben samt korrekter Ausgabe, möglichst von Fachleuten geprüft. Ein Teil bleibt zur Kontrolle beiseite. Dann wird das Modell trainiert. Verbreitet sind parameter-effiziente Verfahren wie LoRA, die nur einen kleinen Zusatz trainieren und deshalb weniger Rechenaufwand benötigen.
Anschließend wird das Ergebnis an ungesehenen Testfällen gemessen und mit dem Ausgangsmodell verglichen. Erst wenn es messbar besser ist, geht es in den Betrieb. So verhindert man, dass sich eine Verbesserung an einer Stelle unbemerkt an anderer Stelle auswirkt. Wechselt der Anbieter sein Basismodell, muss das Fine-Tuning meist wiederholt werden.
Praxisbeispiel: Einheitliche Einstufung von Eingangspost
Eine Steuerkanzlei erhält täglich Schreiben von Finanzämtern, Banken und Mandanten und möchte sie in feste Kategorien einordnen, jeweils mit Frist und Kurzfassung in einem vorgegebenen Format. Mit Anweisungen allein schwankt die Ausgabe. Nach einem Fine-Tuning mit mehreren Hundert geprüften Beispielen ist das Format stabil und die Einstufung zuverlässiger.
Die Kanzlei behielt die menschliche Kontrolle bei Fristen bei. Außerdem sammelte sie Korrekturen der Mitarbeitenden, um das Modell später gezielt zu verbessern. Das Beispiel zeigt: Fine-Tuning lohnt sich bei einer klar umrissenen, häufigen Aufgabe mit vielen guten Beispielen. Für wechselnde Inhalte wie Preislisten wäre RAG die bessere Wahl gewesen.
Wann es sich lohnt – und wann nicht
Meist ist die Reihenfolge sinnvoll: erst Prompting, dann RAG, zuletzt Fine-Tuning. Es kostet Zeit und Daten, muss gepflegt werden und kann bei schlechten Beispielen Fehler festschreiben. Werden personenbezogene Daten zum Training genutzt, sind Datenschutz und Zweckbindung zu klären. Wer Beispiele aus echten Vorgängen nutzt, sollte außerdem prüfen, ob sie vertrauliche Angaben enthalten.
Nano Concepts hilft bei der Entscheidung und baut bei Bedarf die Datenbasis, das Training und die Qualitätsprüfung auf. Dazu gehören ein Vergleich mit einfacheren Lösungen und ein Pilot, der die Qualität an echten Fällen misst, bevor ein größeres Training startet. Wir sagen auch offen, wenn Fine-Tuning nicht nötig ist.
- Ziel und Messgröße vorab festlegen
- Mit Prompting und RAG vergleichen, bevor trainiert wird
- Beispiele fachlich prüfen und von personenbezogenen Daten befreien
- Testdaten getrennt halten und Qualität regelmäßig messen
- Pflegeaufwand bei Modellwechseln einplanen
Häufige Fragen zu Fine-Tuning
Beim Fine-Tuning wird das Modell selbst verändert, um Stil, Format oder Aufgabe zu lernen. Bei RAG bleibt das Modell unverändert und bekommt passende Dokumente zur Laufzeit mitgeliefert. Für aktuelles Firmenwissen ist RAG meist besser geeignet, für ein festes Ausgabeverhalten eher Fine-Tuning.
Je nach Aufgabe genügen oft schon einige Hundert hochwertige Beispiele, für komplexere Aufgaben werden es mehr. Wichtiger als die Menge ist die Qualität: Die Beispiele müssen korrekt, einheitlich und repräsentativ sein, sonst lernt das Modell Fehler mit.
Die reinen Trainingskosten sind oft überschaubar. Der größere Aufwand liegt in Datensammlung, Prüfung, Tests und späterer Pflege. Ob es sich lohnt, hängt vom Volumen der Aufgabe ab. Ein Pilot mit einem begrenzten Datensatz zeigt schnell, ob die Qualität gegenüber Prompting messbar steigt.
Das regeln die Vertragsbedingungen des Anbieters. Prüfen Sie, ob Ihre Daten zum Training anderer Modelle verwendet werden dürfen, wo sie gespeichert werden und ob ein Vertrag zur Auftragsverarbeitung besteht. Bei sensiblen Inhalten kommen auch selbst betriebene Modelle infrage.
Passende Leistungen
KI-Integration & Chatbots
Chatbots, Assistenten und KI-Workflows, die Anfragen beantworten, Daten auswerten und Leads qualifizieren.
Mehr erfahren
KI-Beratung
Potenzialanalyse, priorisierte KI-Anwendungsfälle und ein realistischer Fahrplan – von einem Team, das KI auch umsetzt.
Mehr erfahren
KI-Wissensdatenbank
Interner KI-Assistent, der Handbücher, Richtlinien und Tickets durchsucht und mit Quellenangabe antwortet – nach Ihren Zugriffsrechten.
Mehr erfahrenVerwandte Begriffe
Relevant für diese Branchen
Passende Magazin-Beiträge
Prozesse automatisieren: 5 Abläufe für einen schnellen Start
Anfragen sortieren, Termine abstimmen, Angebote abtippen: Fünf Abläufe, die sich in fast jedem Unternehmen automatisieren lassen – mit Priorisierungshilfe, Praxisbeispiel und den typischen Fehlern.
Weiterlesen
KI im Mittelstand: Wo Chatbots und Assistenten wirklich helfen
KI lohnt sich im Mittelstand, wenn sie eine klar umrissene Aufgabe übernimmt. Wo Chatbots und Assistenten Service, Vertrieb und Wissen entlasten – und was Datenschutz und KI-Verordnung verlangen.
Weiterlesen
Dokumente mit KI auslesen: Rechnungen und Belege automatisch verarbeiten
Rechnungen, Lieferscheine und Bestellungen lassen sich mit KI auslesen, prüfen und ins ERP übertragen – auch ohne feste Vorlage. So läuft es ab, was die E-Rechnung ändert und wo die Grenzen liegen.
Weiterlesen
