Was sind Token und das Kontextfenster?
Token sind die Textbausteine, in die ein KI-Modell Sprache zerlegt – oft Wortteile oder Satzzeichen. Das Kontextfenster ist die maximale Menge an Token, die das Modell gleichzeitig berücksichtigt, also Anweisung, Dokumente, Verlauf und Antwort zusammen.
Token und Kontextfenster: Definition
Sprachmodelle verarbeiten keine Wörter, sondern Token. Ein Token kann ein ganzes kurzes Wort sein, meist aber ein Wortteil, eine Silbe oder ein Satzzeichen. Lange oder zusammengesetzte deutsche Wörter werden in mehrere Token zerlegt; deutsche Texte benötigen deshalb in der Regel mehr Token als gleich lange englische.
Das Kontextfenster gleicht dem Arbeitsspeicher des Modells: Nur was darin Platz hat, kann es bei der Antwort berücksichtigen. Dazu zählen Ihre Anweisung, mitgeschickte Dokumente, der bisherige Gesprächsverlauf und die Antwort selbst. Je nach Modell reicht die Spanne von einigen Tausend bis zu weit über hunderttausend Token.
Warum Token Kosten und Qualität bestimmen
Anbieter rechnen ihre Dienste meist pro Token ab, getrennt nach Eingabe und Ausgabe. Wer bei jeder Anfrage lange Dokumente oder den gesamten Chatverlauf mitschickt, zahlt jedes Mal dafür. Auch die Antwortzeit steigt mit der Länge des Kontexts. Deshalb lohnt es sich, schon in der Planung abzuschätzen, wie viele Anfragen am Tag anfallen und wie umfangreich die Eingaben typischerweise sind.
Ein größeres Fenster ist zudem kein Freibrief. Bei sehr langen Eingaben kann ein Modell Details übersehen, vor allem solche mitten im Text. Wird die Grenze überschritten, schneidet die Anwendung ältere Inhalte ab oder meldet einen Fehler. Das Modell „vergisst“ dann tatsächlich den Anfang des Gesprächs.
Praxisbeispiel: Lange Verträge in der Kanzlei
Eine Kanzlei möchte umfangreiche Mietverträge mit KI auf bestimmte Klauseln prüfen. Der gesamte Vertrag passt zwar in das Kontextfenster, doch die Kosten pro Prüfung sind hoch und einzelne Passagen werden übersehen. Besser funktioniert ein gestuftes Vorgehen: Der Vertrag wird in Abschnitte geteilt, relevante Stellen werden gezielt herausgesucht und gemeinsam bewertet.
Für Rückfragen im Gespräch fasst die Anwendung frühere Beiträge zusammen, statt den ganzen Verlauf mitzuschicken. Das spart Token, hält die Antworten fokussiert und erleichtert die Kontrolle durch die Juristen, weil jede Aussage einer Fundstelle zugeordnet werden kann. Das gestufte Verfahren ist zudem günstiger, weil nicht bei jeder Frage der komplette Vertrag verarbeitet wird.
Worauf Unternehmen achten sollten
Wählen Sie Modell und Fenstergröße nach Aufgabe, nicht nach dem größten Wert. Prüfen Sie Preise je Token anhand Ihres realistischen Volumens, und planen Sie Kostenlimits ein. Bei sensiblen Dokumenten ist zusätzlich zu klären, wo die Verarbeitung stattfindet. Testen Sie mit Ihren echten Dokumenten, denn Länge und Aufbau unterscheiden sich von Branche zu Branche stark.
Nano Concepts entwirft KI-Anwendungen so, dass nur das Nötige im Kontext landet, und macht Verbrauch und Kosten pro Vorgang transparent. Auf Wunsch richten wir ein Monitoring ein, das Verbrauch und Antwortzeiten auswertet, und prüfen, ob ein kleineres, günstigeres Modell für die Aufgabe ausreicht.
- Nur relevante Auszüge statt ganzer Ordner übergeben
- Lange Dokumente in Abschnitte teilen und gezielt abrufen (RAG)
- Gesprächsverläufe zusammenfassen statt vollständig mitzuschicken
- Verbrauch pro Vorgang messen und Limits setzen
- Wiederkehrende Textteile über Zwischenspeicherung des Anbieters günstiger nutzen, wo verfügbar
Häufige Fragen zu Token & Kontextfenster
Als grobe Faustregel entspricht ein Token im Englischen etwa drei Vierteln eines Wortes. Im Deutschen sind es durch längere, zusammengesetzte Wörter meist weniger. Die genaue Zahl hängt vom Modell ab; Anbieter stellen Werkzeuge bereit, mit denen sich Token zählen lassen.
Je nach Anwendung wird eine Fehlermeldung ausgegeben oder älterer Inhalt abgeschnitten. Das Modell kennt dann den Anfang des Gesprächs oder des Dokuments nicht mehr. Gute Anwendungen fassen frühere Inhalte zusammen oder rufen nur die jeweils passenden Abschnitte ab.
Nein. Es erlaubt längere Eingaben, erhöht aber Kosten und Antwortzeit, und bei sehr langem Kontext können Details untergehen. Oft liefert eine gezielte Auswahl der relevanten Textstellen bessere Ergebnisse als das komplette Dokument.
Passende Leistungen
KI-Integration & Chatbots
Chatbots, Assistenten und KI-Workflows, die Anfragen beantworten, Daten auswerten und Leads qualifizieren.
Mehr erfahren
KI-Wissensdatenbank
Interner KI-Assistent, der Handbücher, Richtlinien und Tickets durchsucht und mit Quellenangabe antwortet – nach Ihren Zugriffsrechten.
Mehr erfahren
KI-Beratung
Potenzialanalyse, priorisierte KI-Anwendungsfälle und ein realistischer Fahrplan – von einem Team, das KI auch umsetzt.
Mehr erfahrenVerwandte Begriffe
Relevant für diese Branchen
Passende Magazin-Beiträge
Dokumente mit KI auslesen: Rechnungen und Belege automatisch verarbeiten
Rechnungen, Lieferscheine und Bestellungen lassen sich mit KI auslesen, prüfen und ins ERP übertragen – auch ohne feste Vorlage. So läuft es ab, was die E-Rechnung ändert und wo die Grenzen liegen.
Weiterlesen
Prozesse automatisieren: 5 Abläufe für einen schnellen Start
Anfragen sortieren, Termine abstimmen, Angebote abtippen: Fünf Abläufe, die sich in fast jedem Unternehmen automatisieren lassen – mit Priorisierungshilfe, Praxisbeispiel und den typischen Fehlern.
Weiterlesen
KI im Mittelstand: Wo Chatbots und Assistenten wirklich helfen
KI lohnt sich im Mittelstand, wenn sie eine klar umrissene Aufgabe übernimmt. Wo Chatbots und Assistenten Service, Vertrieb und Wissen entlasten – und was Datenschutz und KI-Verordnung verlangen.
Weiterlesen
