Token

Ein Token ist die kleinste Texteinheit, mit der ein KI-Sprachmodell arbeitet. Das Modell liest und schreibt nicht Wort für Wort, sondern zerlegt Texte in solche Einheiten. Ein Token kann ein ganzes Wort sein, aber auch ein Wortteil, eine Silbe, ein Satzzeichen oder ein Leerzeichen. Kurze, häufige Wörter wie „und“ bestehen meist aus einem einzigen Token, lange oder seltene Wörter wie „Projektabrechnung“ werden in mehrere Token aufgeteilt

So funktioniert die Zerlegung in Token

Bevor ein Sprachmodell einen Text verarbeitet, übernimmt ein sogenannter Tokenizer die Aufteilung. Er schneidet den Text in Einheiten, die das Modell kennt, und wandelt jede davon in eine Zahl um. Erst mit diesen Zahlen kann das Modell rechnen. Auch die Antwort der KI entsteht Token für Token: Das Modell ergänzt immer wieder die wahrscheinlichste nächste Einheit, bis der Text vollständig ist. Als grobe Faustregel entsprechen im Deutschen etwa 100 Token rund 60 bis 75 Wörtern. Deutsche Texte benötigen wegen der oft langen Wörter und Zusammensetzungen meist mehr Token als englische.

Warum Token wichtig sind

Token bestimmen drei praktische Dinge. Erstens die Kosten: Anbieter rechnen die Nutzung von KI-Modellen in der Regel nach verarbeiteten Token ab, getrennt nach Eingabe und Ausgabe. Zweitens die Länge: Jedes Modell kann nur eine begrenzte Menge an Token gleichzeitig berücksichtigen, das sogenannte Kontextfenster. Es umfasst sowohl den Prompt als auch die Antwort sowie alle mitgegebenen Dokumente. Wird die Grenze überschritten, gehen Informationen verloren oder der Text wird abgeschnitten. Drittens die Geschwindigkeit: Je mehr Token verarbeitet und erzeugt werden, desto länger dauert die Antwort.

Token im Zusammenspiel mit anderen KI-Bausteinen

Das Kontextfenster ist begrenzt, deshalb ist es sinnvoll, nur die wirklich relevanten Inhalte mitzugeben. Genau das leistet RAG (Retrieval-Augmented Generation): Statt ganze Dokumentenarchive in den Prompt zu packen, werden nur die passenden Textstellen ausgewählt, was Token spart und die Antwort präziser macht. Auch bei Agentic AI spielen Token eine große Rolle, da Agenten über viele Zwischenschritte arbeiten und dabei entsprechend viel Text verarbeiten. Und wer KI-Funktionen über ein SDK in eigene Anwendungen einbindet, kann dort den Token-Verbrauch erfassen und begrenzen.

Tipps für einen sparsamen Umgang

Formulieren Sie Prompts knapp und präzise, ohne wichtigen Kontext wegzulassen. Geben Sie nur die Dokumente mit, die für die Aufgabe tatsächlich nötig sind, und legen Sie bei Bedarf eine maximale Länge für die Antwort fest. Bei langen Gesprächen lohnt es sich, den bisherigen Verlauf zusammenzufassen oder ein neues Gespräch zu beginnen, damit das Kontextfenster nicht unnötig gefüllt wird.

Einsatz im Unternehmensalltag

Für Unternehmen sind Token vor allem eine Planungsgröße. Wer KI-Funktionen regelmäßig und in größerem Umfang nutzt, etwa zur Auswertung von Projektakten, zur Beantwortung von Kundenanfragen oder in automatisierten Abläufen, sollte den Verbrauch im Blick behalten. Ein bewusster Umgang mit Token hält die Kosten kalkulierbar und sorgt dafür, dass die KI auch bei umfangreichen Aufgaben zuverlässig arbeitet.