Large Language Model
(LLM)
Ein Large Language Model (LLM), auf Deutsch „großes Sprachmodell“, ist ein KI-Modell, das auf riesigen Textmengen trainiert wurde und dadurch Sprache verstehen und erzeugen kann. LLMs bilden die Grundlage vieler bekannter KI-Assistenten. Sie beantworten Fragen, fassen Dokumente zusammen, übersetzen, schreiben Texte und programmieren.
So funktioniert ein LLM
Ein LLM besteht aus einem neuronalen Netz mit Milliarden von Parametern, in denen das beim Training gelernte Sprachwissen steckt. Es verarbeitet Texte in kleinen Einheiten, den Token, und berechnet, welches Token als Nächstes am wahrscheinlichsten folgt. So entsteht Wort für Wort eine Antwort. Das Modell „weiß“ also nichts im menschlichen Sinn, sondern erkennt Muster in Sprache, und das auf bemerkenswert hohem Niveau.
Stärken und Grenzen
LLMs sind vielseitig, schnell und kommen mit unterschiedlichsten Aufgaben zurecht, ohne dass für jede ein eigenes System gebaut werden muss. Ihre Grenzen liegen im Trainingswissen, das zu einem bestimmten Zeitpunkt endet, und in der Neigung zu Halluzinationen, also plausibel klingenden, aber falschen Aussagen. Außerdem kennen sie interne Unternehmensdaten nicht von sich aus.
LLM im Zusammenspiel mit anderen Bausteinen
Um diese Lücken zu schließen, wird ein LLM meist mit weiteren Komponenten kombiniert. Mit RAG (Retrieval-Augmented Generation) greift es auf aktuelle, eigene Dokumente zu. Über einen MCP Server kann es Systeme abfragen und Aktionen auslösen, und als Kern eines KI-Agenten plant es mehrstufige Aufgaben. Gesteuert wird ein LLM über den Prompt.
Einsatz im Unternehmensalltag
Im Mittelstand kommen LLMs zum Einsatz, wo viel Text anfällt: bei Projektdokumentation, Angeboten, E-Mails oder Wissensartikeln. Je nach Anforderung an Datenschutz und Kosten lassen sich Modelle aus der Cloud oder auf eigener Infrastruktur betreiben. Die Wahl sollte sich nach Aufgabe, Datenlage und Compliance-Vorgaben richten.