Was ist ein Large Language Model (LLM)?

Large Language Model: Definition

„Large“ steht für die enorme Größe: LLMs bestehen aus neuronalen Netzen mit Milliarden von Parametern und wurden mit riesigen Textsammlungen trainiert. „Language Model“ beschreibt ihre Kernfähigkeit – sie berechnen, welche Fortsetzung eines Textes im jeweiligen Zusammenhang am wahrscheinlichsten passt.

Daraus entstehen erstaunlich vielseitige Fähigkeiten: Texte zusammenfassen, übersetzen, Fragen beantworten, Code schreiben oder Informationen aus Dokumenten strukturieren. Bekannte Modellfamilien sind GPT von OpenAI, Claude von Anthropic und Gemini von Google sowie offen verfügbare Modelle wie Llama oder Mistral. Neuere Modelle verarbeiten neben Text auch Bilder, Tabellen oder gesprochene Sprache.

So funktioniert ein LLM

Moderne LLMs basieren auf der Transformer-Architektur, die 2017 vorgestellt wurde. Text wird in kleine Einheiten, sogenannte Tokens, zerlegt. Im Training lernt das Modell, das jeweils nächste Token vorherzusagen, und erwirbt dabei Wissen über Sprache, Fakten und Zusammenhänge.

Anschließend wird es mit Beispielen und menschlichem Feedback so nachtrainiert, dass es Anweisungen folgt und hilfreich antwortet. Bei der Nutzung erhält das Modell einen Prompt – die Eingabe samt Kontext – und erzeugt daraus Schritt für Schritt eine Antwort. Wie viel Text es dabei gleichzeitig berücksichtigen kann, bestimmt das sogenannte Kontextfenster.

Vorteile und Grenzen von LLMs

LLMs verstehen natürliche Sprache, arbeiten in vielen Sprachen und lassen sich ohne eigenes Training für unterschiedlichste Aufgaben einsetzen. Über Programmierschnittstellen können sie in bestehende Software, Workflows und Websites eingebunden werden. Viele Aufgaben lassen sich so schon mit einer gut formulierten Anweisung lösen.

Gleichzeitig haben sie Grenzen, die Sie bei jeder Anwendung kennen und einplanen sollten:

• Halluzinationen: überzeugend formulierte, aber falsche Aussagen
• Wissensstand: Das Trainingswissen endet zu einem bestimmten Zeitpunkt
• Kein Zugriff auf Firmenwissen ohne zusätzliche Anbindung, etwa per RAG
• Datenschutz: Eingaben dürfen nicht unkontrolliert an Anbieter fließen
• Kosten und Antwortzeiten steigen mit Modellgröße und Textmenge

Praxisbeispiel: LLMs im Unternehmen einsetzen

Ein Vertriebsteam erhält täglich ausführliche Anfragen per E-Mail. Ein LLM fasst jede Anfrage zusammen, erkennt Produkt, Menge und Wunschtermin und legt die Daten strukturiert im CRM ab. Ein Mitarbeiter prüft das Ergebnis und antwortet – deutlich schneller als zuvor. Die Entscheidung bleibt beim Menschen.

Wichtig sind dabei klare Regeln: Welche Daten dürfen verarbeitet werden, bei welchem Anbieter, mit welchem Vertrag zur Auftragsverarbeitung, und an welcher Stelle prüft ein Mensch? Nano Concepts integriert LLMs datenschutzbewusst in Anwendungen und Abläufe und wählt Modell und Hosting passend zum Anwendungsfall.