LLM.

Ein LLM, kurz für Large Language Model, auf Deutsch großes Sprachmodell, ist die Technik hinter KI-Assistenten wie ChatGPT, Claude oder Gemini. Laut Anthropic sind LLMs Sprachmodelle mit sehr vielen Parametern, die mit riesigen Textmengen trainiert wurden und Texte schreiben, Fragen beantworten und Inhalte zusammenfassen können. Hinter ChatGPT stehen die GPT-Modelle von OpenAI, hinter Claude die Modelle von Anthropic, hinter Gemini die von Google. Für deinen Betrieb zählt vor allem, was so ein Modell gut kann und wo es verlässlich danebenliegt.

So funktioniert ein LLM

Ein LLM sagt Stück für Stück voraus, was als Nächstes kommt. Im ersten Training, dem sogenannten Pretraining, lernt das Modell laut Anthropic, anhand des bisherigen Textes das nächste Wort vorherzusagen. Erst durch weiteres Training, unter anderem mit menschlichem Feedback, wird daraus ein Assistent, der Anweisungen befolgt.

Das Modell rechnet dabei nicht mit ganzen Wörtern, sondern mit Tokens, also Wortteilen. OpenAI nennt als Faustregel, dass ein Token im Englischen etwa vier Zeichen oder drei Viertel eines Wortes entspricht. Nach Tokens rechnen OpenAI und Anthropic ihre Schnittstellen ab, und in Tokens bemisst sich auch das Kontextfenster, also wie viel Text ein Modell auf einmal berücksichtigen kann. Dieses Arbeitsgedächtnis ist laut Anthropic etwas anderes als die Trainingsdaten.

Worauf du als Betrieb achten solltest

Rechne mit erfundenen Angaben. Anthropic schreibt, dass auch fortgeschrittene Sprachmodelle Texte erzeugen können, die sachlich falsch sind oder nicht zum gegebenen Kontext passen, und nennt das Halluzination. Zahlen, Preise, Fristen und Rechtsauskünfte prüft deshalb immer ein Mensch, bevor sie auf deiner Website oder in einem Angebot landen.

Gib dem Modell die Fakten mit, statt auf sein Wissen zu bauen. Das Wissen aus dem Training kennt deine Preise und Abläufe nicht und endet zu einem bestimmten Zeitpunkt. Anthropic empfiehlt unter anderem, das Modell anzuweisen, nur mit bereitgestellten Dokumenten zu arbeiten und seine Aussagen mit Zitaten daraus zu belegen.

Bewerte Modelle an deiner Aufgabe, nicht an Versionsnummern. Neue Modelle erscheinen in kurzen Abständen. In Projekten sehen wir, dass ein klar formulierter Prompt mit guten Beispielen oft mehr ausmacht als der Wechsel auf das neueste Modell. Teste deshalb mit einer Handvoll echter Fälle aus deinem Alltag.

Häufige Fragen zu LLMs

Lernt ein LLM aus meinen Eingaben? Das hängt vom Anbieter und vom Tarif ab. Ob Eingaben für das Training genutzt werden, regeln die Datenschutz- und Nutzungsbedingungen des jeweiligen Anbieters, und die prüfst du vor dem Einsatz.

Ist ein LLM dasselbe wie generative KI? Ein LLM ist ein Teil davon. Generative KI umfasst auch Modelle, die Bilder, Audio oder Videos erzeugen.

Kann ein LLM selbst handeln? Für sich allein erzeugt es nur Text. Erst wenn es Zugriff auf Werkzeuge bekommt und Schritte selbst plant, spricht man von Agentic AI.

Wenn du wissen willst, welches Sprachmodell für welche Aufgabe in deinem Betrieb passt, schau dir an, wie wir bei KI für Unternehmen vorgehen.