Hinter den bekannten KI-Werkzeugen für Text stecken grosse Sprachmodelle. Dieser Beitrag erklärt, was ein LLM ist und warum es sich manchmal irrt.
Definition
Ein LLM ist ein Modell, das gelernt hat, wie Sprache aufgebaut ist. Es kennt keine Fakten im eigentlichen Sinn, sondern die Wahrscheinlichkeit, mit der Wörter aufeinanderfolgen. Aus dieser Fähigkeit entstehen zusammenhängende Texte, Antworten und Zusammenfassungen.
Wie ein LLM arbeitet
Auf eine Eingabe hin berechnet das Modell, welches Wort als Nächstes am besten passt, hängt es an und wiederholt den Schritt. So entsteht Satz für Satz ein Text. Weil das Modell auf sehr vielen Beispielen trainiert wurde, wirken die Ergebnisse oft treffend. Es prüft dabei aber nicht, ob eine Aussage stimmt.
Warum LLM sich irren
Da ein LLM auf Wahrscheinlichkeit statt auf Wissen setzt, kann es Angaben erzeugen, die plausibel klingen und falsch sind. Dieses Verhalten heisst Halluzination und ist ein Grund, wichtige Ergebnisse zu prüfen. Mehr dazu unter KI-Halluzinationen. Mit der Technik RAG lässt sich ein LLM an geprüfte eigene Dokumente binden.
Bezug zur Praxis
LLM stecken in Textentwürfen, Zusammenfassungen, Chatbots und Wissensassistenten. Für Betriebe zählt weniger das Modell selbst als die Frage, wie es sicher und datenschutzkonform eingebunden wird. Dazu gehört die Datenhaltung in der Schweiz, erläutert unter KI und Datenschutz in der Schweiz.
Passende Leistungen und Themen
Diese Seiten führen das Thema weiter: