Sprachmodelle und künstliche Intelligenz: Was sind LLMs und was bieten sie
Software soll uns heutzutage immer mehr Entscheidungen abnehmen und diese möglichst individuell treffen. Dafür ist es nötig, menschenähnliche Sprachmuster zu erlernen und diese zu reproduzieren. Hierzu braucht es in der Regel große Sprachmodelle (LLM). Aber was sind eigentlich Sprachmodelle und warum genügt ein LLM alleine noch nicht? Und überhaupt: Warum sind diese so cool und warum gibt es rund um das Thema aktuell einen solchen Hype?
Was sind überhaupt Sprachmodelle?
Ein Sprachmodell ist ein Computerprogramm, das trainiert wurde, um menschliche Sprache zu verstehen und zu generieren. Es verwendet Algorithmen, um in menschlicher Sprache Muster und Zusammenhänge zu erkennen und diese vorherzusagen. Es trifft also eine Erwartung, welche Wörter oder Sätze am wahrscheinlichsten aufeinanderfolgen.
Sprachmodelle werden heute oft als Teil von größeren Modellen wie den Large Language Models (LLMs) eingesetzt. Sie sind in der Lage, eine Vielzahl von natürlichsprachlichen Aufgaben wie Textgenerierung, Übersetzung, Zusammenfassung und Fragebeantwortung durchzuführen.
Was bedeutet das “Large” in “Large Language Models”?
Das „Large“ in “Large Language Models” (LLMs) bezieht sich auf die Größe und Komplexität der Sprachmodelle. LLMs haben eine riesige Anzahl von Parametern und wurden mittels sehr großen Datensätzen trainiert. Das aktuell in aller Munde stehende “GPT-3”-Modell hat beispielsweise 175 Milliarden Parameter, was im Vergleich zu früheren Modellen eine erhebliche Steigerung darstellt.
LLMs sind derzeit einer der fortschrittlichsten Ansätze zur Verarbeitung natürlicher Sprache und haben das Potenzial, die Art und Weise zu verändern, wie wir mit Texten und Sprache umgehen.
Warum genügt ein LLM alleine noch nicht?
LLMs sind nicht in der Lage, echtes Verständnis zu entwickeln oder komplexe menschliche Fähigkeiten wie Kreativität, Empathie oder Entscheidungsfindung zu imitieren. Sie arbeiten ausschließlich auf der Basis von Mustern und Wahrscheinlichkeiten und können daher nicht unbedingt sinnvolle und menschliche Antworten auf komplizierte Fragen geben. Außerdem können sie halluzinieren und geben keine Quellen an. Das heißt, dass Ergebnisse einfach nicht nachvollziehbar sind. Sie können keine physischen Aufgaben ausführen oder Dinge manipulieren und beruhen daher ausschließlich auf Text als Eingabe- und Ausgabedaten. Es ist in der Regel notwendig, LLMs mit anderen Technologien und menschlichen Fähigkeiten zu kombinieren, um bestimmte Aufgaben oder Probleme wirklich effektiv zu lösen.
Warum sind LLMs cool?
Große Sprachmodelle sind in der Lage, Texte in einer natürlicheren Sprache und mit einem höheren Maß an Kontextualität zu generieren, als dies in der Vergangenheit möglich war. Das hat viele potenzielle Anwendungen, von der automatischen Übersetzung von Texten in verschiedene Sprachen bis hin zur Erstellung von Geschichten oder literarischen Werken. Durch die Verwendung von LLMs können wir schnell auf komplexe Fragen antworten und diskutieren, ohne lange nach Antworten suchen zu müssen. Ansonsten haben sie das Potenzial, menschliches Wissen und kulturelle Erinnerungen zu speichern und zu bewahren. Sie können eine Fülle von Informationen speichern und organisieren, um unser kollektives Wissen zu erweitern und zu bereichern.
All diese Faktoren tragen dazu bei, dass diese Thematik derzeit sehr populär und vielversprechend ist, da sie das Potenzial hat, viele Aspekte unseres täglichen Lebens zu verändern und zu verbessern.
In unserer Keynote „The LLM hype – what’s in it for you“ sind wir näher auf die Thematik eingegangen. Du kannst dir die Keynote hier noch einmal anschauen: zur Keynote.
Bild: AdobeStock / Tierney
