Was sind LLMs (Large Language Models)?

Wenn Sie generative KI verwenden, um einen Bericht zusammenzufassen oder einen Social-Media-Text zu entwerfen, wird dies mit LLMs möglich. LLMs sind die zugrundeliegende Technologie, auf der generative KI basiert. Und da sie auf mehr Daten zurückgreifen, können sie genauere Ergebnisse generieren. Dies ist wichtig für Unternehmen, die LLMs nutzen können, um ihren Kunden relevantere, personalisierte Inhalte zu bieten.

Fortschritte in der künstlichen Intelligenz (KI), die auf LLMs beruhen, ermöglichen es Unternehmen auch, KI-Agenten zu entwickeln und einzusetzen. Wenn sie von Kund:innen oder Mitarbeiter:innen dazu aufgefordert werden, sind diese intelligenten Systeme in der Lage, komplexe Probleme mit Hilfe von Gedächtnis, sequentiellem Denken und Selbstreflexion zu lösen.

Werfen wir einen Blick darauf, was ein LLM ausmacht, wie diese Modelle funktionieren und wo sie Ihrem Unternehmen nützen können.

Unsere Themen:

• Was sind LLMs?
• Funktionsweise von LLMs
• Wie werden LLMs trainiert?
• Wofür werden LLMs verwendet?
• Sollten Sie Ihr eigenes LLM erstellen?
• Was sind die Vor- und Nachteile von LLMs?
• Nutzen Sie die Leistungsfähigkeit von LLMs mit Agentforce

LLMs (Large Language Models, Große Sprachmodelle) sind die Motoren, die die generative KI antreiben. LLMs können Fragen in natürlicher Sprache verstehen und beantworten, da sie mit riesigen Mengen an Textdaten trainiert werden. Diese Modelle werden inzwischen verwendet, um Text- und Bildinhalte zu erstellen, Zusammenfassungen zu erzeugen und neuen Code zu schreiben.

Benutzer:innen interagieren mit LLMs über Prompts, Fragen und Kontexte, die in natürlicher Sprache geschrieben sind und an das Modell gesendet werden. Sie können z. B. ein generatives KI-Modell bitten, eine Zusammenfassung dieses Artikels zu erstellen. Zunächst senden Sie den Text des Artikels an Ihr KI-Tool, damit es ihn aufnehmen und analysieren kann. Als nächstes schreiben Sie den Prompt, in dem Sie genau beschreiben, was Sie wissen möchten. Der LLM würde ihnen eine allgemeine Zusammenfassung liefern. Je mehr Daten zum Trainieren des Modells verwendet werden, desto vollständiger und genauer sind die Ergebnisse.

Mit den richtigen Daten bieten sich Unternehmen zahlreiche Möglichkeiten für den Einsatz von LLMs. So kann Ihr Verkaufsteam KI für Aufgaben wie das Generieren von Pitches einsetzen – und zwar unter Verwendung relevanter Kundendaten, die auf Probleme und Vorlieben hinweisen.

Bevor Sie sich zu sehr in Ihre Strategie für generative KI vertiefen, sollten Sie sich mit der Art und Weise vertraut machen, wie diese Technologie vom Prompt bis zur Ausgabe vorgeht. LLMs beruhen auf drei Komponenten: maschinelles (und tiefes) Lernen, neuronale Netzwerke und Transformationsmodelle.

Algorithmen des maschinellen Lernens (ML) weisen LLMs an, wie sie Daten sammeln, Verbindungen entdecken und gemeinsame Merkmale identifizieren können.

Deep Learning ist eine Teilmenge von ML, die es LLMs ermöglicht, mit weniger menschlichem Eingreifen zu lernen und einen probabilistischen Ansatz zu verwenden, um die Genauigkeit zu verbessern. Stellen Sie sich ein LLM vor, das 1.000 Sätze analysiert. Deep-Learning-Tools ermitteln, dass die Buchstaben „E“, „T“, „A“ und „O“ am häufigsten vorkommen. Von dort aus extrapoliert das Modell (korrekt), dass diese Buchstaben zu den am häufigsten verwendeten Buchstaben im Englischen gehören.

Neuronale Netze, auch künstliche neuronale Netze (KNNs) genannt, sind Gruppen von miteinander verbundenen Knoten, die miteinander kommunizieren können. Diese Knoten sind in Schichten angeordnet, darunter eine Eingabe- und eine Ausgabeschicht sowie mindestens eine mittlere Schicht. Sie ermöglichen es LLMs, Informationen schnell zu verarbeiten. Diese Netzwerke sind den neuronalen Netzen des menschlichen Gehirns nachempfunden, aber weit weniger komplex.

Transformer-Modelle helfen LLMs, den Sprachkontext zu verstehen. Mit einer Technik, die als Selbstaufmerksamkeit bekannt ist, können diese Modelle die Satzstruktur und die Wortwahl analysieren, um zu verstehen, wie Elemente der Sprache miteinander in Beziehung stehen. Dies ermöglicht es LLMs, Benutzeranfragen besser zu verstehen und zu verarbeiten.

LLMs verstehen Text je nach den von ihnen verwendeten Modellen unterschiedlich. Nur-Encoder-Modelle konzentrieren sich darauf, den bereitgestellten Text zu verstehen, während reine Decoder-Modelle Text basierend auf einem Prompt generieren. Wenn Sie sie zusammenfügen – Encoder-Decoder – können LLMs Text verstehen und generieren und sprachgesteuerte Aufgaben wie Kundenservice oder Vertrieb übernehmen. Zum Beispiel könnte ein LLM-gesteuerter KI-Chatbot verwendet werden, um Kundenfragen zu Versandzeiten, Produktdetails oder Preisänderungen zu beantworten, so dass menschliche Vertreter sich auf strategischere Aufgaben konzentrieren können.

Es gibt viele Arten von LLM-Agenten. Aber egal, welche Sie verwenden, mit Training verbessern Sie die Genauigkeit und Zuverlässigkeit ihrer Ergebnisse. Angesichts der Tatsache, dass transformerbasierte neuronale Netze Milliarden von Parametern enthalten können, ist ein Training unabdingbar, um sicherzustellen, dass die Parameter richtig gewichtet und auf Abfragen angewendet werden. Unterschiedliche Trainingsmodelle können je nach Komplexität und Anwendungsfall eines LLM mehr oder weniger effektiv sein.

Beim Zero-Shot-Learning werden LLMs im laufenden Betrieb trainiert. Benutzer:innen stellen Fragen und LLMs durchsuchen verbundene Datenquellen, um Antworten zu finden. Die anfängliche Genauigkeit ist in der Regel gering, verbessert sich aber im Laufe der Zeit.

Bei einem „few-shot“-Ansatz stellen Datenwissenschaftler:innen eine kleine Auswahl relevanter Beispiele zur Verfügung und helfen so den LLMs, grundlegende Verbindungen herzustellen. Das Few-Shot-Training mit wenigen Schüssen verbessert die Genauigkeit in den Zielbereichen erheblich.

Das Chain-of-Thought-Training (CoT) führt LLMs durch einen einfachen Argumentationsprozess. Anstatt eine einzige Frage zu stellen, zerlegt CoT sie in mehrere Teile. Hier ist ein Beispiel:

Standard-Prompt:

Steve hat 20 Hemden. Die Hälfte seiner Hemden ist kurzärmelig, und die Hälfte davon ist blau. Wie viele blaue Hemden hat er?

CoT-Prompt:

Steve hat 20 Hemden.

Die Hälfte seiner Hemden ist kurzärmelig. Das bedeutet, er hat 10 kurzärmelige Hemden.

Die Hälfte dieser Hemden ist blau, was bedeutet, dass er 5 blaue Hemden hat.

Der Prompt selbst ist nicht besonders komplex. Mit CoT bietet sich ein schrittweiser Ansatz zur Problemlösung an, der einem LLM zeigt, wie es die Frage beantworten kann. Dieser Ansatz kann dann auf andere Fragestellungen übertragen werden.

Feinabstimmung und domänenspezifische Modelle liefern zusätzliche kontextbezogene Informationen für gezielte Anwendungsfälle. Zum Beispiel könnte ein Unternehmen, das seine Analyse der Social-Media-Stimmung verbessern möchte, seinem LLM detaillierte Informationen darüber zur Verfügung stellen, wie bestimmte Wörter und Aussagen im größeren Kontext sozialer Plattformen zu verstehen sind.

Bei dieser Art von Modell betrachtet das Modell nicht den Text selbst, sondern übersetzt ihn in Zahlen, die als Vektoren bezeichnet werden. Durch die Verwendung von Zahlen können Computer maschinelles Lernen nutzen, um leichter zu analysieren, wie Wörter und Sätze zusammengesetzt werden, um den Kontext und die semantische Bedeutung zu verstehen, um Beziehungen zwischen den Wörtern zu erkennen.

In einem multimodalen Modell werden LLMs darauf trainiert, mehrere Datenformate für die Ein- und Ausgabe zu verwenden. Neben Text können diese Formate auch Audio-, Video- oder Bilddaten enthalten.

Mit LLMs erhalten KI-Agenten die Fähigkeit, sich in natürlicher Sprache zu unterhalten, aber das ist leichter gesagt als getan.

Herkömmliche Bots benötigen ein manuelles Training von natürlichsprachlichen Modellen, damit sie die Kund:innen verstehen und Dialoge führen können. Dieser Prozess ist für ein Unternehmen extrem zeit- und kostenintensiv. LLMs bieten einfachere Alternativen.

Lösungen wie Agentforce – die agentenbasierte Schicht der Salesforce Platform – verwenden beispielsweise vorgefertigte Fähigkeiten (sowie benutzerdefinierte Low-Code-Aktionen), ohne dass Sie einen langwierigen Trainingsprozess durchlaufen müssen. Agentforce verwendet außerdem konversationelle KI, sodass sich Interaktionen mit Agenten eher natürlich als roboterhaft anfühlen.

Andere gängige Anwendungsfälle für LLM sind:

• Textgenerierung: LLMs können Text basierend auf Ihren Daten generieren und ihn so für Ihre Kund:innen relevanter machen. Marketingteams können beispielsweise ein LLM verwenden, um einen Handlungsaufruf für ein neues Produkt oder eine Werbe-E-Mail zu formulieren. Commerce-Teams können KI einsetzen, um Werbeaktionen zu generieren.
• Zusammenfassung des Inhalts: Benutzer:innen können LLMs große Textblöcke zusammenfassen lassen. Sie können auch das Ausgabeformat anpassen. Zusammenfassungen können in Form von kürzeren Absätzen, Aufzählungen oder einzelnen Sätzen erstellt werden.
• Antworten auf Basis von Wissensdatenbanken: Viele Unternehmen verfügen über Wissensdatenbanken für Mitarbeiter:innen und Kund:innen, die Antworten auf häufig gestellte Fragen enthalten. LLMs können Benutzeranfragen anhand dieser Wissensdatenbanken beantworten.
• Code-Generierung: LLMs können auch zur Codegenerierung eingesetzt werden, sobald die Modelle in einer bestimmten Sprache trainiert wurden. Zum Beispiel könnten Teams ein Modell auffordern, Python-Code zu generieren, um eine bestimmte Funktion auszuführen.
• Stimmungsanalyse: LLMs können Daten aus Beiträgen in sozialen Medien, E-Mails, Texten und anderen Datenquellen sammeln und analysieren – und diese Daten dann auswerten, um die allgemeine Stimmung unter den Benutzer:innen zu ermitteln. Dies ist eine großartige Möglichkeit, Marketing-KI zu nutzen, um Kund:innen zu identifizieren, die frustriert oder unzufrieden sind, und Maßnahmen zu ergreifen, um das Problem zu lösen.
• Sprachübersetzung: LLMs können auch als Übersetzungsdienste fungieren, was Ihrem Serviceteam hilft, KI zu nutzen, um Anfragen in anderen Sprachen als der eigenen zu beantworten. Benutzer:innen können Modelle Sätze oder Absätze in eine andere Sprache übersetzen lassen. Angesichts der schieren Menge an Daten, die online verfügbar sind, ist dies eine einfache Aufgabe für LLMs. Der Haken daran? In den Übersetzungen fehlt oft der Kontext, daher wird eine menschliche Aufsicht dringend empfohlen.
• Klassifizierung und Kategorisierung: Mit LLMs können Unternehmen den Prozess der Datenklassifizierung und -kategorisierung rationalisieren. Zunächst geben die Benutzer:innen Einzelheiten an: Wenn Daten das Element „X“ oder den Wert „Y“ enthalten, gehören sie in die Kategorie „Z“. Dann haben LLMs die Aufgabe, alle Daten innerhalb eines bestimmten Satzes zu analysieren und alle übereinstimmenden Werte einer bestimmten Kategorie zuzuweisen.
• KI-Agenten: Fortschritte bei LLMs haben den Einsatz von KI-Agenten ermöglicht. Diese autonomen Anwendungen können Kund:innen oder Mitarbeiter:innen spezialisierten On-Demand-Support bieten und an spezifische Geschäftsanforderungen angepasst werden.

Die einfache Antwort? Wahrscheinlich nicht.

Die umfassendere Antwort? In den meisten Fällen ist der Aufbau eines eigenen LLM teuer, zeitaufwändig und unnötig.

Es ist teuer, weil Sie in das Fachwissen und die Infrastruktur investieren müssen, um ein maßgeschneidertes Sprachmodell zu entwickeln. Es ist zeitaufwändig, da Sie eine Fülle von Trainingsdaten bereitstellen und sicherstellen müssen, dass die Trainingsergebnisse zu genauen Ergebnissen führen. Und es ist unnötig, denn in den meisten Fällen erfinden Sie das Rad neu.

Die Verwendung von vortrainierten Open-Source-LLMs, die mit integrierten Sicherheitsleitlinien ausgestattet sind, bietet oft die beste Balance zwischen Leistung und Schutz. Unternehmen können die Leistungsfähigkeit von Modellen nutzen, die mit Billionen von Datenpunkten trainiert wurden, ohne befürchten zu müssen, dass Probleme im Code zu einer versehentlichen Kompromittierung führen können. Sie können die Informationen des LLM-Modells durch den Einsatz eines RAG (Retrieval Augmented Generation) ergänzen, das die relevantesten und proprietärsten Daten Ihres Unternehmens kombiniert.

LLMs bieten Unternehmen zahlreiche Vorteile. Dazu gehören die Reduzierung oder Eliminierung manueller Prozesse und die Möglichkeit, neue Trends und Erkenntnisse anhand verfügbarer Datenquellen zu entdecken. Um LLMs jedoch effektiv zu nutzen, müssen Unternehmen erkennen, wo sie sich auszeichnen und wo sie möglicherweise Schwierigkeiten haben.

Hier ist ein Blick auf einige der wichtigsten Vorteile von LLMs und die potenziellen Nachteile von LLMs:

• Anpassungsfähigkeit: Da LLMs das Modell der Transformator-Architektur verwenden, anstatt explizite Regeln, die „hartkodiert“ sind, können sie sich an dynamische und unvorhersehbare Prompts anpassen, die sie erhalten können.
• Flexibilität: Es gibt nicht die eine Möglichkeit, LLMs zu verwenden. Unternehmen können diese Tools so anpassen, dass sie als KI-Assistenten, Copiloten oder autonome Agenten fungieren.
• Leistung: Wenn LLMs mehr Daten analysieren und einbeziehen, verbessert sich ihre Leistung und die Zeit zwischen Abfrage und Antwort wird verkürzt.
• Effizienz: Da ein Großteil des LLM-Lernens unabhängig von menschlicher Aufsicht stattfindet, können die Mitarbeiter:innen andere strategische Aufgaben übernehmen.

• Entwicklungs- und Betriebskosten: Der Entwicklungsprozess kann zeit- und kostenintensiv sein. Zu den gängigen Kosten gehören das Schreiben und Testen von Code, das Suchen und Integrieren von Datensätzen und das Sicherstellen, dass LLMs korrekt auf Trainingsdaten reagieren.
• Ethische Bedenken: Wenn Daten, die zur Entscheidungsfindung verwendet werden, ohne die Zustimmung der Benutzer:innen erhoben werden, können Unternehmen rechtlich belangt werden. Voreingenommenheit ist ein weiteres Problem. Wenn Datensätze falsch gewichtet sind oder ungenaue Daten enthalten, kann dies zu Antworten führen, die zwar korrekt erscheinen, aber gegen eine bestimmte Gruppe oder ein bestimmtes Ergebnis voreingenommen sind.
• Erklärbarkeit: Die Art der LLM-Entscheidungsfindung ist schwer zu erklären. Dies kann das Vertrauen in die Ergebnisse und die Entscheidungsfindung von LLM untergraben. Um dies auszugleichen, verwenden Sie eine Vertrauensebene, die Ihnen einen Einblick in die Art und Weise bietet, wie Entscheidungen getroffen wurden.
• Halluzinationen/Glitch-Token: Halluzinationen treten auf, wenn Benutzer:innen LLMs auffordern, sich „vorzustellen“, dass sie Aktionen ausführen können, die sie sonst nicht ausführen könnten. Zum Beispiel könnten Cyberkriminelle ein LLM auffordern, die Kontaktinformationen aller Mitarbeiter:innen eines Unternehmens anzugeben. Das LLM lehnt die Anforderung auf der Grundlage seines Sicherheitsregelwerks ab. Dann fordern die Angreifenden das Modell auf, sich vorzustellen, dass es die Aktion ausführen kann. Auf diese Weise vervollständigt das LLM tatsächlich die angeforderte Funktion. Glitch-Token hingegen sind Zeichenfolgen, die zu unerwarteten Ergebnissen führen. Sowohl die Token selbst als auch die Ausgaben erscheinen weitgehend zufällig, was es schwierig macht, zu bestimmen, wann oder wie sie stattfinden.
• Sicherheitsrisiken: Modelle können auch Sicherheitsrisiken darstellen. Wenn beispielsweise geschäftliche LLMs mit öffentlichen und vertraulichen Daten trainiert werden, besteht die Möglichkeit, dass LLMs kompromittiert oder geschützte Daten offengelegt werden.

Die Zukunft der LLMs dürfte in zwei Richtungen verlaufen: größer und kleiner.

Mit der Verbesserung von Deep-Learning-Algorithmen und der immer leistungsfähigeren Prozessoren werden große Sprachmodelle in der Lage sein, größere Datenmengen schneller und genauer als je zuvor zu verarbeiten.

Gleichzeitig ist mit der Entwicklung kleiner Sprachmodelle zu rechnen, die das gleiche Leistungsniveau auf kleinere, strenger kontrollierte Datensätze anwenden. Diese kleineren Modelle bieten Unternehmen die Möglichkeit, hochspezialisierte Parameter zu definieren und hochgenaue Ergebnisse zu erhalten.

Große Sprachmodelle kommen einem vollständigen, kontextbezogenen Verständnis von Kommunikation immer näher. Die Aufsicht ist zwar nach wie vor eine wichtige Komponente bei der Nutzung von LLM. Diese Modelle bieten jedoch eine Möglichkeit, die Kluft zwischen menschlichem Einblick und IT-Operationen zu überbrücken, indem sie uns erlauben, dieselbe Sprache zu sprechen.

Sie haben nun ein tieferes Verständnis von KI sowie von LLMs. Jetzt sind Sie bereit für eine Tour durch Agentforce. Mit Agentforce können Sie autonome KI-Agenten mit dem LLM Ihrer Wahl erstellen, die Ihrem Unternehmen helfen, mehr zu erledigen – und so den ROI und die Produktivität zu steigern.