LLM-Agenten: Ein umfassender Leitfaden

Large Language Models (LLMs) sind die Motoren der KI, mit denen Menschen einfache Fragen stellen und einfache Antworten erhalten können. Aber was ist, wenn Sie mehr als das tun müssen? Hier zeichnen sich die LLM-Agenten aus. Es gibt verschiedene Arten von LLM-Agenten, aber sie alle verarbeiten komplexere Abfragen, die Gedächtnis, sequenzielles Denken und den Einsatz mehrerer Tools erfordern.

LLMs können jetzt mehr als eine Billion Parameter verarbeiten . Und die Nachfrage nach agentengesteuerter digitaler Arbeit wird weiter steigen, weil Unternehmen generative KI verstärkt einsetzen wollen.

Wir werden aufschlüsseln, wie die verschiedenen LLM-Agenten agieren, was sie können, welche Komponenten sie benötigen, welche Herausforderungen sie mit sich bringen und wie Unternehmen diese Tools jetzt und in Zukunft nutzen.

Unsere Themen:

• Was sind LLM-Agenten?
• Was können LLM-Agenten tun?
• Arten von LLM-Agenten und was sie leisten können
• Komponenten eines LLM-Agenten
• Wie Unternehmen verschiedene Arten von LLM-Agenten einsetzen
• Mögliche Herausforderungen von LLM-Agenten
• Die Zukunft von LLM-Agenten
• Mehr Erfolg durch LLMs

LLMs sind Systeme mit künstlicher Intelligenz (KI), die Gedächtnis, Planung und sequenzielles Denken kombinieren, um Nutzerfragen ähnlich wie ein Mensch umfassend zu beantworten. Hier ist ein Beispiel:

Nutzer:in 1 bittet den mit LLM trainierten Chatbot des Unternehmens, die Gehaltsstatistiken des letzten Jahres abzurufen. Der Chatbot folgt einem vordefinierten Prozess, um die relevanten Datenbanken zu durchsuchen und den spezifischen Datensatz auszugeben.

Nutzer: 2 hat jedoch eine tiefgehendere Frage. Er oder sie möchte wissen, wie sich neue Bundes- und Landesgesetze basierend auf den Gehaltsabrechnungsdaten des letzten Jahres auf die Politik auswirken können. In diesem Fall reicht der Chatbot nicht aus. Zwar kann er Daten über die Gehaltsabrechnung und Informationen über neue Gesetze zurückgeben, sie aber nicht zu einer sinnvollen Antwort kombinieren – im Gegensatz zu LLM-Agenten.

Mit einer Kombination aus maschinellem Lernen (ML) und natürlicher Sprachverarbeitung (NLP) können LLM-Agenten komplexe Anfragen verstehen und darauf reagieren. Diese Eigenschaften unterscheiden Agenten von herkömmlichen RAG-Modellen (Abruf-Erweiterte Generierung), die Daten aus internen Quellen abrufen, um einfache Fragen zu beantworten.

LLM-Agenten können Fragen mit Vernunft und Logik beantworten. Anstatt eine Frage einfach nur wörtlich zu nehmen, können Agenten die Anfragen in kleinere Teile zerlegen, um sie zu beantworten. Dann erinnern sie sich an die ursprüngliche Frage und kombinieren die Antworten für ein möglichst genaues Ergebnis. So können KI-Agenten tiefgreifende Anfragen basierend auf mehreren Datensätzen beantworten, Zusammenfassungen aus Text erstellen, Code schreiben oder Pläne generieren.

LLM-Agenten können ihre Leistung mit der Zeit verbessern, indem sie frühere Interaktionen analysieren und daraus lernen. Dadurch können die Agenten ihr Verhalten selbst reflektieren, den Erfolg dieses Verhaltens ermitteln und Änderungen vornehmen, um den Output zu verbessern.

Um sich bei jeder Aufgabe zu verbessern, verwenden LLM-Agenten Tools wie Websuchen oder Codetester. So können sie die Genauigkeit überprüfen und die Antwortzeiten reduzieren. Indem sie die Antworten ständig mit neuen und historischen Daten vergleichen, können Agenten diese Fehler erkennen und korrigieren.

Es ist auch möglich, dass Agenten zusammenarbeiten. Beispielsweise könnte ein Agent die Informationen abrufen und Antworten generieren, während ein anderer den Output auf seine Genauigkeit prüft. Ein Dritter kann die Leistung der beiden bewerten und Verbesserungen vorschlagen. Die Agenten kombinieren dann ihre Daten zu einem bestimmten, relevanten Ergebnis.

Sie können LLM-Agenten so konfigurieren, dass sie mehrere Funktionen erfüllen. Die verschiedenen Arten von Agenten schließen sich aber nicht gegenseitig aus. Ein Agent kann mehrere Funktionen gleichzeitig oder nacheinander ausführen.

Zu den gängigen Arten von LLM-Agenten gehören:

• Aufgabenspezifische LLM-Agenten: Diese Agenten führen eng definierte Vorgänge aus – wie den Bestellstatus von Kund:innen zu überprüfen oder die Versandinformationen zu aktualisieren. Typischerweise schöpfen aufgabenspezifische Agenten aus einem kleineren Datenpool, wie ihn beispielsweise Small Language-Models (SLMs) bieten.
• Konversationelle LLM-Agenten: Conversational AI-Agenten können mit Endnutzer:innen wie Mitarbeiter:innen oder Kund:innen interagieren und häufig gestellte Fragen beantworten. Solche KI-Agenten unterscheiden sich von ihren Chatbot-Pendants dadurch, dass sie mit der Zeit dazulernen und Nutzerfragen dadurch natürlicher beantworten können.
• LLM-Agenten zur Entscheidungshilfe: Diese Agenten liefern Erkenntnisse aus Datensätzen oder bieten umfangreiche Datenzusammenfassungen, um die Entscheidungsfindung zu verbessern. Der Chief Security Information Officer eines Unternehmens könnte beispielsweise ein LLM zur Entscheidungsunterstützung verwenden, um die Auswirkungen aller Angriffe auf die Cyber-Sicherheit des Unternehmens in einem bestimmten Zeitraum zu bewerten und zusammenzufassen.
• LLM-Agenten für die Workflow-Automatisierung: Solche LLM-Agenten automatisieren mehrstufige Workflows. Autonome Agenten erhalten die erforderlichen Systemdaten, Funktionsspezifikationen und die bisherige Workflow-Leistung, um eine betriebliche Baseline zu erstellen. Von dort aus führen die Agenten die ihnen zugewiesene Aufgabe aus und verbessern sich mit der Zeit.
• LLM-Agenten zum Abrufen von Informationen: Diese LLM-Agenten verwenden RAG-Methoden, um Daten aus beliebigen Systemen zu finden und abzurufen. Das Abrufen von Daten ist hier relativ einfach. Agenten zeichnen sich durch ihre Fähigkeit aus, relevante Daten zu erkennen und zu erfassen und überflüssige Informationen zu ignorieren.
• Kollaborative LLM-Agenten: Solche Agenten agieren neben oder zusammen mit anderen Agenten. Sie arbeiten effektiv parallel, was die Reaktionszeiten verkürzen kann, ohne an Genauigkeit zu verlieren.
• Adaptiv lernende LLM-Agenten: Adaptive Agenten verbessern ihre zukünftige Leistung mithilfe historischer Daten. Die Agenten bewerten vergangene Outputs und vergleichen sie mit idealen Outputs, um neue Strategien zu entwickeln.

Das Erstellen eines KI-Agenten mit LLM-Funktionen erfordert ein Large Language Model. Dieses LLM generiert und interpretiert Text in natürlicher Sprache und zusätzliche Komponenten wie Prompt Engineering, Speichermodule oder Abrufsysteme, um das kontextuelle Verständnis und die Funktionalität zu verbessern. Für alle Arten von LLM-Agenten sind die drei übergeordneten Komponenten das Gehirn, das Gedächtnis und die Planung.

Das Gehirn eines Agenten ist ein Language-Model, das Nutzerfragen verstehen und beantworten kann. Agenten steuern ihre Entscheidungsfindung und Antwortprozesse anhand von Eingabeaufforderungen – Fragen oder Aussagen von Nutzer:innen. Lösungen wie Agentforce können diese Gehirne mit Frameworks anpassen, die für bestimmte Situationen entwickelt wurden – beispielsweise den Umgang mit Finanz-, Cyber-Sicherheits- und Personalaufgaben.

Das Gedächtnis hilft Agenten, sich an ihre früheren Aktionen zu erinnern, um ihren nächsten Output zu verbessern. Es lässt sich in drei Arten unterteilen:

• Kurzzeitgedächtnis: Das Kurzzeitgedächtnis in Agenten bezieht sich auf die aktuelle Unterhaltung oder Aufgabe. Es ist eine Aufzeichnung der Eingabeaufforderungen von Nutzer:innen und aller Aktionen, die der Agent bisher ausgeführt hat.
• Langfristig: Das Langzeitgedächtnis speichert Daten aus vergangenen Unterhaltungen oder Eingabeaufforderungen, die sich über Wochen oder Monate erstrecken können. Dieser Speicher bietet Kontext für aktuelle Aufgaben und kann von Agenten überprüft werden, um mögliche Fehler und verbesserungswürdige Bereiche zu identifizieren.
• Hybrid: Das hybride Gedächtnis kombiniert Kurz- und Langzeitgedächtnis, sodass der Agent jederzeit besser reagieren kann, indem er sein Situationsbewusstsein behält und dynamisch auf relevante Informationen zurückgreift.

Planungsmodule verbessern die Reaktionen, indem sie komplexe Aufgaben in kleinere Teile zerlegen:

• Planformulierung (mit und ohne Feedback): Den Plan zu formulieren ist der erste Schritt. Agenten unterteilen Aufgaben in Unteraufgaben und erledigen sie dann. Pläne können mit oder ohne Feedback erstellt und ausgeführt werden. Ohne Feedback werden die Pläne von Agenten entwickelt und ausgeführt, ohne dass ein Mensch sie überwacht. Mit Feedback bewerten Menschen die Pläne im Loop und geben Empfehlungen ab, bevor die Pläne ausgeführt werden.
• Reflexion des Plans: Die Planreflexion erfolgt, nachdem die Pläne ausgeführt wurden. Mithilfe einer Kombination aus internen Bewertungstools und externem menschlichen Feedback kann die Planreflexion verbesserungswürdige Bereiche identifizieren.

In der Praxis arbeiten diese Komponenten wie ein vereinfachtes menschliches Gehirn zusammen. Die Gehirne von Agenten erfassen und interpretieren Nutzeranfragen. Mit dem Kurzzeitgedächtnis wird ein Verständnis für die aktuelle Aufgabe geschaffen, während das Langzeitgedächtnis den Kontext liefert. Bei der Planung werden komplexe Aufgaben in Teilaufgaben aufgeteilt, die dann erledigt werden, um das Problem zu lösen und eine Antwort zu geben.

Durch die Reflexion von Plänen können Sie das Risiko künftiger Fehler verringern, indem Sie Ihre Outputs kritisch bewerten, mögliche Fehler erkennen und die Genauigkeit und Kohärenz Ihrer Pläne verbessern.

Sie können solche LLM-Agenten auf verschiedene Weise einsetzen:

• Umsatz: Dank Sales AI können Sie Agenten einsetzen, um potenzielle Kund:innen zu erreichen und Produktinformationen bereitzustellen, Meetings mit einem:einer Vertriebsmitarbeiter:in zu vereinbaren oder spezielle Preise und Werbeaktionen anzubieten.
• Service: Servicebasierte KI-Agenten können Kundenfragen beantworten, technische Fehlerbehebungen unterstützen oder Fragen an Mitarbeiter:innen weiterleiten.
• Commerce: Durch den Einsatz von KI für den Commerce können Agenten bei Bedarf den Status und die Verfolgung von Bestellungen bereitstellen, Auftragsänderungen vornehmen und bei Retouren oder Rückerstattungen helfen.
• Marketing: Dank ihrer Fähigkeit, komplexe Eingabeaufforderungen zu verarbeiten, können LLM-Agenten mit Marketing-KI relevante Zielgruppen identifizieren und Marketing-Kampagnen erstellen, die anhand der Performance früherer Kampagnen für verschiedene Segmente personalisiert sind.

Trotz der erheblichen Vorteile von KI und LLMs können die verschiedenen Arten von LLM-Agenten einige Herausforderungen mitbringen. Zu den häufigsten Problemen gehören:

Wenn LLM-Agenten nicht auf genügend Daten trainiert oder die Daten nicht vielfältig genug sind, kann der Kontext begrenzt sein. Das schränkt die Fähigkeit des Agenten ein, relevante, umsetzbare Antworten zu geben.

Agenten können zwar sehr gut kurzfristig planen, haben aber Schwierigkeiten, längerfristige Pläne zu erstellen, die sich über Monate oder Jahre erstrecken. Das liegt an einem unzureichenden Langzeitgedächtnis, an begrenzten Kontextfenstern und an der fehlenden Integration von Tools (und Ressourcen).

Ungenaue Quelldaten oder unklare Anweisungen können zu inkonsistenten Outputs führen. Wenn dieselbe Anfrage mehrere Ergebnisse liefert, ist der Nutzen von LLM-Agenten nicht mehr gegeben.

Sie können Agenten individuell anpassen, um bestimmte Funktionen zu erfüllen. Der Erfolg hängt jedoch vom verwendeten KI-Framework ab. Der Grund dafür ist, dass das Framework bestimmt, wie effektiv der Agent trainiert, eingesetzt und in andere Tools und Systeme integriert werden kann.

Während die Eingabeaufforderungen die Grundlage für die Antworten der Agenten bilden, sollten LLM-Agenten für ihre Reaktionen auch das Gedächtnis und die Selbstreflexion nutzen. Wenn diese Komponenten kaum oder nicht vorhanden sind, können die Antworten weniger umfangreich und genau sein.

Ein Beispiel ist die Abhängigkeit von Eingabeaufforderungen. Das ist der Fall, wenn LLMs auf Eingabeaufforderungen „angewiesen“ sind, um kontextbezogene Hinweise auf den gewünschten Output zu geben. Idealerweise führt das nur zu leicht verzerrten Ergebnissen. Doch schlimmstenfalls sind die Outputs nicht korrekt.

Die schiere Menge an Wissen, die LLM-Agenten verarbeiten und speichern, kann herausfordernd sein. Und solche Herausforderungen können die Leistung beeinträchtigen oder zu ungenauen Antworten führen.

In der Regel verbessern LLM-Agenten die betriebliche Effizienz, was zu einem höheren ROI durch den Einsatz von Agenten und Einsparungen im gesamten Unternehmen führen kann. Wenn sich Agenten jedoch nicht in bestehende Systeme integrieren lassen oder auf ressourcenintensiven Frameworks aufbauen, kann das die Kosten erhöhen und die Effizienz verringern.

Je komplexer die ML-Algorithmen und je leistungsfähiger die Chipsätze werden, desto intelligenter, schneller und lernfähiger werden auch die LLM-Agenten und KI-Agenten werden. Dadurch können solche KI-gesteuerten Chatbots in der Praxis mit ihren menschlichen Pendants zusammenarbeiten, statt als Beiwerk zu fungieren.

Betrachten Sie an den B2B-Vertrieb. Üblicherweise nutzen Mitarbeiter:innen die LLMs, um Marketing- oder Produkttexte zu verbessern und potenzielle Leads zu generieren. Dank fortschrittlicherer Tools können die Mitarbeiter:innen jedoch mithilfe von Agenten umfangreiche E-Mail-Kampagnen entwerfen und versenden und Kundenfragen beantworten. Das hat gleich zwei Vorteile: eine bessere Personalisierung für die Kund:innen und mehr Zeit für die Mitarbeiter:innen, um langfristige Verkaufsstrategien zu entwickeln.

Da der Einsatz von KI in Unternehmen exponentiell steigt, profitieren Businesses von verschiedenen LLM-Agenten. Durch die Technologie können Unternehmen ihren Kundenservice verbessern, die Entscheidungsfindung optimieren und komplexe, mehrstufige Probleme lösen.

Agentforce hilft Unternehmen, mit LLMs an die Spitze zu kommen. Wenn Unternehmen autonome KI-Agenten erstellen und anpassen, können sie die Erfahrungen ihrer Mitarbeiter:innen mit der wachsenden Kompetenz der KI kombinieren, um Kund:innen und Mitarbeiter:innen rund um die Uhr zu unterstützen. Test Sie Agentforce und entdecken Sie, wie Sie sich besser mit Ihren Kund:innen vernetzen und Ihre Mitarbeiter:innen effizienter machen können.