Agentforce Leitfaden für zuverlässiges Verhalten von Agenten

Olfa Kharrat, Director of Product Management – Agentforce
Reinier van Leuken, Senior Director of Product Management – Agentforce

Vertrauen ist seit der Gründung von Salesforce im Jahr 1999 der wichtigste Wert des Unternehmens, das Pionierarbeit bei der Entwicklung eines neuen Technologiemodells für Cloud Computing und SaaS geleistet hat. Unternehmen schenken Salesforce ihr Vertrauen, indem sie wertvolle Unternehmensdaten in der Cloud speichern. Sie wissen, dass diese Daten sicher sind und durch geeignete Zugriffskontrollen geschützt werden. Das ist auch heute noch ein entscheidender Faktor, aber im Zeitalter der agentenbasierten KI ist die Definition von Vertrauen noch weiter gefasst. Angesichts der Tatsache, dass Unternehmen zunehmend auf autonome Agenten zurückgreifen, um wichtige Geschäftsfunktionen auszuführen, müssen diese Agenten zu vertrauenswürdigen Geschäftspartnern werden, deren Arbeit präzise, relevant und vor allem zuverlässig ist.

Wie erstellt man also einen zuverlässigen Agenten? Zuverlässigkeit bedeutet in der Regel, dass bei gleicher Eingabe immer das gleiche Ergebnis herauskommt. Allerdings funktioniert das Agenten nicht unbedingt so, da sie auf großen Sprachmodellen (LLMs) basieren, die von Natur aus nicht deterministisch sind. Das gibt den Agenten die Flexibilität, kreative Lösungen zu entwickeln, die auf bestimmte Umstände zugeschnitten sind, ohne dass sie jede Bedingung oder Situation, mit der sie konfrontiert werden, explizit programmieren müssen. Agenten benötigen jedoch auch Governance, damit sie die geschäftlichen Anforderungen erfüllen und die betrieblichen Richtlinien einhalten können. Bei der Ausführung von Geschäftsprozessen müssen sie Zuverlässigkeit unter Beweis stellen und Geschäftsergebnisse erzielen, die deterministischen Einschränkungen entsprechen. Der Determinismus erzwingt eine Starrheit und Disziplin, die im Widerspruch zur Autonomie und Fluidität steht, die Agenten bieten. Daher liegt der Schlüssel zur erfolgreichen Erstellung von Agenten darin, das richtige Gleichgewicht zwischen kreativer Flexibilität und Unternehmenskontrolle zu finden.

In diesem Dokument werden zentrale Aspekte für die Entwicklung zuverlässiger agentenbasierter Systeme erörtert. Es definiert fünf Ebenen der agentenbasierten Kontrolle und zeigt Best Practices auf, um für jede dieser Ebenen die Kontrolle über das agentenbasierte Verhalten zu erlangen und zu behalten. Die Anleitung beschreibt die Funktionsweise der Agentforce-Inferenzmaschine. Dieses Dokument wird im Zuge der Weiterentwicklung von Agentforce aktualisiert, damit es den neuesten Best Practices Rechnung trägt.

Dieses Dokument setzt grundlegende Kenntnisse im Entwerfen und Erstellen von Agentforce-Agenten voraus. Für eine Einführung in Agentforce empfehlen wir Folgendes:

• Sehen Sie sich die Ressourcen auf agentforce.com an.
• Folgen Sie dem Trail Agentblazer-Champion werden . Dieser Trail befasst sich mit den Kernkonzepten der KI und hilft Ihnen dabei, einen einfachen Agent für wichtige Aufgaben zu erstellen.
• Weitere Informationen finden Sie unter Agentforce auf help.salesforce.com , insbesondere unter Design und Implementierung von Agenten . Diese Lernkarte führt Sie durch alle wichtigen Schritte des Lebenszyklus, von der Konzeption Ihrer Lösung über die Einrichtung und Konfiguration Ihres Agenten bis hin zum Testen, Bereitstellen und Überwachen.

Zum besseren Verständnis des agentenbasierten Verhaltens vergleichen wir zunächst Agenten mit ihren starren Gegenstücken: Chatbots.

Chatbots: Strenge Regelbefolger

Chatbots folgen vorgegebenen Entscheidungsbäumen, die die Dialoge strukturieren, an denen sie teilnehmen können. Die Durchquerung dieser Entscheidungsbäume basiert auf den Antworten der Nutzer:innen. Diese Antwort kann eine Auswahl aus einer vorgegebenen Reihe von Optionen sein oder eine Freitextantwort. Im Fall einer Freitextantwort wird ein Vorhersagemodell für die Klassifizierung des Intents verwendet. Diese Bäume stellen alle möglichen Unterhaltungsverläufe dar und legen die Antworten des Chatbots bei jedem Schritt fest. Das Verhalten des Chatbots wird streng durch voreingestellte Regeln bestimmt. Wenn die Eingabe Von Nutzer:innen nicht mit einem erkannten Pfad übereinstimmt oder wenn das Vorhersagemodell nicht darauf trainiert wurde, eine bestimmte Absicht zu erkennen, kann der Chatbot nicht angemessen reagieren.

Agenten: Adaptiv und intuitiv

Im Gegensatz dazu nutzen Agenten die Leistungsfähigkeit von LLMs und deren fortschrittliche Fähigkeiten in der natürlichen Sprachverarbeitung (NLP). LLMs ermöglichen es Agenten, die Absicht hinter der Eingabe von Nutzer:innen zu verstehen, selbst wenn diese auf unerwartete Weise formuliert ist. Basierend auf seinem Verständnis des Intents kann der Agent aus einer Reihe von Möglichkeiten die am besten geeignete Aktion auswählen. Ein Agent kann sogar völlig neue Antworten formulieren. Diese Flexibilität und Anpassungsfähigkeit unterscheidet Agenten von ihren Chatbot-Kollegen.

Eine kulinarische Analogie

Der Unterschied zwischen Chatbots und Agenten lässt sich mit dem Kontrast zwischen einem Kochanfänger und einem erfahrenen Koch vergleichen.

• Der Kochanfänger (Chatbot) ist stark auf ein ausführliches Rezept mit genauen Mengenangaben, Schritt-für-Schritt-Anleitungen und spezifischen Garzeiten angewiesen. Jede Abweichung vom Rezept führt zu einer kulinarischen Katastrophe. Entsprechend muss ein Chatbot innerhalb der Grenzen seines vorprogrammierten Entscheidungsbaums funktionieren.
• Der erfahrene Koch (Agent) verfügt über jahrelange kulinarische Erfahrung und Intuition. Mit einem allgemeinen Verständnis Ihrer Vorlieben und einer kurzen Beschreibung der verfügbaren Zutaten kann ein Agent eine köstliche Mahlzeit zubereiten, die Ihren Bedürfnissen entspricht. Die genauen Schritte können jedes Mal variieren, und jede Version des Gerichts kann geringfügige Unterschiede aufweisen, aber das Gesamtergebnis ist durchweg zufriedenstellend. Ebenso kann ein Agent seine Vorgehensweise an den Kontext und die Absicht der Eingabe von Nutzer:innen anpassen, was zu einer erfolgreichen Interaktion führt.

Ein Agent kann seine Vorgehensweise entsprechend dem Kontext und des Intents der Eingabe von Nutzer:innen anpassen, was zu einer erfolgreichen Interaktion führt.

Eine Besonderheit der Intelligenz eines Agenten liegt in seiner Fähigkeit, die am besten geeigneten Aktionen zum richtigen Zeitpunkt zu koordinieren und auszulösen. Diese Flexibilität macht es überflüssig, jede mögliche Interaktion von Nutzer:innen ausführlich zu programmieren.

In Agentforce umfasst die Erstellung eines agentenbasierten Systems Themen, Aktionen sowie Anweisungen und Beschreibungen in natürlicher Sprache.

Themen

Themen sind die „zu erledigenden Aufgaben“ für den Agenten. Themen haben Attribute wie eine Klassifizierungsbeschreibung, einen Umfang und Anweisungen, die jede Aufgabe und deren Ausführung definieren. Themen enthalten Aktionen, die der Agent ausführen kann, sowie Anweisungen, die regeln, wie diese Aktionen ausgeführt werden.

Aktionen

Aktion ist eine vordefinierte Aufgabe, die der Agent ausführen kann, um seine Arbeit zu erledigen. Es gibt fünf verschiedene Arten von Aktionen:

• Apex-Code ausführen
• Eine API aufrufen
• Einen Flow ausführen
• Eine LLM-Antwort auf eine Eingabeaufforderungsvorlage erhalten
• Ein Vorhersagemodell aufrufen

Anweisungen und Beschreibungen in natürlicher Sprache

Die Definition eines Agenten enthält Anweisungen in natürlicher Sprache, die die Ressourcen des Agenten beschreiben und die Richtlinien festlegen, innerhalb derer er arbeiten muss. Anweisungen werden für Aktionen und Themen geschrieben.

• Aktionen. Eine Aktion enthält:
  • Anweisungen, die beschreiben, was die Aktion bewirkt, und die der Inferenzmaschine mitteilen, wann diese Aktion ausgeführt werden soll.
  • Eingaben mit einer Beschreibung in natürlicher Sprache, damit der Agent sie vorbereiten kann.
  • Ausgaben mit einer Beschreibung in natürlicher Sprache, wie sie formatiert und verwendet werden sollen.
• Thema. Ein Thema enthält Anweisungen, die regeln, wie seine Aktionen auf einer höheren Ebene ausgeführt werden sollen. Beispielsweise können Anweisungen Leitlinien zum Tonfall, zur gewünschten Abfolge von Aktionen, zu möglichen Voraussetzungen oder dazu enthalten, wann Unterhaltungen an Menschen eskaliert werden sollen. Das Thema enthält auch eine Klassifizierungsbeschreibung und eine Abgrenzung des Geltungsbereichs. Insgesamt wird dadurch sichergestellt, dass der Agent im Rahmen seiner definierten Rolle bleibt und die Aufgabe erfüllt.
• Daten. Agenten benötigen Daten, um ihre Arbeit erfolgreich ausführen zu können. Daten können strukturiert sein, wie beispielsweise CRM-Daten, oder unstrukturiert, wie beispielsweise Wissensartikel von Unternehmen. Agenten greifen über Aktionseingaben auf Daten zu. Beispielsweise kann eine Aktion einen Prompt-Template aufrufen, der auf CRM-Daten zur Kontextbildung basiert oder mithilfe von Techniken zur Abruf-erweiterten Generierung (RAG) um unstrukturierte Daten ergänzt wird.

Diese verschiedenen Bausteine helfen einem Agenten, wenn sie korrekt aufgebaut sind, seinen beabsichtigten Zweck zu erfüllen und dabei innerhalb der entsprechenden Grenzen zu operieren.

Die Agentforce-Inferenzmaschine koordiniert diese Bausteine zu einem korrekten agentenbasierten Verhalten. Sie nutzt die in Themen und Aktionen definierten Anweisungen und Beschreibungen in natürlicher Sprache. Sie basiert auf ReAct, einer neuen Inferenz für LLMs, die 2022 von Yao et al eingeführt wurde. Dieses Paradigma ahmt das menschliche Aufgabenmanagement nach, indem es über ein Problem eine Inferenz zieht, Aktion ergreift, die Ergebnisse der Aktion beobachtet und den Zyklus bis zur Fertigstellung der Aufgabe wiederholt.

Salesforce-Agenten folgen diesem Paradigma:

1. Inferenz: Die Absicht der Nutzer:innen verstehen und mit dem richtigen Thema und den richtigen Aktionen in Einklang bringen.
2. Handeln: Die richtige Aktionskette starten.
3. Beobachten: Bewerten der Aktionsergebnisse anhand des Intents der Nutzer:innen. Wenn der Intent nicht erfüllt wird, fortsetzen der Inferenz auf der Grundlage des bisher erzielten Ergebnisses und der Themen-/Aktion-Anweisungen und -beschreibungen. Wenn der Intent erfüllt ist, erstellen der endgültigen Antwort und beachten möglicher Formatierungsanweisungen.
4. Wiederholen: Diese Schritte iterieren, bis der letzte angewiesene Schritt erreicht ist.

Die Inferenzmaschine verwendet LLMs bei jedem Inferenz- und Beobachtungsschritt. Je nach Aktion können auch LLMs im Schritt „Handeln“ verwendet werden.

In diesem Abschnitt wird ein mehrschichtiger Ansatz zur Verbesserung des Determinismus von Agenten beschrieben. Jede Stufe baut auf der vorherigen auf, wobei die Komplexität und die Fähigkeiten zunehmen, wodurch mehr Kontrolle über das Verhalten des Agenten erreicht wird.

In der ersten Stufe geht es darum, Agenten in die Lage zu versetzen, relevante Themen selbstständig zu identifizieren und dann anhand von Zielen statt expliziten Anweisungen geeignete Aktionen auszuwählen. Der Kernmechanismus besteht darin, ein kontextbezogenes Verständnis zu nutzen, um auf Eingabe von Nutzer:innen zu reagieren. Auch wenn technisch gesehen jede Art von Aktion hinzugefügt werden kann, gehen wir auf dieser Ebene davon aus, dass es sich um Prompt-Aktion handelt. Anweisungsfreie Themen mit Prompt-Aktionen bieten eine schnelle und effiziente Möglichkeit, häufig gestellte Fragen zu bearbeiten.

Auf dieser Stufe liegt der Schwerpunkt darauf, durch dynamisches Verständnis ein Grundniveau an Reaktionsfähigkeit und Autonomie der Agenten zu etablieren.

Aufbauend auf der Grundlage der anweisungsfreien Aktionsauswahl werden in dieser Stufe explizite Anweisungen eingeführt, um das Verhalten des Agenten zu steuern. Durch das Hinzufügen präziser Anweisungen lässt sich besser steuern, wie Agenten auf verschiedene Situationen reagieren. Anweisungen an Agenten können in Form von Regeln, Richtlinien, Leitlinien und Beispielen formuliert werden. Diese geben dem Agenten konkrete Anweisungen, wie er mit verschiedenen Themen umgehen, Aktionen ausführen und deren Ergebnisse verarbeiten soll. Das Ziel dieser Stufe ist es, den Agenten klare Anweisungen zu geben, um die Konsistenz zu erhöhen und die Einhaltung der Unternehmensrichtlinien und -prozesse zu verbessern.

Kontextbildung beinhaltet die Verknüpfung des Verständnisses und der Reaktionen des Agenten mit externen Wissensquellen. Durch die Kontextbildung wird sichergestellt, dass die vom Agenten bereitgestellten Informationen genauer, aktueller und relevanter sind. Diese Ebene integriert den Zugriff auf Datenbanken, Knowledge Bases und andere Informationsspeicher. Die Kontextbildung der Antworten des Agenten anhand verifizierter Daten erhöht dessen Zuverlässigkeit und Vertrauenswürdigkeit.

Diese Ebene erweitert die Fähigkeit für Agenten, mit Variablen zu arbeiten. Dank Variablen können Agenten Interaktionen personalisieren, den Kontext über mehrere Interaktionen hinweg beibehalten und ihr Verhalten dynamisch anpassen, basierend auf spezifischen Datenpunkten, die während der Agentensitzung gespeichert werden. Beispielsweise könnte ein Agent die Präferenzen von Nutzer:innen, Bestelldetails und andere relevante Informationen erfassen und diese Daten dann zur individuellen Gestaltung der Interaktion nutzen. Mit Variablen sind Agenten besser in der Lage, komplexere, stärker vorgegebene und personalisiertere Interaktionen zu bewältigen.

Der letzte Schritt integriert den Agenten in die Kernfunktionen von Salesforce: APEX, APIs und Flow. Mithilfe der Integration kann der Agent komplexe Aktionen innerhalb des Salesforce-Ökosystems ausführen, beispielsweise auf Daten zugreifen und diese bearbeiten, Workflows auslösen und mit anderen Systemen interagieren.

• Apex bietet programmatische Kontrolle.
• APIs ermöglichen eine nahtlose Integration mit anderen Anwendungen
• Flows ermöglichen die Automatisierung komplexer Geschäftsprozesse.

Diese Stufe verwandelt den Agenten in ein leistungsstarkes Tool, das komplexe Aufgaben ausführen und direkt zu den Geschäftsergebnissen beitragen kann.

Ausgehend von einer Grundlinie der Reaktionsfähigkeit und Autonomie eines Agenten betrachten wir einen Agenten, der nur aus Themen und Aktionen mit den entsprechenden Beschreibungen besteht. Anhand dieses Beispielagenten können wir die verschiedenen Schritte der Inferenzmaschine vorstellen und zeigen, wie sie diese Beschreibungen nutzt, um die richtigen Themen und anschließend die auszuführenden Aktionen auszuwählen. Wenn wir die Themenanweisungen aus diesem Beispiel weglassen, können wir beobachten, dass die Agenten dieser ersten Ebene im Vergleich zu den Agenten auf höheren Ebenen den größten Freiheitsgrad haben. In Stufe eins kann der Agent völlig frei die Aktion auswählen, die er für angemessen hält, und zwar ausschließlich auf der Grundlage der laufenden Unterhaltung.

Überdenken Sie die folgenden Überlegungen zur Inferenzmaschine:

• Die Konfigurationseinstellungen für den Inferenzmaschinen-LLM sind fest vorgegeben. Agent Builder können sie nicht ändern. Derzeit werden OpenAI-LLMs für Inferenz eingesetzt. Dies kann sich jedoch ändern, wenn weitere Modelle hinzugefügt werden.
• Standardverlauf der Inferenzmaschine: Wann immer eine Anfrage an die Inferenzmaschine gestellt wird (Schritte 2–5), ruft diese automatisch den Verlauf der letzten Anfragen und Antworten ab. Dadurch wird sichergestellt, dass der Konversationskontext für die Inferenzmaschine beibehalten wird. Zusätzlich zu den Kund:innen-Interaktionen umfassen diese Aufrufe an den Planer-LLM auch Aufrufe an die Inferenzmaschinen-LLM für andere Anfragen, wie beispielsweise die Themenauswahl.

Die Inferenz umfasst vier Hauptschritte:

1. Themenauswahl
2. Aktionsauswahl
3. Agenten-basierte Schleife
4. Prüfung der Kontextbildung

Die Themen sind darauf ausgelegt, die Genauigkeit zu verbessern, mit der Agenten die richtige Aktion oder Abfolge von Aktionen klassifizieren. Jedes Thema sollte aus semantisch eindeutigen Aktionen bestehen, die alle zu einer prägnanten Themenbeschreibung gehören können und somit zu einer ähnlichen Agentenfunktion gehören.

Das richtige Thema wird vom Inferenzmaschinen-LLM ausgewählt (Schritt 2–3 des Diagramms). Es wählt das Thema aus, dessen Klassifizierungsbeschreibung am ehesten mit der letzten Äußerung übereinstimmt, wobei ein Themen-Prompt verwendet wird. Dieser Themen-Prompt enthält die Klassifizierungsbeschreibungen aller Themen und den Unterhaltungsverlauf. Neben Äußerungen und Antworten von Agenten umfasst der Unterhaltungsverlauf auch ausgeführte Aktionen und deren Ergebnisse. Darüber hinaus enthält der Prompt wichtige Anweisungen, die eine Analyse im Kontext des Unterhaltungsverlaufs vorschreiben und vom LLM verlangen, seinen Denkprozess offenzulegen.

Weitere Überlegungen:

• Zusätzlich zu den sichtbaren Themen gibt es automatisch ein weiteres verstecktes Thema für „Off Topic“-Äußerungen. Dieses Thema wird ausgewählt, wenn kein anderes vorhandenes Thema mit der Äußerung übereinstimmt. Dies hilft dem Agenten, Fehlklassifizierungen zu vermeiden. Dieses Thema hat keine Aktionen. Es dient lediglich dazu, der Inferenzmaschine dabei zu helfen, später eine angemessene Antwort zu formulieren.
• Im Prompt werden nur der Name und die Klassifizierungsbeschreibung des Themas verwendet.
• Das Inferenzmaschinen-LLM kann jeweils nur ein Thema auswählen.
• Unterhaltungen können unerwartete Wendungen nehmen. Bei jedem Empfang einer Äußerung fährt die Inferenzmaschine mit dem Schritt der Themenauswahl fort, was bedeutet, dass bei jeder neuen Äußerung ein neues Thema ausgewählt werden kann.

Themen haben zwei Ziele:

1. Reduzieren des Risikos, die Inferenzmaschine zu verwirren, indem Aktionen gruppiert werden, wodurch vermieden wird, dass sie die falschen Aktionen auswählt.
2. Die Auswahl und Ausführung von Aktionen mit Anweisungen leiten (mehr dazu in Stufe Zwei: Agentenbasierte Kontrolle: Anweisungen hinzufügen.

Durch die sorgfältige Organisation der Fähigkeiten des Agenten in klar definierte Themenbereiche, die aus miteinander verbundenen Aktionen bestehen, arbeitet der Agent effektiver und vorhersehbarer, und es ist einfacher, ihn zu aktualisieren und zu erweitern. Es gibt zwei mögliche Ansätze für das Themendesign: Top-down und Bottom-up.

• Beim Top-Down-Ansatz werden Themen zunächst als allgemeine Aufgaben konzipiert, die der Agent erledigen muss, und dann werden die einzelnen Aktionen für diese Themen definiert.
• Beim Bottom-up-Ansatz werden zunächst alle einzelnen Aktionen definiert, die dann zu Themen zusammengefasst werden.

Beide Ansätze führen zu guten Ergebnissen, wenn sie richtig befolgt werden.

Bottom-Up-Ansatz

In diesem Abschnitt wird der Bottom-up-Ansatz erläutert, da dieser eng mit den Gründen zusammenhängt, warum die Inferenzmaschine überhaupt Themen benötigt.

Schritt 1: Auflisten aller Agent-Aktionen

Beginnen Sie damit, alle spezifischen Aktionen aufzulisten, die der Agent ausführen können sollte. In dieser Phase ist es besser, sehr konkret zu sein, als zu allgemein. Vermeiden Sie es, Aktionen vorzeitig zu gruppieren oder zu vereinfachen. Das Ziel ist es, einen umfassenden und detaillierten Überblick über die Möglichkeiten des Agenten zu schaffen.

Bei einem Serviceagent könnte die erste Liste beispielsweise Folgendes enthalten:

• Bestellung zurücksenden: Wird verwendet, um den Rückgabeprozess für eine Bestellung zu initiieren.
• Verfügbarkeit des Bestands prüfen: Wird verwendet, um zu überprüfen, ob ein Produkt auf Lager ist.
• Richtlinien für den Produktaustausch prüfen: Dient zum Abrufen von Informationen über Austauschregeln.
• Fragen mit Wissen beantworten: Wird verwendet, um allgemeine oder FAQ-ähnliche Fragen zu beantworten.
• Werbeaktionen prüfen: Wird verwendet, um nach verfügbaren Werbeaktionen oder Rabatten zu suchen.
• Lieferdatum prognostizieren: Wird verwendet, um das erwartete Lieferdatum/-Uhrzeit zu schätzen.
• Bestellstatus prüfen: Wird verwendet, um den aktuellen Status der Bestellung eines Kunden zu ermitteln.
• Kundenbestellungen suchen: Dient zum Abrufen aller vergangenen oder aktiven Bestellungen eines bestimmten Kunden.
• Technische Probleme beheben: Wird verwendet, um technische Probleme mit einem Produkt oder einer Dienstleistung zu lösen.
• Kundenbestellungsbedingungen finden: Alle Bedingungen für eine Bestellung abrufen.
• Kundenressourcen suchen: Dient zum Identifizieren oder Abrufen von Assets, die mit einem Kunden verknüpft sind.
• Lieferadresse ändern.

Beachten Sie, dass eine Aktion wie „Kundenbeschwerden lösen“ zu weit gefasst ist. Aktion sollte die feinste Granularität im Verhalten eines Agenten darstellen. Beschwerden können vielfältig sein, und verschiedene Aktionen decken sie bereits ab:

• Probleme nach der Lieferung, wie z. B. die Fehlerbehebung beschädigter oder fehlerhafter Produkte, werden bereits durch „technische Probleme beheben“ abgedeckt.)
• Probleme vor der Auslieferung, wie fehlende Lieferungen, die Notwendigkeit, Liefertermine zu ändern oder Bestellungen zu ändern, werden bereits durch Aktionen wie „Bestellstatus überprüfen“, „Lieferdatum vorhersagen“ oder „Bestellung zurücksenden“ abgedeckt.
• Allgemeine Kundenanliegen wie Richtlinienanfragen werden bereits durch „Fragen mit Wissen beantworten“ oder „Richtlinien für den Produktaustausch überprüfen“ abgedeckt.

Schritt 2: Markieren Sie Aktionspaare (oder Multiples), die möglicherweise zu Verwirrung führen

Markieren Sie Aktionen, die sich in ihrer Art ähneln, da sie zu Verwirrung für die Inferenzmaschine führen können. Ihre Beschreibungen unterscheiden sich semantisch nicht ausreichend, sodass die Infernzmaschine nicht weiß, welche Aktion in Schritt 5 ausgewählt werden soll.

Beispielsweise haben „Fehlerbehebung bei technischen Problemen“ und „Frage mit Wissen beantworten“ ähnliche Beschreibungen, aber ihre Funktionalität kann erheblich voneinander abweichen. Wenn Sie solche semantischen Überschneidungen markieren, können Sie erkennen, welche Aktionen Sie über mehrere Themen hinweg trennen sollten.

Schritt 3: Erstellen Sie erste Gruppierungen von Aktionen nach Themen

Sobald Aktionen klar definiert und ihre semantischen Überschneidungen identifiziert sind, können Aktionen in vorläufige Themen zusammengefasst werden. Ein Thema ist eine logische Kategorie von Funktionen – eine Gruppierung von Aktionen, die zusammen eine kohärente Fähigkeit oder Kompetenz des Agenten darstellen.

Beim Erstellen dieser Gruppierungen gilt Folgendes:

• Vermeiden Sie semantische Überschneidungen, indem Sie die Mindestanzahl der benötigten Themen verwenden.
• Stellen Sie sicher, dass jedes Thema Aktionen enthält, die sinnvoll zusammenhängen.
• Stellen Sie sicher, dass unterstützende Aktionen, die in einer Kette ausgeführt werden müssen, im selben Thema enthalten sind.

Hier ist ein Beispiel für eine erste Gruppierung für einen Serviceagent:

Thema 1:

• Eine Bestellung zurücksenden
• Bestandsverfügbarkeit prüfen
• Produktumtauschrichtlinien überprüfen
• Werbeaktionen prüfen
• Liefertermin prognostizieren
• Kundenbestellungsbedingungen finden
• Bestellstatus überprüfen
• Kundenbestellungen finden
• Kundendatenbestände finden
• Fragen mit Wissen beantworten
• Lieferadresse ändern

Thema 2:

• Technische Probleme beheben
• Kundendatenbestände finden

Schritt 4: Schreiben Sie Klassifizierungsbeschreibungen für Themen und teilen Sie Themen bei Bedarf auf

Sobald Sie die erste Gruppierung vorgenommen haben, schreiben Sie Klassifizierungsbeschreibungen für die einzelnen Themen.

• Thema 2 in unserem Beispiel betrifft eindeutig technische Probleme mit Produkten.
• Thema 1 deckt jedoch einen größeren Bereich ab. Es geht hauptsächlich um die Auftragsverwaltung, aber es enthält auch einige Aktionen, die nichts mit der Auftragsverwaltung zu tun haben, wie z. B. die Überprüfung von Werbeaktionen und die Beantwortung von Fragen mit Hilfe von Wissen. Thema 1 lässt sich nicht klar und prägnant in einem einzigen Satz beschreiben, daher sollte das Thema in verschiedene Themenbereiche unterteilt werden.

Nach der Verfeinerung erhalten wir:

• Thema 1: Auftragsverwaltung: Beschreibt Aktionen im Zusammenhang mit der Verwaltung und Änderung von Kund:innen-Aufträgen und der damit verbundenen Logistik, mit Ausnahme von Aktionen im Zusammenhang mit Umtausch und Rückgabe.
  • Bestandsverfügbarkeit prüfen Bestimmen, ob ein Produkt auf Lager ist.
  • Lieferdatum vorhersagen: Schätzen, wann eine Bestellung eintrifft.
  • Bestellstatus prüfen: Status einer Bestellung von Kund:innen ermitteln.
  • Kundenbestellungen suchen: Alle Bestellungen von Kund:innen abrufen.
  • Lieferadresse ändern.
• Thema 2: Fehlerbehebung
  • Kundendatenbestände finden: Registrierten Geräte oder Produkte der Kund:innen abrufen.
  • Technische Probleme beheben: Technische Unterstützung oder Diagnosen bieten.
• Thema 3: Umtausch: Beschreibt Aktionen im Zusammenhang mit Bestellungsumtausch und -Rücksendung.
  • Bestellung zurücksenden: Rückgabeprozess für Bestellungen starten.
  • Richtlinien für den Produktaustausch prüfen: Regeln für den Austausch von Produkten angeben.
  • Kundenbestellungen suchen: Alle Bestellungen von Kund:innen abrufen.
  • Kundenbestellungsbedingungen finden: alle Bedingungen für eine Bestellung abrufen
• Thema 4: Produktsupport: Beschreibt Querschnittsaktionen, die zum Abrufen und Weiterleiten von Informationen verwendet werden.
  • Fragen mit Wissen beantworten: Allgemeine Kundenanfragen mithilfe von Knowledge Base-Informationen beantworten.
  • Werbeaktionen prüfen: Aktuelle Werbeaktionen oder Rabatte aufzeigen.

Zusammenfassend lässt sich sagen: Erstellen Sie zunächst eine umfassende Liste aller möglichen Aktionen und markieren Sie dann semantische Überschneidungen zwischen diesen Aktionen. Als Nächstes erstellen Sie eine Reihe von Themen, die mindestens alle semantischen Überschneidungen lösen (damit die Inferenzmaschine innerhalb der Grenzen eines Themas nicht verwirrt wird). Schreiben Sie anschließend die Klassifizierungsbeschreibung für jedes Thema. Wenn die Themen zu weit gefasst sind, unterteilen Sie sie in detailliertere Themen. Durch die Umsetzung dieser Leitlinien können Sie einen Agent entwickeln, der nicht nur gute Leistungen erbringt, sondern auch leicht zu warten und zu erweitern ist.

Diese Struktur bietet Support für eine bessere Inferenz, eine genauere Ausführung und klarere Entscheidungsgrenzen innerhalb des Verhaltens des Agenten. Darüber hinaus stützt sie sich auf die Zusammenarbeit zwischen Designern, Ingenieuren und Fachexperten, um die Fähigkeiten des Agenten transparenter und modularer zu gestalten.

Weitere Überlegungen zur effektiven Erstellung von Themen

• Optimale Anzahl der Themen: Zur Verbesserung der Leistung von LLMs bei der Klassifizierung des richtigen Themas ist es im Allgemeinen ratsam, nicht mehr als 10 Themen zu verwenden. Aber das ist nur eine Faustregel. Darüber hinaus sollte jedes Thema eine klare und eindeutige Beschreibung haben. Letztendlich hängt die optimale Anzahl der Themen vom semantischen Abstand zwischen den Beschreibungen der Themenklassifizierung ab. Wenn die Klassifizierungsbeschreibungen der Themen stark voneinander abweichen, wird das Risiko von Themenüberlappungen minimiert. Weitere Best Practices, um Überschneidungen zwischen Themen zu vermeiden, werden hier beschrieben.
• Ausgewogene Themengröße und Klarheit: Auch wenn es im Allgemeinen vorteilhaft ist, kleine Themen in Bezug auf Aktionen und Anweisungen zu haben, um die Klassifizierung zu vereinfachen, kann die Erstellung zu vieler Themen mit sehr ähnlichen Beschreibungen zu Verwirrung führen, genauso wie semantische Überschneidungen zwischen Aktionen zu Fehlklassifizierungen führen. Daher ist es wichtig, dass die Themenbeschreibungen klar semantisch differenziert sind. Sie können LLMS verwenden, um diese gut differenzierten Klassifizierungen zu erstellen.
• Standardsprache und kontextbezogene Klarheit: LLMS kennen möglicherweise keine spezifischen Unternehmens- oder Geschäftsbedeutungen und Abkürzungen. Verwenden Sie eine Standardsprache oder erklären Sie die Bedeutung von Wörtern in Ihrem spezifischen Kontext sehr deutlich.
• Im Themen-Prompt werden nur der Name und die Beschreibung des Themas gesendet. Daher hat eine Änderung des Geltungsbereichs oder der Anweisungen des Themas keinen Einfluss auf die Themenauswahl.

Beispiel in Aktion

Stellen Sie sich vor, ein Serviceagent erhält eine Garantieanfrage für eine Uhr. Das Garantieproblem scheint nicht mit dem Produktumtausch oder dem Support in Zusammenhang zu stehen. Die Bestellungsverwaltung scheint das am besten geeignete Thema zu sein, um diese Anfrage zu bearbeiten. Daher wird das letztere Thema von der Inferenzmaschine als dasjenige ausgewählt, das die Anfrage am wahrscheinlichsten zur Erfüllung führt.

Nach der Themenauswahl wählt die Inferenzmaschine die richtigen Aktionen aus, die aus dem ausgewählten Thema ausgeführt werden sollen. Auch hierfür ist das Inferenzmaschinen-LLM verantwortlich, die einen weiteren Prompt namens „Beobachtungs-Prompt” verwendet. Der Zweck des Beobachtungs-Prompts besteht darin, den nächsten Inferenz-Schritt zu ermitteln. Der nächste Schritt kann einer der folgenden sein:

• Starten einer Aktion
• Anfordern von Aktionseingaben von Nutzer:innen
• Klärung der Anfrage von Nutzer:innen anfordern
• Senden der endgültigen Antwort an die Nutzer:innen (Erfüllen der Anfrage der Nutzer:innen), sobald die Aktion abgeschlossen ist (weitere Details siehe Schritt 3 der Inferenz)

Die Eingabe für den Beobachtungs-Prompt setzt sich aus allen Beschreibungen aller Aktionen aus dem Thema sowie aus dem Unterhaltungsverlauf zusammen.

Best Practice für das Design von Aktionen

Aktion ist eine vordefinierte Aufgabe, die der Agent ausführen kann, um seine Arbeit zu erledigen. Aktion ist die feinkörnigste Definition von Arbeit. Es gibt fünf verschiedene Arten von Agentenaktionen: (1) Apex-Code ausführen, (2) eine API aufrufen, (3) einen Flow ausführen, (4) eine LLM-Antwort auf eine Eingabeaufforderungsvorlage erhalten und (5) ein Vorhersagemodell aufrufen. Die meisten dieser Aktionen können deterministisch sein. Eine Ausnahme besteht darin, eine Antwort auf eine Prompt-Vorlage zu erhalten (vorausgesetzt, dass das externe System, die Flow- oder die Apex-Aktion keine probabilistischen Elemente wie Prompt-Aufrufe enthält). Wir behandeln diese Probleme auf der fünften Ebene der agentenbasierten Kontrolle.

1. Kontrolle des agentenbasierten Verhaltens in Prompt-Aktionen. Es gibt zwei Möglichkeiten, die Kontrolle über das Verhalten des Agenten in Prompt-Aktionen zu erzwingen: (1) Fügen Sie der Prompt-Vorlage durch Prompt Engineering weitere Anweisungen hinzu und (2) konfigurieren Sie die Hyperparameter des LLM, das die Prompt-Antwort generiert, insbesondere die Temperatur (siehe Dokumentation ). Eine Senkung der Temperatur verringert die Variabilität der generierten Antworten, was die Wiederholbarkeit und Zuverlässigkeit der Agenten erhöht.
2. Optimale Anzahl von Aktionen innerhalb eines einzigen Themas: Ähnlich wie bei der maximalen Anzahl von Themen sollte die Anzahl der Aktionen innerhalb eines Themas 10 nicht überschreiten. Aber auch das ist eine Faustregel. Der eigentliche Faktor ist der semantische Abstand zwischen den Aktionen. Wenn Aktionen durch ihre Beschreibung deutlich zu unterscheiden sind, kann diese Zahl größer sein. Es gibt jedoch keine numerische Kennzahl für die semantische Entfernung. Dies hängt von der Interpretation des Agent Builders ab. Je größer der Bedeutungsunterschied zwischen den Aktionsbeschreibungen ist, desto größer ist der semantische Abstand. Überschneidungen sollten hier jederzeit vermieden werden.
3. Aktionsbeschreibungen: Entgegen dem, was der Name vermuten lässt, dient die „Aktion“ tatsächlich als Anweisung, die die Inferenzmaschinen-LLM verwendet, um die richtige Aktion aus dem Thema auszuwählen. Beachten Sie, dass die Verwendung semantisch eindeutiger Beschreibungen der Aktion die Qualität ihrer Klassifizierungen erheblich verbessern kann. Überprüfen Sie diese Beschreibungen sorgfältig und vergleichen Sie insbesondere alle Aktionsbeschreibungen, die zu einem einzigen Thema gehören.

Beispiel in Aktion

Fahren wir mit dem vorherigen Beispiel fort, in dem ein Serviceagent eine Frage zur Garantieregelung für eine Uhr erhalten hat. Nach Auswahl des Themas Auftragsverwaltung wird die wahrscheinlichste Aktion ausgewählt. Da es sich um das Thema Auftragsverwaltung handelt, ist der erste logische Schritt, die Bestellung nachzuschlagen (wozu sollte man sonst Garantieinformationen abrufen?), indem die Aktion „Bestellung suchen” gestartet wird.

Eine Nutzeräußerung kann die Ausführung mehrerer Aktionen auslösen, bevor eine Antwort an die Nutzer:innen zurückgesendet wird. Dies ist auf die Agenten-basierte Schleife zurückzuführen, die so lange die nächstbeste Aktion auswählt und ausführt, bis eine der folgenden Bedingungen erfüllt ist:

• Das Inferenzmaschinen-LLM stellt fest, dass die Anfrage vollständig ist. In diesem Fall stellt sie fest, dass die Anfrage der Nutzer:innen durch die Antwort erfüllt wird. Beachten Sie, dass ein Teil dieser Überprüfung eine Kontextbildung umfasst, bei der überprüft wird, ob die Reaktion in den Ausgaben der Aktion geerdet ist. Die Antwort sollte keine Informationen enthalten, die vom Infernzmaschinen-LLM erfunden wurden, da dies zu Halluzinationen oder anderweitig falschen Antworten führen kann.
• Es werden keine geeigneten Aktionen mehr gefunden.
• Die maximal zulässigen LLM-Aufrufe für den aktuellen Schritt sind erreicht. Diese Zahl wird von der Inferenzmaschine selbst festgelegt.

Aktionen unterliegen keinem bestimmten Timeout. So vermeiden Sie Unterbrechungen, wenn die Ausführungszeiten von Aktionen je nach Komplexität variieren. Einige Aktionen sind einfach komplexer auszuführen als andere.

Beispiel in Aktion

Nach dem Start einer Auftragssuche wertet die Inferenzmaschine die bisher generierte Antwort aus und entscheidet dann, dass weitere Schritte erforderlich sind, bevor eine Antwort an die Nutzer:innen zurückgesendet werden kann. Es geht darum, die Garantiebestimmungen nachzuschlagen, da die Bestellung nun im Unterhaltungsverlauf vorhanden ist.

Dabei stellt der Agent jedoch fest, dass der/die Kund:in tatsächlich zwei Uhren gekauft hat, die durch die Aktion „Bestellsuche“ abgerufen wurden. Daher entscheidet die Inferenzmaschine in der Agenten-basierten Schleife nun, die Kund:innen zu bitten, anzugeben, für welche Uhr er Garantieinformationen benötigt.

Übermäßiges Skripting vermeiden

Vermeiden Sie es, den Agenten zu genau vorzuschreiben, wie sie mit den Nutzer:innen eine Unterhaltung führen sollen. Übermäßiges Skripting kann die Fähigkeit eines Agenten beeinträchtigen, eine Beziehung aufzubauen, die individuellen Anforderungen der Nutzer:innen zu verstehen und in Echtzeit effektiv auf dynamische Umstände zu reagieren. Außerdem können langwierige Anweisungen dazu führen, dass der Agent langsamer reagiert und die Inferzinfmaschine verwirrt wird. Determinismus über Anweisungen zu erzwingen, ist nicht der bevorzugte Ansatz.

Was Sie nicht tun sollten

Beispielsweise muss ein Agent nicht darauf hingewiesen werden, in Antworten auf Serviceanfragen nicht auf Wettbewerber Bezug zu nehmen. Dies kann zu unerwünschtem Verhalten führen, da der Agent sich auch weigern kann, Fragen zur Integration mit einem Anbieter zu beantworten, der gleichzeitig ein Wettbewerber ist. Stattdessen könnte die Anweisung etwa lauten: „Wenn du über Wettbewerber sprichst, antworte im besten Interesse des Unternehmens.“ Dadurch werden restriktive, bedingte Anweisungen wie „Erwähnee den Wettbewerber xyz nur im Fall …“ vermieden und stattdessen die Inferenz des LLM genutzt. Dieses Beispiel zeigt, wie Anweisungen auf einer allgemeineren, abstrakteren Ebene gegeben werden können, ähnlich wie menschliche Service-Mitarbeiter:innen nach ihrer Einstellung geschult werden.

Schauen wir uns einige weitere Beispiele an, wie Sie nicht tun sollten. Dies sind einige schlechte Anweisungen, die einem Serviceagent gegeben wurden, der Bewerber:innenprofile auf einer Jobbörse bearbeitet. Diese Anweisungen versuchen, jede mögliche Äußerung von Kund:innen zu antizipieren und sollten daher vermieden werden:

Anweisung 1: Der Agent erhält die folgende Äußerung: „Kann ich ein Bild zu meinem Profil hinzufügen?“ Frage die Kund:innen dann sofort: „Was ist Ihr Profiltyp?“

Anweisung 2: Wenn Kund:innen ein Premium-Profil angeben, antworte mit „Ich werde Ihre Vertragsdetails überprüfen“, suche dann nach den Vertragsdetails und überprüfe, ob vereinbart wurde, dass sie das Profilbild aktualisieren können.

Wenn vereinbart wurde, dass Bewerber:innen dies tun können, antworte mit „Ja, das ist möglich. Ich werde das für Sie aktualisieren. Können Sie Ihr neues Foto zur Verfügung stellen?“ Aktualisiere das Bewerber:innen-Profil entsprechend nach Eingang des Fotos. Wenn der Vertrag keine Änderungen am Profilbild enthält, sage: „Tut mir leid, das ist nicht möglich. Ich leite Sie an einen Menschen weiter.“

Anweisung 3: Nicht-Premium-Profil: Wenn Kund:innen ein nicht-Premium-Profil angeben, antworte mit „Ihr Bild kann nicht aktualisiert werden. Wenn Sie das tun möchten, lassen Sie es mich wissen und ich werde Sie an einen Menschen weiterleiten.“

Anweisung 4: Wenn der Profiltyp unklar ist, antworte mit „Ich konnte Ihren Profiltyp nichtermitteln“.

Was Sie stattdessen tun sollten

Anstelle dieser Art von Mikromanagement sollten Sie einen flexibleren Ansatz verfolgen, der das Verhalten und die Vorgehensweise der Agenten vorgibt. Beachten Sie die folgenden Best Practices:

1. Verwenden Sie RAG/ Knowledge-Aktionen für Richtlinien und Regeln, die in Wissensartikeln enthalten sind (anstatt sie als Anweisungen zu schreiben). Die relevanten Informationen werden zum richtigen Zeitpunkt abgerufen. Für das obige Beispiel bedeutet dies, dass ein Wissensartikel mit dem Titel „Bildaktualisierung“ Folgendes enthalten sollte: „Nur Bewerber:innen mit einem Premium-Profil, deren Vertrag Bildänderungen zulässt, können ihr Bild aktualisieren.“
2. Skizzieren Sie die wichtigsten Leitlinien und Leitplanken einzeln, unabhängig von der Unterhaltung. Geben Sie Agenten eine klare und prägnante Erklärung des erwarteten Verhaltens oder der fraglichen Vorgehensweise.

Basierend auf diesen Best Practices könnten bessere Anweisungen wie folgt aussehen:

Anweisung 1: : „Verwende Knowledge-Aktionen, um Richtlinien für den Fall zu überprüfen, dass Kontoänderungen angefordert werden.“

Anweisung 2: : „Antworte nicht auf Fragen, für die keine anwendbare Richtlinie gefunden werden konnte.“

Die Anwendung der obigen Richtlinien kann die Agenten-Ergebnisse verbessern. Wenn Kund:innen nun den Agenten um eine Profiländerung bitten, versteht der Agent, dass er die erforderliche Richtlinie aus der Knowledge Base abrufen, die abgerufenen Regeln interpretieren, diese Regeln auf den Kontext anwenden und schließlich dem Kunden antworten muss. Im Gegensatz zum „Overscripting“ ist dieser Verhaltensansatz viel allgemeiner und breiter anwendbar. Ohne jede mögliche Unterhaltung ausformulieren zu müssen, kann der Agent nun flexibel mit dem gewünschten Verhalten auf ein breiteres Spektrum an Unterhaltungsthemen reagieren.

Aktionssequenz erzwingen

Der Beobachtungs-Prompt enthält Anweisungen und Beschreibungen der Aktion, jedoch ohne festgelegte Reihenfolge. Wenn die Reihenfolge der Aktionen entscheidend ist, muss dies in derselben Anweisung ausdrücklich angegeben werden.

Fahren wir mit dem Beispiel von Agenten auf Recruiting-Websites fort. Der Agent sollte in der Lage sein, die Planung von Vorstellungsgesprächen mit der entsprechenden Person, die das Vorstellungsgespräch führt, zu übernehmen. Dazu sollte der Agent zunächst die Verfügbarkeit der Personalverantwortlichen prüfen und den Bewerber:innen dann drei mögliche Termine vorschlagen.

In diesem Fall sollten die Anweisungen, um die Reihenfolge der Ausführung beizubehalten, nicht in separaten Feldern stehen:

1. Anweisung 1: Überprüfe die Verfügbarkeit der Personalverantwortlichen für das Vorstellungsgespräch.
2. Anweisung 2: Schlage den Bewerber:innen dann geeignete Termine vor.

Diese Anweisungen funktionieren nicht, weil die Inferzmaschine nicht weiß, worauf sich die „Dann“-Anweisung in Anweisung 2 bezieht. Dies liegt daran, dass die Anweisungen als Gruppe und nicht in einer bestimmten Reihenfolge an die Inferenzmaschine gesendet werden.

Stattdessen sollten sequenzdefinierende Anweisungen zu einer einzigen Anweisung zusammengefasst und wie folgt geschrieben werden:

1. Anweisung 1: Überprüfe die Verfügbarkeit der Personalverantwortlichen für das Vorstellungsgespräch. Schlage den Bewerber:innen dann geeignete Termine vor.

Ausgabe von Aktionen ohne Neuschreiben erzwingen

Die Inferenzmaschine ist selbst ein LLM. Sie ist dafür verantwortlich, die endgültige Antwort gemäß der Agenten-basierten Schleife zu generieren. Dieser Ansatz ist erforderlich, um Anweisungen des Agenten durchzusetzen, die Leitplanken für die Generierung von Antworten bieten, oder um die Ergebnisse mehrerer Aktionen, die Teil der Agenten-basierten Schleife waren, zu kombinieren, um die Benutzeranforderung zu erfüllen.

Wenn jedoch davon ausgegangen wird, dass nur eine Prompt-Aktion ausgeführt wurde, kann eine Anweisung implementiert werden, die den Agenten anweist, die Ausgabe einer Aktion niemals zu ändern. Dadurch wird ein vorhersehbareres und zuverlässigeres Verhalten der Agenten gewährleistet.

Die strikte Einhaltung dieser Vorgaben in genehmigten Prompt-Vorlagen ist in bestimmten Szenarien von entscheidender Bedeutung, insbesondere wenn Konsistenz, Compliance und vordefinierte Nachrichten wichtig sind. Dies sind zwei Beispiele:

• Regulierte Branchen: Unternehmen, die in stark regulierten Branchen (wie Finanzen, Gesundheitswesen oder Rechtswesen) tätig sind, benötigen oft eine strenge Kontrolle über die gesamte Kommunikation mit Kund:innen. Genehmigte Eingabeaufforderungsvorlagen stellen sicher, dass die Antworten den gesetzlichen und regulatorischen Anforderungen entsprechen, wodurch das Risiko von Fehlinterpretationen, Haftungsansprüchen oder der Verbreitung unrichtiger Informationen minimiert wird.
• Vorab getestete und validierte Antworten: Wenn Eingabeaufforderungsvorlagen strengen Tests und Validierungen unterzogen wurden, um Genauigkeit, Wirksamkeit und die gewünschten Ergebnisse sicherzustellen. Abweichungen von diesen Vorlagen können deren Wirksamkeit und Wert beeinträchtigen. Die strikte Einhaltung garantiert, dass die bewährten Botschaften konsistent vermittelt werden.

Diese Anweisung schränkt die Freiheit des Agenten ein, das Ergebnis von Aktionen zu ändern. Stellen Sie sicher, dass die Anweisung auf die Ausgabe der Eingabeaufforderungsvorlage (z. B. „promptResponse“) verweist, wie in diesem Plan Tracer gezeigt.

In diesem Fall kann die Anweisung also lauten:

„ Ausgabe von promptResponse nicht ändern, unabhängig vom Kanal des Agenten. “

Einschränkungen bei der Durchsetzung strenger Einhaltung:

Wenn eine Interaktion mehrere unterschiedliche Aktionen des Agenten erfordert, ist die strikte Einhaltung einer einzigen Vorlage nicht durchführbar. In diesem Szenario muss die Inferenzmaschine diese Aktionen zu einer einzigen Antwort zusammenfassen und daher jede einzelne Aktion ändern.

Optimale Anzahl von Anweisungen

Basierend auf den allgemeinen LLM-Eigenschaften liegt die Zielanzahl der Anweisungen zwischen 5 und 10, abhängig von der Komplexität der Anweisungen und der Interaktion zwischen den Anweisungen. Diese Eigenschaften der Anweisungen beeinflussen die Anzahl der Anweisungen, denen die Inferenzmaschine folgen kann:

• Klarheit und Spezifität: Klar definierte Regeln sind einfacher zu befolgen.
• Konflikte zwischen Regeln: Wenn Regeln einander widersprechen, ist zusätzliche Logik erforderlich, um sie zu lösen.
• Länge und Komplexität: Wenn jede Regel eine tiefe Inferenz erfordert, sollten Sie in Erwägung ziehen, sie in kleinere Anweisungen aufzuteilen.

Wenn eine Anweisung unbedingt befolgt werden muss, fügen Sie Begriffe hinzu, die deren Wichtigkeit widerspiegeln:

• Dringlichkeit und Wichtigkeit (sofort, dringend, kritisch, essentiell, obligatorisch)
• Autorität und Durchsetzung (erforderlich, obligatorisch, streng durchgesetzt)
• Konsequenzen und Warnungen (Verstöße führen zu, Nichteinhaltung führt zu, Nichteinhaltung kann zur Folge haben, es gelten strenge Strafen, Nulltoleranz)
• Klarheit und Direktheit (muss, verboten, verboten, nicht erlaubt, immer/nie)

Die Kontextbildung von Antworten in Daten verbessert die Zuverlässigkeit und Vertrauenswürdigkeit der Agenten erheblich. Kontextbasierte Antworten beruhen auf Fakten und nicht auf Spekulationen oder veraltetem Knowledge. Abruf-erweiterte Generierung (RAG) ist eine weit verbreitete Technik, die es einem Agenten ermöglicht, auf eine Knowledge Base zuzugreifen und diese zu nutzen, um genauere und kontextbezogene Antworten zu formulieren. Basierend auf der Anfrage eines Benutzers ruft ein Agent mithilfe von Abruf-erweiterter Generierung (RAG) relevante Informationen aus geeigneten Datenquellen ab und ergänzt den Prompt mit diesen Informationen, bevor er ihn an das LLM übermittelt. Ein Agent, der Abruf-erweiterte Generierung (RAG) verwendet, bietet eine höhere Qualität, Genauigkeit und allgemeine Nützlichkeit der Agent-Interaktionen, was das Vertrauen und die Zufriedenheit der Benutzer erhöht. Best Practice für die Abruf-erweiterte Generierung (RAG) werden ausführlich in einem öffentlich zugänglichen Whitepaper mit dem Titel Agentforce und RAG: Best Practice für bessere Agenten beschrieben.

Knowledge im Vergleich zu Anweisungen

Die Unterscheidung zwischen Knowledge und Anweisungen ist wichtig, um das richtige Gleichgewicht zwischen Anleitung und Flexibilität zu finden, da sie unterschiedliche Zwecke – Erfüllung – erfüllen:

• Knowledge: Stellen Sie sich Knowledge als eine Bibliothek mit Büchern vor, auf die der Agent bei der Generierung seiner Antworten Zugriff hat. Beispiele hierfür sind Dokumente, Wissensartikel und Whitepaper. Beachten Sie, dass diese Richtlinien und allgemeine Unternehmensregeln enthalten können. Knowledge kann sich auch auf Transaktionsdateien beziehen, wie E-Mails, Transkriptionen von Anrufen und sogar die Historie von (Agenten-)Unterhaltungen. Schließlich umfasst Knowledge auch Langtextfelder in strukturierten Daten. Knowledge wird dem Agenten in der Regel über Abruf-erweiterte Generierung (RAG) zur Verfügung gestellt.
• Anweisungen: Betrachten Sie Anweisungen als einen Mindestkatalog von Regeln, die dem Agenten verdeutlichen, wann er welche Aktion ausführen soll. Anweisungen können auch Leitplanken für die gesamte Unterhaltung setzen, wie beispielsweise den erforderlichen Tonfall. Oft können Anweisungen prägnanter und flexibler gestaltet werden, ohne Klarheit odes Intents zu beeinträchtigen. Anstatt ein starres Skript mit spezifischen Antworten für jedes mögliche Kund:innen-Szenario bereitzustellen, sollten Sie allgemeine Richtlinien und Grundsätze implementieren, die dem Agent helfen, in verschiedenen Situationen die richtigen Aktionen zu ergreifen.

Abruf-erweiterte Generierung (RAG)

Abruf-erweiterte Generierung (RAG) fungiert als intelligente Datenschicht für Knowledge. Agenten erhalten Zugriff auf Informationen in verschiedenen Formaten und relevante Textfragmente zur Beantwortung von Fragen. Mit Abruf-erweiterter Generierung (RAG) können Agenten genauere LLM-Antworten erhalten, ohne die LLM-Prompt mit überflüssigen Inhalten zu überladen oder ihr Kontextfenster zu überschreiten.

Zur Laufzeit führt die abruf-erweiterte Generierung (RAG) drei Schritte aus:

1. Abruf: Das KI-System durchsucht eine große Datenbank oder Knowledge, um relevante Informationen für den LLM-Prompt zu sammeln. Dies geschieht mithilfe der semantischen Suche, einer im Vergleich zur herkömmlichen keywordbasierten Suche ausgefeilteren Technik. Im Gegensatz zur Stichwortsuche, die exakte Begriffe abgleicht, versteht die semantische Suche die Bedeutung oder den Kontext hinter den Wörtern. Der Abruf ermittelt relevante Informationen auf der Grundlage von Konzepten oder Beziehungen zwischen Begriffen, anstatt nur nach exakten Wortübereinstimmungen zu suchen. Auch die Stichwortsuche kann bei diesem Abrufprozess eine Rolle spielen und die semantische Suche durch Stichwortabgleich für bestimmte Fachbegriffe oder Namen verstärken. Dieser Suchtyp wird als hybride Suche bezeichnet.
2. Erweiterung: Die abgerufenen Informationen werden dem Prompt hinzugefügt.
3. Generierung: Der LLM generiert dank des mit Abruf-erweitertem Knowledge angereicherten Prompts eine kontextbezogene und genauere Antwort.

In Agentforce kann die abruf-erweiterte Generierung (RAG) mit oder ohne Eingabeaufforderungsvorlage verwendet werden:

1. Prompt-basierte Abruf-erweiterte Generierung (RAG): Bei diesem Ansatz befinden sich die Anweisungen, die festlegen, wie die Antwort generiert werden soll, in den Prompt-Anweisungen in einer Eingabeaufforderungsvorlage. In diesem Fall hängt die Antwort vollständig davon ab, was das LLM generiert. Abgesehen von den Prompt-Anweisungen gibt es Möglichkeiten, die Antwort zu beeinflussen, beispielsweise über die LLM-Konfigurationseinstellungen in Einstein Studio, aber das Ergebnis ist dennoch nicht deterministisch.
2. Inferenzmaschine-basierte Abruf-erweiterte Generierung (RAG): Statt eine Eingabeaufforderungsvorlage zu verwenden, verwendet der Agent eine Aktion, die Chunks (über einen Flow oder eine Apex-Klasse) abruft und sie in einer Variablen speichert (siehe nächsten Abschnitt). Bei diesem Ansatz generiert die Infernzine-Maschine (anstelle des LLM) direkt Antworten, die durch Kontextbildung auf den abgerufenen Daten erfolgen. Die Anweisungen, die die Generierung von Antworten regeln, sind Agentenanweisungen und keine Eingabeaufforderungsvorlage. Die Variable, die den abgerufenen Inhalt enthält, kann weiterhin explizit als Eingabe an eine Aktion übergeben werden. Es kann auch an die Inferenzmaschine übergeben werden, indem ihr Standardzugriff auf den Inhalt der Variablen gewährt wird. Dieser Ansatz hat Vor- und Nachteile. Es besteht möglicherweise das Risiko, dass die Inferenzmaschine mit Inhalten und Verantwortung überlastet wird. Darüber hinaus sind die Parameter des Inferenzmaschinen-LLM im Gegensatz zu einem Prompt nicht konfigurierbar. Andererseits kann die Inferenzmaschine ihre Antwort sowohl anhand der abgerufenen Teile als auch anhand der Unterhaltung generieren.

Die empfohlene Methode ist Option 1. Sie reduziert die Anzahl der Aufgaben, die die Inferenzmaschine ausführen muss, und verbessert dadurch die Qualität ihrer Antworten. Im nächsten Abschnitt geht es um eine Ausnahme von dieser Regel, bei der der Inhalt während der gesamten Unterhaltung erhalten bleibt und daher explizit einer Aktion zugeordnet wird.

Best Practices für Abruf-erweiterte Generierung (RAG)

• Vermeiden von geskripteten Anweisungen zur Abruf-erweiterten Generierung (RAG): Anstatt Anweisungen direkt mit bestimmten Artikeln für bestimmte Fragen zu verknüpfen, nutzen Sie die Intelligenz von Abruf-erweiterter Generierung (RAG), um dynamisch die relevanteste Datenquelle und das präziseste Textfragment zu finden. Der Abgleichprozess der Abruf-erweiterten Generierung (RAG) basiert auf einem umfassenderen Verständnis der Frage und nicht nur auf einer exakten Zuordnung von Frage und Quelle.
• Themen konsolidieren: Gruppieren Sie verwandte Fragenkategorien unter einem einzigen Thema. Abruf-erweiterte Generierung (RAG) kann relevante Antworten basierend auf dem Fragetyp selbst innerhalb eines breiteren Themas effektiv identifizieren. Produktprobleme wie Wartungs- und Batterieprobleme können beispielsweise in einem umfassenderen Thema zusammengefasst werden.

Speichern der Ausgabe der Abruf-erweiterten Generierung (RAG)in einer Variablen: Wenn die Anzahl der Interaktionsgrenzen erreicht sein könnte, die Ausgabe der Abruf-erweiterten Generierung (RAG) in einer Variablen speichern. Dadurch bleiben die Informationen für Kontrolle von Agenteninteraktionen über den Standardgrenzwert hinaus zugänglich. Ein Beispiel dafür finden Sie im nächsten Abschnitt.

Bestimmte Geschäftsprozesse erfordern eine noch vorhersehbarere Ausführung, wie beispielsweise die Durchsetzung einer bestimmten Aktion oder Bedingungen für das Auslösen von Aktionen oder Themen.

Um dieses deterministische Verhalten zu erreichen, können Variablen verwendet werden. Variablen fungieren als strukturierte Form des Kurzzeitgedächtnisses eines Agenten, die als Ein- oder Ausgänge für Aktionen dienen können. Darüber hinaus kann der Status einer Variablen das Auslösen bestimmter Themen und Aktionen steuern.

Wege, wie Variablen die Determination unterstützen

Variablen können auf folgende Weise dazu beitragen, einen geführten Determinismus von Agenten zu erreichen:

1. Persistente dynamische Kontextbildung: Variablen ermöglichen es Agenten, ihr Verständnis der Welt kontinuierlich zu aktualisieren und gleichzeitig wichtige Informationen beizubehalten, die von nachfolgenden Interaktionen unberührt bleiben. Diese Methode stellt sicher, dass wichtige Informationen, bei denen es sich um unstrukturierte Daten handeln kann, die über RAG abgerufen werden, oder um strukturierte Daten wie Nutzerprofilinformationen, während der gesamten Unterhaltung unabhängig von deren Länge erhalten bleiben.
2. Ein-/Ausgaben für Aktionen: Variablen können sowohl als Eingabe als auch als Ausgabe für Aktionen verwendet werden. Die Aktion bezieht sich explizit auf Variablen, und die Ausführung der Aktion hängt nicht von der Inferenzmaschine für die Festlegung dieser Ein- und Ausgänge ab, was den Determinismus des Agenten erhöht.
3. Filterung: Variablen können verwendet werden, um die bedingte Ausführung von Aktionen oder Themen zu bestimmen. Variablen ermöglichen einen spezifischen Flow zwischen Aktionen und Determinismus bei der Ausführung von Aktionen. Diese Funktion ist besonders wichtig für Sicherheitsregeln, bei denen Aktionen nicht initiiert werden können, wenn bestimmte Eingabevariablen, wie z. B. E-Mail-Adressen, nicht überprüft wurden.

Variablentypen in Agentforce

Agentforce hat zwei Arten von Variablen:

• Kontextvariablen sind vom System generierte Variablen, die Informationen über die Nutzer:innen und die Unterhaltungen enthalten.
• Benutzerdefinierte Variablen können von Nutzer:innen instanziiert werden. Sie enthalten jede Art von Informationen, die für eine der drei Möglichkeiten verwendet werden, wie Variablen den Determinismus unterstützen.

Variablentypen unterstützen die folgenden Funktionen:

Schauen wir uns die Variablen genauer an, indem wir ein Beispiel für einen Anwendungsfall geben: Einen Agenten für die Fehlerbehebung mit Kundenkontakt. In diesem Beispiel werden Variablen für alle drei Zwecke verwendet: persistente dynamische Kontextbildung, Aktionsein-/ausgaben und Filterung.

In diesem Beispiel hilft der Agent Kund:innen, ein technisches Geräteproblem zu beheben. Die Fehlerbehebung umfasst in der Regel mehrere Schritte. Der Agent sollte eine Service-Experience bieten, die die Arbeit von menschlichen Servicemitarbeiter:innen nachahmt. Dazu sollte der Agent den Kund:innen nicht alle Schritte zur Fehlerbehebung auf einmal bereitstellen. Stattdessen sollte er Schritt-für-Schritt-Anweisungen bieten, zusammen mit der Möglichkeit, zwischen den Schritten zu navigieren (einschließlich der Rückkehr zu zuvor behandelten Schritten), je nachdem, wie die Kund:innen reagieren.

Eine Herausforderung dabei ist die Fähigkeit des Agenten, alle Schritte zur Fehlerbehebung während der gesamten Unterhaltung im Gedächtnis zu behalten. Angesichts des begrenzten Speichers des Agenten aufgrund der begrenzten Anzahl von Interaktionen, die er speichern kann, können diese Schritte aus dem Kontext für die Inferenzmaschine entfernt werden, wenn die Unterhaltung zu lang wird.

Die Lösung für dieses Problem besteht darin, eine Variable zu verwenden, um die Inferenzmaschine dynamisch über alle Schritte der Fehlerbehebung hinweg zu Kontextbildung zu verwenden. Durch das Abrufen der Informationen und deren Speicherung in einer Variablen bleiben diese während der gesamten Unterhaltung verfügbar und können aktualisiert werden. Die Inferenzmaschine verwendet die in dieser Variablen gespeicherten Informationen für die dynamische Kontextbildung.

In diesem Beispiel umfasst ein Thema zwei Aktionen. Diese beiden Aktionen sind erforderlich, um einen konsistenten Datenfluss zu gewährleisten. Die erste Aktion wird verwendet, um die Variable zu füllen, die alle Schritte zur Fehlerbehebung enthält. Die zweite Aktion verwendet diese Variable während der Fehlerbehebung selbst.

1. Aktion 1: „Problemlösungsschritte auffüllen“. Dies ist die erste Aktion, die durch die erste Einführung des Agenten in das Problem ausgelöst wird. Sie nutzt Abruf-erweiterte Generierung (RAG), um alle notwendigen Lösungsschritte aus einer indexierten Knowledge Base zu extrahieren. Die Aktion speichert die resultierende Ausgabe in einer Variablen namens „Lösungsschritte“.
2. Aktion 2: „Verwenden während der Lösung eines Problems“. Dies ist eine Aktion, die auf einem Prompt basiert, der den wahrscheinlichsten nächsten Schritt zur Fehlerbehebung ausgibt, der während des Fehlerbehebungsprozesses verwendet werden soll. Der Agent wird angewiesen, diese Aktion zu verwenden, während er gerade dabei ist, ein Problem zu lösen.

Die ursprüngliche Kundenfrage wird in beide Aktionen eingegeben. Die zweite Aktion hat einen weitere Eingabe: Den Inhalt der Variablen „Lösungsschritte“. Diese Variable wurde durch die erste Aktion festgelegt. Beachten Sie, dass die zweite Aktion die Schritte zur Fehlerbehebung nicht selbst abruft, sondern sie stattdessen als Eingabe aus der ersten Aktion über die Variable erhält. Das folgende Diagramm zeigt den Daten-Flow zwischen diesen beiden Aktionen.

Die Aktion „Während der Problemlösung verwenden“ bezieht sich immer auf die ursprünglichen Schritte zur Fehlerbehebung, die von der Aktion „Problemlösungsschritte“ abgerufen wurden. Dieser Daten-Flow stellt sicher, dass die Schritte zur Fehlerbehebung unabhängig von der Länge der Unterhaltung konsistent und stets verfügbar sind.

Um die in diesem Beispiel definierten Aktionen auszuführen, sind spezifische Anweisungen erforderlich, wie beispielsweise „Führe immer zuerst die ‚Schritte zum Ausfüllen der Lösung‘ aus“. Da die von Agenten verwendeten LLMS jedoch nicht deterministisch sind, kann dies in bestimmten Fällen zu einer anderen Reihenfolge führen. Um eine deterministische Ausführungsreihenfolge zu gewährleisten, führen wir bedingte Filter für diese Variablen ein, um die richtige Aktionsreihenfolge durchzusetzen. Der Agent liest den Wert der Variablen „Lösungsschritte“ und definiert zwei Filter, die darauf basieren, ob diese Variable einen Wert hat oder nicht.

• Die Aktion „Problemlösungsschritte“ kann nur ausgeführt werden, wenn die Variable „Lösungsschritte“ leer ist.
• „Während der Problemlösung verwenden“ kann nur ausgeführt werden, wenn die Variable „Lösungsschritte“ gefüllt ist.

Diese bedingten Filter erzwingen jetzt deterministisch die Reihenfolge der Ausführung von Aktionen: „Während der Problemlösung verwenden“ muss warten, bis „Lösungsschritte“ ihre Arbeit abgeschlossen hat, um sicherzustellen, dass die Variable „Lösungsschritte“ immer einen Wert hat.

Um die korrekte Ausführung der Aktion zu gewährleisten, ist eine dritte Aktion erforderlich, um die Variable „Lösungsschritte“ zurückzusetzen, wenn das Problem vollständig gelöst ist. Infolgedessen wird der Agent in den erforderlichen Status zurückgesetzt, um bei einem möglichen neuen, anderen Problem zu helfen. Diese dritte Aktion heißt „Lösungsvariable leeren“. Das vollständige Aktionsdiagramm ist unten dargestellt.

Variablen sind entscheidend, damit unser Agent zur Fehlerbehebung Kund:innenprobleme lösen kann, indem sie Folgendes ermöglichen:

• Persistente dynamische Kontextbildung: Variablen speichern Schritte zur Fehlerbehebung und stellen sicher, dass sie während der gesamten Unterhaltung verfügbar sind, unabhängig von der Länge oder Anzahl der Interaktionen. Dadurch wird verhindert, dass der Agent den Kontext vergisst.
• Daten-Flow: Variablen erleichtern den Daten-Flow zwischen Aktionen. Die Variable „Lösungsschritte“ speichert beispielsweise die abgerufenen Schritte zur Fehlerbehebung aus der Aktion „Problemlösungsschritte“ und stellt sie als Input für die Verwendung in der Mitte der Problemlösung bereit.
• Determinismus: Variablen können als Filter verwendet werden, um eine bestimmte Reihenfolge der Ausführung von Aktionen durchzusetzen. Beispielsweise wird die Aktion „Während der Problemlösung verwenden“ nur ausgeführt, wenn die Variable „Lösungsschritt“ gefüllt ist, um sicherzustellen, dass die Aktion „Problemlösungsschritte“ zuerst ausgeführt wird.

Im Zeitalter der generativen KI bleibt die prädiktive KI von entscheidender Bedeutung, da sie die grundlegende Intelligenz bildet, die generative Fähigkeiten steuert, verbessert und in einen Kontext setzt. Während generative KI sich auf die Erstellung neuer Inhalte wie Texte, Bilder oder Videos konzentriert, erstellen prädiktive KI-Modelle Prognosen über die Zukunft auf der Grundlage von Eingaben aus Echtzeit-Geschäftsdaten. Beispiele für Geschäftsergebnisse sind die Wahrscheinlichkeit der Abwanderung von Kund:innen, die Wahrscheinlichkeit von Konversionen, die Wahrscheinlichkeit einer Eskalation von Kundenvorgängen, der Customer Lifetime Value und die Klassifizierung von Kundenvorgängen. Prognosen können dabei helfen, die Bedürfnisse der Nutzer:innen zu antizipieren, Ergebnisse zu personalisieren, Entscheidungen zu treffen und die Relevanz von Inhalten in Echtzeit zu optimieren – all dies durch die Analyse von Trends und Zahlen. Beispielsweise sorgt prädiktive KI in Anwendungen wie personalisiertem Lernen, Gesundheitswesen oder Finanzplanung dafür, dass generative Ergebnisse mit individuellen Kontexten und wahrscheinlichen Zukunftsszenarien übereinstimmen. Zusammen schaffen prädiktive KI und generative KI eine starke Synergie, indem sie Weitsicht mit Kreativität verbinden, um intelligentere, anpassungsfähigere und wirkungsvollere Technologielösungen voranzutreiben.

So integrieren Sie prädiktive Modellausgabe in Agenten-Workflows

Um die Ergebnisse des Vorhersagemodells in die agentenbasierten Arbeitsabläufe zu integrieren, fügen Sie einfach Vorhersagemodell-Aktionen zu den Agentforce-Datenbeständen hinzu. Model Builder bietet die Möglichkeit, Vorhersagemodelle zu erstellen oder zu registrieren (BYO). Diese Modelle werden dann vom Agenten für Vorhersagen verwendet. Die daraus resultierenden Vorhersagen (sowie Prädiktoren) können in benutzerdefinierten Variablen gespeichert werden. Agenten können diese variablen Werte als Eingaben verwenden und die Ausführung bestimmter Aktionen und Themen davon abhängig machen.

Beispiele für Anwendungsfälle, die in prädiktive Modelle integriert sind

• Segmentierung: Führen Sie eine Mehrklassenklassifizierung für die Segmentierung von Kund:innen durch und verwenden Sie das resultierende Segment, um bestimmte Aktionen zu filtern. Reservieren Sie beispielsweise Prämienaktionen für Premium-Kund:innen.
• Eskalationswahrscheinlichkeit: Prognostizieren Sie die Wahrscheinlichkeit einer Eskalation für einen Servicefall. Wenn diese Wahrscheinlichkeit einen bestimmten Schwellenwert überschreitet, lassen Sie die Ausführung von Aktionen zu, die den Fall schneller lösen, oder eskalieren Sie sie schneller an menschliche Agenten.
• CPG: Planen Sie eine Werbeaktion nur, wenn die Umsatzsteigerung (Punktzahl berechnet anhand eines Vorhersagemodells) einen bestimmten Schwellenwert überschreitet.
• Commerce: Schlagen Sie ein Produkt nur dann vor, wenn die Kaufneigung einen bestimmten Schwellenwert überschreitet.

Bestimmte Geschäftsprozesse müssen in einer genauen Reihenfolge ausgeführt werden und erfordern während der Ausführung keine Benutzereingabe. In diesem Fall kann ein vordefinierter Ablauf von Schritten über Flows, APIs oder Apex erzwungen werden. Wenn Sie einen bestehenden Flow haben, der in der Produktion verwendet wird, ist das ein guter Hinweis darauf, dass er vom Agenten für die Ausführung dieses Geschäftsprozesses beibehalten und verwendet werden kann. Alle folgenden Beispiele enthalten vordefinierte Abfolgen von Schritten, die der Agent ohne Benutzereingabe ausführen kann. Das agentenbasierte Verhalten besteht in diesem Fall darin, zu identifizieren, welcher deterministische Prozess ausgeführt werden soll, wie die erforderlichen Eingaben gesammelt und wie die Ausgaben interpretiert und verarbeitet werden.

Geschäftsprozesse mit vielen sequenziellen Schritten (mehr als drei, als Faustregel) und vielen Abhängigkeiten von Variablen werden zu komplex und umständlich, um sie mit Anweisungen durchzusetzen. In diesem Kundenvorgang ist es möglich, sie einfach mithilfe der in diesem Abschnitt aufgeführten deterministischen Aktion fest zu codieren. Beachten Sie abschließend, dass diese Implementierungen nicht deterministische Elemente enthalten können, z. B. das Aufrufen von LLMS mit aufgelösten Eingabeaufforderungsvorlagen. Daher sind sie nicht unbedingt vollständig deterministisch, End-to-End, und sie können immer noch das gewünschte Maß an Fließfähigkeit zeigen, für das Agenten bekannt sind.

Die Abfolge der Schritte in einer Marketing-Journey unterliegt festen Regeln und hängt nicht von den Eingaben der Nutzer:innen in der Unterhaltung ab. Daher kann der Flow als Agentforce-Aktion verwendet werden. Eine aufrufbare Aktion kann erstellt werden, um Hintergrund- oder ereignisausgelöste Aufgaben aus einer Lösungskomponente zu erledigen, die einen Flow oder eine Apex-Klasse aufrufen kann. Fügen Sie einer Flow- oder Apex-Klasse eine aufrufbare Aktion hinzu und geben Sie die Aufgabe an, die der Agent abschließt, sowie die Bedingungen, die den Agent auslösen. Aufrufbare Aktionen können auch die Kontextvariablen des Agenten tragen und wichtige Informationen weiterleiten.

Flows von Salesforce können verwendet werden, um Routineaufgaben zu automatisieren, z. B. das Erstellen von Follow-up-Aufgaben, das Versenden von Erinnerungs-E-Mails oder das Aktualisieren von Datensätzen. Flows machen die Arbeit effizienter und produktiver. Agenten können Flows auch mit Flow-Aktionen ausführen. Aufgrund ihres Determinismus sind Flows eine großartige Möglichkeit, agentenbasiertes Verhalten zu lenken, wenn ein Geschäftsprozess in einer bestimmten Sequenz ausgeführt werden muss. Ein guter Hinweis darauf, dass eine Flow-Aktion bevorzugt wird, ist, wenn das Thema sonst Anweisungen wie „zuerst tun, dann tun und schließlich tun“ enthalten würde. Die Durchsetzung von Sequenzen aus mehr als drei Schritten ist mühsam, über Anweisungen und Variablen zu verwalten.

Flows können auch nicht deterministische Elemente enthalten, indem sie Prompts aufrufen. Ein Prompt-Knoten im Flow ruft eine Prompt-Vorlage auf und sammelt die Antwort, die an andere Elemente im Flow weitergeleitet werden kann. Diese weiteren Elemente können wiederum Prompt-Knoten sein, z. B. die vorherige Antwort zusammenfassen und so eine Kette von Prompts erstellen. Dies ist besonders nützlich, wenn die Regeln für die Prompt-Verkettung durch feste Elemente definiert sind und nicht von der Benutzereingabe abhängen. Ein Beispiel hierfür ist die agentenbasierte Abruf-erweiterte Generierung (RAG), bei der eine vordefinierte Abfolge von Abrufprogrammen oder Prompts in einem Flow auf bestimmte Datenquellen in einer bestimmten Reihenfolge zugreifen kann, beispielsweise indem zunächst Daten aus dem Länderdokument eines Benutzers abgerufen werden, bevor bei Bedarf andere Quellen konsultiert werden. Dieser Kettenmechanismus setzt eine zuverlässige und geordnete Extraktion relevanter Informationen durch.

Ähnlich wie Flows sind Apex- und API-Aktionen insofern deterministisch, als eine vordefinierte Sequenz von Aktionen codiert werden kann. Diese Aktionen können nicht deterministische Elemente enthalten, z. B. das Aufrufen von Eingabeaufforderungsvorlagen oder LLM-Aufrufen. In ihrer Definition führen sie diese Schritte jedoch deterministisch aus, was die agentenbasierte Variabilität reduziert, indem sie die Aktion zur richtigen Zeit aufrufen, den erforderlichen Input sammeln und den Output verarbeiten. Diese Verantwortlichkeiten müssen immer noch durch agentenbasierte Anweisungen geregelt werden, also sind sie nicht deterministisch. APEX- und API-Aktionen sind das Pro-Code-Äquivalent zu Flow-Aktionen.

Um ein zuverlässiges Agentenverhalten zu erreichen, ist ein strukturierter Ansatz erforderlich, der die inhärente Flexibilität von großen Sprachmodellen (LLMS) mit der Notwendigkeit einer unternehmensweiten Kontrolle und Vorhersehbarkeit in Einklang bringt. In diesem Artikel wurde eine mehrschichtige Strategie zur Umsetzung des „geführten Determinismus” skizziert, die die Schaffung von Agenten ermöglicht, die nicht nur intelligent und autonom sind, sondern auch durchgehend präzise arbeiten und auf die Geschäftsprozesse abgestimmt sind. Der Schlüssel zum Aufbau dieser vertrauenswürdigen Agenten liegt in der schrittweisen Implementierung von Kontrollmechanismen, von denen jeder eine neue Ebene der Zuverlässigkeit hinzufügt:

1. Grundlegendes Thema- und Aktionsdesign: Der Prozess beginnt mit der sorgfältigen Organisation der Fähigkeiten eines Agenten in verschiedene Themenbereiche und granulare Aktionen. Durch die Erstellung semantisch eindeutiger und logischer Gruppierungen verringern wir das Risiko, dass die Inferenzmaschine verwirrt wird und die falsche Aktion auswählt, was die Grundlage für vorhersehbares Verhalten schafft.
2. Explizite Anweisungen: Auf dieser Grundlage bieten die Anweisungen für Agenten die nächste Stufe der Kontrolle. Diese Anweisungen dienen als Leitplanken und Richtlinien, die der Inferenzmaschine vorgeben, wie sie Aktionen in ihrem Zuständigkeitsbereich ausführen, Unternehmensrichtlinien einhalten und den Flow der Unterhaltung steuern soll, ohne die Interaktion übermäßig zu skripten.
3. Daten-Kontextbildung mit Abruf-erweiterter Generierung (RAG): Zur Verbesserung der Antworten hinsichtlich Fakten und Relevanz verbindet die Datenkontextbildung den Agenten mit verifizierten Wissensquellen. Ansätze wie Abruf-erweiterte Generierung (RAG) ermöglichen es Agenten, in Echtzeit genaue Informationen aus Wissensartikeln und Unternehmensdaten abzurufen, wodurch Spekulationen minimiert und die Vertrauenswürdigkeit erhöht werden.
4. Kontext- und Statusverwaltung mit Variablen: Bei komplexeren und zustandsbehafteten Interaktionen führen Variablen eine Form des Kurzzeitgedächtnisses ein. Sie ermöglichen es dem Agenten, den Kontext beizubehalten, wichtige Daten während einer Unterhaltung zu speichern und eine deterministische Abfolge von Operationen durchzusetzen, indem die Ausführung von Aktionen vom Status einer Variablen abhängig gemacht wird.
5. Deterministische Ausführung mit Flows, Apex und APIs: Bei Geschäftsprozessen, die eine starre, unveränderliche Ausführung erfordern, wird das höchste Maß an Kontrolle durch deterministische Aktionen erreicht. Durch die Integration von Agenten mit Salesforce Flow, Apex und APIs können vordefinierte Abläufe präzise ausgeführt werden, wodurch die Abhängigkeit von Eingaben der Nutzer:innen oder LLM-Eingaben für kritische Schritte entfällt.

Durch die systematische Anwendung dieser Kontrollebenen – von durchdachtem Design und klaren Anweisungen bis hin zu Daten-Kontextbildung, Statusverwaltung und deterministischer Prozessautomatisierung – können Entwickler die Herausforderungen beim Aufbau zuverlässiger Agenten mit konsistenten Geschäftsergebnissen erfolgreich meistern. Dieser strategische Ansatz stellt sicher, dass Agentforce-Agenten vertrauenswürdig sind, um wichtige Geschäftsfunktionen mit der Genauigkeit und Konsistenz auszuführen, die in der Unternehmenslandschaft erforderlich sind.