Was ist eine Reasoning Engine?

Stellen Sie sich vor, KI könnte Routineaufgaben wie das Verfassen von E-Mails, Erstellen von Kampagnenbriefings oder Webseiten, Einholen von Informationen über Wettbewerber, Analysieren von Daten und Zusammenfassen von Anrufen automatisieren. Die Automatisierung solcher sich wiederholenden Aufgaben kann große Mengen wertvoller Mitarbeiterkapazitäten freisetzen und ihnen mehr Zeit für komplexere und kreativere Aktivitäten verschaffen. Dadurch können sie sich beispielsweise eingehender mit strategischen Aufgaben und dem Aufbau von Kundenbeziehungen auseinandersetzen.

Die Automatisierung solcher routinemäßigen Aufgaben erfordert die Simulation menschlicher Intelligenz, indem die KI als Argumentationsmaschine eingesetzt wird. Das ist generative KI auf einer anderen Ebene. Neben der Kommunikation in natürlicher Sprache wird KI auch bei der Problemlösung und Entscheidungsfindung helfen. Das System lernt aus den bereitgestellten Informationen, bewertet Vor- und Nachteile, prognostiziert Ergebnisse und trifft logische Entscheidungen. Angesichts der technologischen Fortschritte der letzten Zeit stehen wir am Anfang einer solchen KI-Fähigkeit , und sie hat viele Menschen in der Wissenschafts- und Geschäftswelt begeistert.

Eine Reasoning Engine ist ein KI-System, das die menschliche Entscheidungs- und Problemlösungsfähigkeit auf der Grundlage bestimmter Regeln, Daten und Logik nachahmt. Es gibt drei Arten von menschlichen Argumentations- oder Inferenzmechanismen, die Reasoning-Engines tendenziell abbilden:

1. Deduktives Denken – zieht eine Schlussfolgerung, die auf universellen und allgemein akzeptierten Fakten basiert. Zum Beispiel: „Alle Vögel legen Eier. Eine Taube ist ein Vogel. Deshalb legen Tauben Eier."
2. Induktives Denken – leitet eine Schlussfolgerung aus bestimmten Instanzen oder Stichproben ab. Das könnte so aussehen: „Jeder Hund, den ich treffe, ist freundlich. Daher sind alle Hunde freundlich!“
3. Abduktives Denken – zieht eine wahrscheinliche Schlussfolgerung aus unvollständigen (und oft mehrdeutigen) Informationen, wie zum Beispiel: „Überall auf dem Boden liegen zerrissene Papiere und unser Hund war allein in der Wohnung. Also muss der Hund die Papiere zerrissen haben.“

Inzwischen wissen Menschen auf der ganzen Welt, dass Large Language Models (LLMs) spezielle Modelle des maschinellen Lernens sind, die aus den Daten, mit denen sie trainiert werden, nützliche neue Inhalte generieren können. Darüber hinaus zeigen die LLMs heute auch die Fähigkeit, Zusammenhänge zu verstehen, logische Schlussfolgerungen aus Daten zu ziehen und verschiedene Informationen zu verbinden, um ein Problem zu lösen. Diese Eigenschaften ermöglichen es einem LLM, als Reasoning Engine zu fungieren.

Wie löst also ein LLM ein gängiges betriebswirtschaftlich-mathematisches Problem, indem es Informationen auswertet, einen Plan erstellt und ein bekanntes Regelwerk anwendet?

Nehmen wir an, eine Coffeeshop-Besitzerin möchte wissen, wie viele Kaffees sie pro Monat verkaufen muss, um die Gewinnschwelle zu erreichen. Sie berechnet 3,95 Euro pro Tasse, ihre monatlichen Fixkosten betragen 2500 Euro und ihre variablen Kosten pro Einheit betragen 1,40 Euro.

Das LLM wendet einen bekannten Satz mathematischer Regeln an, um systematisch die Antwort zu erhalten:

Schritt 1

Identifizieren der relevanten Werte.

Schritt 2

Berechnen des Deckungsbeitrags pro Kaffee. Der Deckungsbeitrag ist der Verkaufspreis abzüglich der variablen Kosten.
= 3,95 € – 1,40 € = 2,55 €

Schritt 3

Anwenden der Break-Even-Formel. Der Break-Even-Point ist die Fixkosten dividiert durch den Deckungsbeitrag.
= 2500 €/2,55 € = 980,39

Schritt 4:

Auf die nächste ganze Zahl aufrunden.
Break-Even-Punkt = 981 Kaffees

Die Beliebtheit der Large Language Models ist im Herbst 2022 sprunghaft angestiegen, aber Wissenschaftler:innen haben bereits seit Langem mit diesen Modellen experimentiert und verschiedene Prompts verwendet. „Prompting“ oder Prompt Engineering ist heute ein schnell wachsender Bereich, in dem ein sorgfältig erstellter Satz von Prompts (Eingabeaufforderungen) an das LLM gesendet wird, um die gewünschten Ergebnisse zu erzielen. Wenn wir Prompts verwenden, um einen logischen Plan von Schritten zum Erreichen eines Ziels zu erstellen, bezeichnen wir sie auch als „Denkstrategien“. Schauen wir uns im Folgenden einige der beliebtesten Argumentationsstrategien an:

• Chain-of-Thought (CoT): Dies ist eine der beliebtesten Argumentationsstrategien. Dieser Ansatz ahmt die Entscheidungsfindung im menschlichen Stil nach, indem er ein LLM anweist, ein komplexes Problem in einer Abfolge von Schritten zu zerlegen. Diese Strategie wird auch als „sequentieller Planer“ bezeichnet. Chain-of-Thought-Reasoning kann mathematische Textprobleme lösen, vernünftige Schlussfolgerungen ziehen und Aufgaben lösen. Ein Vorteil von CoT besteht darin, dass es Ingenieuren ermöglicht, einen Blick in den Prozess zu werfen und, falls etwas nicht funktioniert, zu identifizieren, was schiefgelaufen ist, um es zu beheben.
• Reasoning and Acting (ReAct): Diese Strategie nutzt neben den Daten, mit denen das LLM trainiert wurde, auch Informationen aus der realen Welt für die Argumentation. ReAct-basiertes Denken wird als eher menschenähnliche Aufgabenlösung angepriesen, die interaktive Entscheidungsfindung und verbales Denken beinhaltet, was zu einer besseren Fehlerbehandlung und niedrigeren Halluzinationsraten führt. Diese Form verbindet Argumentation und Handeln durch Benutzeraktionen, was die Interpretierbarkeit und Vertrauenswürdigkeit der Antworten erhöht. Diese Strategie wird auch als „Stufenplaner“ bezeichnet, da sie die Problemlösung Schritt für Schritt angeht und bei jedem Schritt auch das Feedback der Benutzer:innen einholt.
• Tree of Thoughts (ToT): Diese Variation des Chain-of-Thought-Ansatzes erzeugt bei jedem Zwischenschritt mehrere Gedanken. Anstatt nur einen Denkpfad auszuwählen, untersucht und bewertet es den aktuellen Zustand der Umgebung mit jedem Schritt, um aktiv nach vorne oder zurück zu blicken und bewusstere Entscheidungen zu treffen. Es hat sich gezeigt, dass diese Strategie CoT bei komplexen Aufgaben wie Matheaufgaben, kreativen Schreibübungen und Mini-Kreuzworträtseln deutlich übertrifft. Es wird davon ausgegangen, dass die ToT-Argumentation noch näher an einem menschlichen Entscheidungsparadigma liegt, das mehrere Optionen untersucht, Vor- und Nachteile abwägt und dann die beste Variante auswählt.
• Reasoning via Planning (RAP): Bei dieser Strategie werden LLMs sowohl als Reasoning Engine als auch als Weltmodell verwendet, um den Zustand der Umwelt vorherzusagen und die langfristigen Auswirkungen von Maßnahmen zu simulieren. Es integriert mehrere Konzepte, wie z. B. die Erforschung alternativer Denkwege, die Antizipation zukünftiger Zustände und Belohnungen und die iterative Verfeinerung bestehender Denkschritte, um eine bessere Argumentationsleistung zu erzielen. RAP-based reasoning bietet eine bessere Leistung für Aufgaben, die Planung, mathematisches Denken und logische Schlussfolgerungen erfordern.

Dies sind nur einige der vielversprechendsten Strategien von heute. Die Anwendung dieser Strategien auf eine reale KI-Anwendung ist ein iterativer Prozess, bei dem verschiedene Strategien optimiert und kombiniert werden, um die optimale Leistung zu erzielen.

Wie macht man sich LLMs in der realen Welt zunutze? Um eine Analogie zum Menschen zu ziehen: Wenn LLMs wie das Gehirn mit Denk-, Planungs- und Entscheidungsfähigkeiten sind, brauchen wir immer noch unsere Hände und Beine, um Maßnahmen zu ergreifen. Nehmen wir den „KI-Agent“ – ein KI-System, das sowohl logisches Denken als auch Handlungsfähigkeit enthält. Einige der vorherrschenden Begriffe für das Ergreifen von Maßnahmen sind „Tools“, „Plug-Ins“ und „Aktionen“.

Es gibt zwei Arten von KI-Agenten: vollautonome und halbautonome. Vollständig autonome Agenten können - wie der Name schon sagt - autonom und ohne menschliches Eingreifen Entscheidungen treffen und auch danach handeln. Diese Art von Agenten befindet sich derzeit im experimentellen Modus. Bei halbautonome Agenten stellt ein Mensch eine Anfrage. Halbautonome Agenten finden wir vor allem in KI-Anwendungen wie Konversations-Chatbots, einschließlich Agentforce Assistant, ChatGPT und Duet AI.

Ein KI-Agent besteht aus vier Schlüsselkomponenten:

1. Ziel – das primäre Ziel oder die Aufgabe des Agenten.
2. Umgebung – die Kontextinformationen, wie z. B. das Ziel, die erste Benutzereingabe, der Verlauf früherer Aktivitäten oder Konversationen, die Basisdaten für die Relevanz, das User-Feedback und die Daten, mit denen das LLM trainiert wurde.
3. Reasoning – die eingebaute Fähigkeit von LLMs, Beobachtungen zu machen, Folgeaktionen zu planen und sich neu zu kallibrieren, um zielorientierte Optimierungen durchzuführen.
4. Aktion – in der Regel externe Tools, die es einem Agenten ermöglichen, das Ziel zu erreichen. Einige gängige Beispiele für Aktionen sind Informationsabruf, Suche, Codegenerierung, Codeinterpretation und Dialoggenerierung.

Agentforce Assistant ist der fortschrittliche KI-gestützte Konversationsassistent von Salesforce, der mit den Mitarbeiter:innen und Kund:innen eines Unternehmens in natürlicher Sprache interagiert. Mitarbeiter:innen können ihn nutzen, um eine Vielzahl von Aufgaben zu erledigen und so die Produktivität in großem Umfang zu steigern. Und Verbraucher:innen können diesen Assistenten nutzen, um mit Marken zu chatten und Fragen sofort beantwortet zu bekommen, was zu einer höheren Zufriedenheit und Loyalität führt. Agentforce Assistant verwendet LLMs für sprachliche Fähigkeiten wie Verständnis und Inhaltsgenerierung sowie als Reasoning Engine zur Planung komplexer Aufgaben, wodurch die kognitive Belastung der Benutzer:innen reduziert wird.

Und so funktioniert es:

1. Benutzer:innen geben das Ziel ein, das sie erreichen möchten, z. B.: „Erstellen einer Webseite“.
2. Agentforce Assistant verwendet einen kuratierten Prompt, um die Benutzereingabe an ein sicheres LLM zu senden, um die Absicht der Benutzer:innen abzuleiten.
3. Basierend auf der Absicht sendet Agentforce Assistant einen weiteren kuratierten Prompt, um das LLM anzuweisen, einen Plan zur Erfüllung dieser Absicht zu erstellen.
4. Der erstellte Plan besteht aus einer Reihe von Aktionen, die in einer logischen Abfolge miteinander verknüpft sind. Um sicherzustellen, dass Agentforce Assistant auf vertrauenswürdige Weise agiert, wird das LLM angewiesen, Pläne ausschließlich mit Maßnahmen zu erstellen, die ihm zur Verfügung gestellt werden.
5. Sobald das LLM einen Plan zurückgibt, führt Agentforce Assistant die Aktionen in der vorgeschriebenen Reihenfolge aus, um ein gewünschtes Ergebnis zu generieren, und leitet dieses an die Benutzer:innen weiter.

Visuell sieht das so aus ...

Agentforce Assistant ermöglicht Unternehmen die Nutzung von LLMs als Reasoning Engines. Mit diesem Tool kann KI für eine Reihe von Aufgaben eingesetzt werden, für die dies noch vor wenigen Monaten nicht möglich war.

• Wenn ein Vertriebsteam, dass seine Pipeline so gut wie ausgereizt ist, kann Agentforce Assistant Datenbanken durchsuchen, um qualitativ hochwertige Leads zu identifizieren, die angesprochen werden könnten.
• Agentforce Assistant scannt potenzielle Geschäfte, um solche zu finden, die gefährdet sind, und kann die Datensätze auf Anfrage für Manager:innen zusammenfassen.
• Agentforce Assistant kann Servicemitarbeiter:innen helfen, ein Problem mit der überhöhten Abrechnung für eine:n Kund:in zu lösen und die richtigen Informationen für die Fehlerbehebung zu sammeln.
• Agentforce Assistant kann die aktuelle Kundenstimmung bei einem potenziellen Geschäft analysieren und Maßnahmen empfehlen, die zum Abschluss des Geschäfts in den nächsten drei Monaten erforderlich sind.

In diesen und vielen anderen Anwendungsfällen agiert Agentforce Assistant im Wesentlichen als halbautonomer Agent, der LLMs als Argumentationsmaschinen verwendet und Maßnahmen ergreift, um Aufgaben zu erfüllen, wenn Benutzer:innen dazu aufgefordert werden. Das ist erst der Anfang; Die nächste Herausforderung besteht darin, Agentforce Assistant vollständig autonom zu machen, so dass sie nicht nur unterstützend, sondern auch proaktiv und allgegenwärtig ist. Die KI hat eine spannende Zukunft vor sich, aber noch aufregender sind die Ergebnisse der globalen Effizienz, die mit Sicherheit auf uns zukommen werden.