Wat is een Reasoning Engine?

Stel je voor dat AI routinematige zakelijke taken zou kunnen automatiseren, zoals het opstellen van e-mails, het genereren van campagnebriefings, het bouwen van webpagina's, het onderzoeken van concurrenten, het analyseren van gegevens en het samenvatten van oproepen. Het automatiseren van dergelijke repetitieve taken kan een enorme hoeveelheid waardevolle menselijke tijd en moeite vrijmaken voor complexere en creatievere activiteiten zoals bedrijfsstrategie en het opbouwen van relaties.

Automatisering van dergelijke routinematige zakelijke taken vereist het simuleren van menselijke intelligentie door AI te laten functioneren als een redeneermachine (reasoning engine). Het is generatieve AI op een ander niveau. Naast communiceren in natuurlijke taal helpt AI ook bij het oplossen van problemen en het nemen van beslissingen. Het leert van de verstrekte informatie, evalueert voor- en nadelen, voorspelt resultaten en neemt logische beslissingen. Gezien de technologische vooruitgang van de laatste tijd staan we aan de vooravond van een dergelijke AI-capaciteit en veel mensen in de wetenschappelijke en zakelijke gemeenschap zijn enthousiast.

Een reasoning engine is een AI-systeem dat het beslissings- en probleemoplossend vermogen van mensen nabootst op basis van bepaalde regels, data en logica. Er zijn drie soorten menselijke redeneer- of inferentiemechanismen die reasoning engines geneigd zijn na te bootsen:

1. Deductief redeneren – maakt een gevolgtrekking op basis van universele en algemeen aanvaarde feiten. Bijvoorbeeld: 'Alle vogels leggen eieren. Een duif is een vogel. Daarom leggen duiven eieren.'
2. Inductief redeneren — leidt een conclusie af uit specifieke gevallen of steekproeven. Dit zou er als volgt uit kunnen zien: 'Elke hond die ik ontmoet is vriendelijk. Daarom zijn alle honden vriendelijk!'
3. Abductief redeneren – maakt een waarschijnlijke conclusie uit onvolledige (en vaak dubbelzinnige) informatie, zoals: 'Er liggen overal gescheurde papieren op de vloer en onze hond was alleen in het appartement. Daarom moet de hond de papieren hebben verscheurd.'

Inmiddels weten mensen over de hele wereld dat grote taalmodellen (LLM's) speciale machine learning-modellen zijn die nuttige nieuwe content kunnen genereren op basis van de gegevens waarop ze zijn getraind. Daarnaast vertonen de LLM's tegenwoordig ook het vermogen om de context te begrijpen, logische inferenties te trekken uit gegevens en verschillende stukjes informatie met elkaar te verbinden om een probleem op te lossen. Deze kenmerken stellen een LLM in staat om als reasoning engine te fungeren.

Dus hoe lost een LLM een veelvoorkomend zakelijk wiskundig probleem op door informatie te evalueren, een plan te genereren en een bekende reeks regels toe te passen?

Laten we zeggen dat een eigenares van een coffeeshop wil weten hoeveel koffie ze per maand moet verkopen om een break-evenresultaat te behalen. Ze rekent $ 3,95 per kopje, haar maandelijkse vaste lasten zijn $ 2.500 en haar variabele kosten per eenheid zijn $ 1,40.

De LLM past een bekende reeks wiskundige regels toe om systematisch het antwoord te krijgen:

Stap 1

Identificeer de relevante waarden.

Stap 2

Bereken de contributiemarge per koffie. De contributiemarge is de verkoopprijs minus de variabele kosten.
= $ 3,95 - $ 1,40 = $ 2,55

Stap 3

Pas de break-evenformule toe. Het break-evenpunt is de vaste kosten gedeeld door de contributiemarge.
= $2.500/$2,55 = 980,39

Stap 4:

Rond naar boven af op het dichtstbijzijnde gehele getal.
Break-evenpunt = 981 kopjes koffie

De populariteit van grote taalmodellen schoot in het najaar van 2022 omhoog, maar wetenschappers zijn via verschillende prompts druk bezig met experimenteren met deze modellen. 'Prompting', of promptengineering, is nu een snel opkomend domein waarin een zorgvuldig samengestelde set invoerinstructies (prompts) naar de LLM wordt gestuurd om de gewenste resultaten te genereren. Wanneer we prompts gebruiken om een logisch stappenplan te genereren om een doel te bereiken, noemen we ze ook wel 'redeneerstrategieën'. Laten we eens kijken naar enkele van de populaire redeneerstrategieën hieronder:

• Chain-of-Thought (CoT): dit is een van de meest populaire redeneerstrategieën. Deze aanpak bootst menselijke besluitvorming na door een LLM te instrueren om een complex probleem in een reeks stappen op te splitsen. Deze strategie wordt ook wel een 'sequentiële planner' genoemd. Chain-of-Thought-redenering kan wiskundige woordproblemen oplossen, met gezond verstand redeneren en taken oplossen die een mens met taal kan oplossen. Een voordeel van CoT is dat het ingenieurs in staat stelt om het proces te bestuderen en, als er iets misgaat, vast te stellen wat er mis is gegaan om het probleem op te lossen.
• Redeneren en handelen (ReAct): deze strategie maakt gebruik van informatie uit de echte wereld om te redeneren, naast de gegevens waarop de LLM is getraind. Op ReAct gebaseerd redeneren wordt aangeprezen als meer verwant aan een mensachtige taakoplossing waarbij interactieve besluitvorming en verbaal redeneren worden gebruikt, wat leidt tot een betere foutafhandeling en lagere hallucinatiepercentages . Deze strategie synergiseert redenering en actie door middel van gebruikersactie, wat de interpreteerbaarheid en betrouwbaarheid van antwoorden vergroot. De strategie wordt ook wel een 'stapsgewijze planner' genoemd, omdat het probleemoplossing stap voor stap benadert en ook bij elke stap om feedback van gebruikers vraagt.
• Tree of Thoughts (ToT): deze variatie van de Chain-of-Thought-benadering genereert meerdere gedachten bij elke tussenstap. In plaats van slechts één redeneerpad te kiezen, verkent en evalueert het de huidige status van de omgeving met elke stap om actief vooruit te kijken of terug te keren om meer weloverwogen beslissingen te nemen. Het is bewezen dat deze strategie aanzienlijk beter presteert dan CoT bij complexe taken zoals rekenspelletjes, creatieve schrijfoefeningen en mini-kruiswoordpuzzels. ToT-redenering wordt geacht nog dichter bij een menselijk besluitvormingsparadigma te staan dat meerdere opties onderzoekt, voor- en nadelen afweegt en vervolgens de beste keuze maakt.
• Reasoning via Planning (RAP): deze strategie maakt gebruik van LLM's als zowel de redeneermachine als het wereldmodel om de toestand van de omgeving te voorspellen en de langetermijnimpact van acties te simuleren. Het integreert meerdere concepten, zoals het verkennen van alternatieve redeneerpaden, het anticiperen op toekomstige toestanden en beloningen, en het iteratief verfijnen van bestaande redeneerstappen om betere redeneerprestaties te bereiken. Op RAP gebaseerd redeneren presteert beter op verschillende basislijnen voor taken die planning, wiskundig redeneren en logische inferentie vereisen.

Dit zijn slechts enkele van de meest veelbelovende strategieën van dit moment. Het proces van het toepassen van deze strategieën op een echte AI-toepassing is een iteratief proces dat bestaat uit het aanpassen en combineren van verschillende strategieën voor de optimaalste prestaties.

Het is best spannend om LLM's te laten functioneren als reasoning engines, maar hoe maak je ze nuttig in de echte wereld? Bij wijze van analogie met mensen: als LLM's net als de hersenen zijn en redeneer-, plannings- en besluitvormingsvaardigheden hebben, zijn er nog steeds handen en benen nodig om actie te ondernemen. Maak kennis met de 'AI-agent': een AI-systeem dat zowel redeneer- als actievaardigheden heeft. Enkele van de meest voorkomende termen voor het ondernemen van actie zijn 'tools', 'plug-ins' en 'acties'.

Er zijn twee soorten AI-agents: volledig autonoom en semi-autonoom. Volledig autonome agents kunnen zelfstandig beslissingen nemen zonder enige menselijke tussenkomst en er ook naar handelen. Dit soort middelen bevinden zich momenteel in experimentele modus. Semi-autonome agents zijn agents waarbij een mens betrokken is om verzoeken te activeren. We beginnen het gebruik van semi-autonome agents vooral te zien in AI-applicaties zoals conversationele chatbots, waaronder Einstein Copilot, ChatGPT en Duet AI.

Een AI-agent heeft vier belangrijke componenten:

1. Doel – het primaire doel of de primaire taak van de agent.
2. Omgeving - de contextuele informatie, zoals het doel, de eerste gebruikersinvoer, de geschiedenis van eerdere activiteiten of gesprekken, grounding-gegevens voor relevantie, gebruikersfeedback en de gegevens waarop de LLM is getraind.
3. Redeneren - het ingebouwde vermogen van LLM om observaties te doen, volgende acties te plannen en opnieuw te kalibreren voor optimalisatie om dichter bij het beoogde doel te komen.
4. Actie — meestal externe tools om een agent in staat te stellen het doel te bereiken. Enkele veelvoorkomende voorbeelden van acties zijn het ophalen van informatie, zoeken, codegeneratie, code-interpretatie en dialooggeneratie.

Einstein Copilot is de geavanceerde AI-aangedreven gespreksassistent van Salesforce die in natuurlijke taal communiceert met de medewerkers en klanten van een bedrijf. Medewerkers kunnen het gebruiken om een verscheidenheid aan taken in de workflow uit te voeren, waardoor de productiviteit op schaal wordt verhoogd. Consumenten kunnen het ook gebruiken om met merken te chatten en direct antwoord op hun vragen te krijgen, wat leidt tot een hogere tevredenheid en loyaliteit. Einstein Copilot gebruikt LLM's voor taalvaardigheden zoals begrip en contentgeneratie en ook als een reasoning engine om complexe taken te plannen, waardoor de cognitieve belasting voor gebruikers wordt verminderd.

Het werkt als volgt:

1. Gebruikers typen het doel dat ze willen bereiken, bijvoorbeeld: 'Een webpagina bouwen'.
2. Einstein Copilot gebruikt een samengestelde prompt om de gebruikersinvoer naar een beveiligde LLM te sturen om de intentie van de gebruiker af te leiden.
3. Op basis van de intentie stuurt Einstein Copilot nog een samengestelde prompt om de LLM te instrueren om een plan te genereren voor het vervullen van die intentie.
4. Het gegenereerde plan is een reeks acties die in een logische volgorde aan elkaar zijn gekoppeld. Om ervoor te zorgen dat Einstein Copilot op een betrouwbare manier handelt, krijgt de LLM de opdracht om plannen te maken die uitsluitend gebaseerd zijn op de acties die de LLM ter beschikking worden gesteld.
5. Zodra de LLM een plan retourneert, voert Einstein Copilot de acties uit in de voorgeschreven volgorde om het gewenste resultaat te genereren en communiceert dit naar de gebruiker.

Visueel ziet dit eruit als...

Einstein Copilot geeft bedrijven de mogelijkheid om LLM's te gebruiken als reasoning engines. Met deze tool kunnen bedrijven AI gebruiken om een aantal taken uit te voeren die een paar maanden geleden niet realistisch waren.

• Als een verkoopteam een dunne pijplijn ziet, kan Einstein Copilot databases scannen om leads van hoge kwaliteit te vinden die de moeite waard zijn om in te schakelen.
• Copilot scant potentiële deals om de deals te identificeren die risico lopen en kan, indien gevraagd, de gegevens samenvatten voor managers.
• Copilot kan servicemedewerkers helpen bij het oplossen van een probleem met te hoge facturering voor een klant en de juiste informatie verzamelen voor het oplossen van problemen.
• Copilot kan het huidige klantgevoel voor een potentiële deal analyseren en aanbevelingen doen voor de acties die nodig zijn om de deal in de komende drie maanden te sluiten.

In deze gebruiksscenario's en vele andere vergelijkbare scenario's fungeert Einstein Copilot in wezen als een semi-autonome agent, waarbij LLM's worden gebruikt als reasoning engines en acties worden ondernomen om taken uit te voeren wanneer gebruikers daarom vragen. Dit is nog maar het begin, want de volgende stap is het volledig autonoom maken van Einstein Copilot , zodat het niet alleen ondersteuning biedt, maar ook proactief en alomtegenwoordig is. De toekomst van AI ziet er veelbelovend uit, maar nog spannender zijn de resultaten met betrekking tot wereldwijde efficiëntie die ongetwijfeld gaan komen.