Hur Atlas Reasoning Engine driver Agentforce

Innovationshastigheten inom AI-världen – och specifikt generativ AI – fortsätter i en rasande takt. Med den tekniska sofistikering som är tillgänglig nu, utvecklas branschen snabbt från assisterande samtalsautomatisering till rollbaserad automatisering som utökar personalstyrkan. För att artificiell intelligens (AI) ska efterlikna en prestation på mänsklig nivå är det viktigt att förstå vad som gör människor mest effektiva när det gäller att slutföra jobb: byrå. Människor kan ta in data, resonera över möjliga vägar framåt och vidta åtgärder. Att utrusta AI med den här typen av byrå kräver en extremt hög nivå av intelligens och beslutsfattande.

På Salesforce har vi utnyttjat de senaste framstegen inom stora språkmodeller (LLM) och resonemangstekniker för att lansera Agentforce. Agentforce är en svit av färdiga AI-agenter – autonoma, proaktiva applikationer designade för att utföra specialiserade uppgifter – och en uppsättning verktyg för att bygga och anpassa dem. Dessa autonoma AI-agenter kan tänka, resonera, planera och orkestrera på en hög nivå av sofistikering. Agentforce representerar ett kvantsprång inom AI-automatisering för kundservice, försäljning, marknadsföring, handel med mera.

Den här artikeln belyser innovationerna som kulminerade i Atlas Reasoning Engine – hjärnan hos Agentforce, som inkuberades på Salesforce AI Research – och som orkestrerar åtgärder intelligent och autonomt för att ge företag en agentlösning av företagsklass.

Tidigare i år släppte vi Einstein Copilot, som nu har utvecklats till en Agentforce -agent för kundrelationshantering (CRM). Einstein Copilot var en generativ AI-driven konversationsassistent som hämtade sin intelligens från en mekanism som kallas Chain-of-Thought-resonemang (CoT). I denna mekanism härmar AI-systemet beslutsfattande i mänsklig stil genom att generera en plan som innehåller en sekvens av steg för att uppnå ett mål.

Med CoT-baserade resonemang kunde Einstein Copilot samskapa och samarbeta i arbetets flöde. Detta gjorde det ganska avancerat jämfört med traditionella bots, men det gick inte att efterlikna en mänsklig intelligens. Den genererade en plan som innehöll en sekvens av åtgärder som svar på uppgifter och utförde sedan dessa åtgärder en efter en. Om planen var felaktig hade den dock inte ett sätt att be användaren att omdirigera den. Detta ledde till en AI-upplevelse som inte var adaptiv: Användare kunde inte tillhandahålla ny och användbar information allt eftersom en konversation fortskred.

När vi testade Einstein Copilot noggrant med tusentals säljare från vår egen säljorganisation (Org 62), uppstod några mönster:

• Den naturliga konversationsupplevelsen av Copilot var mycket bättre än traditionella bots, som förväntat, men den hade ännu inte uppnått den heliga graalen att vara riktigt människolik. Det behövde bli mer konversationsmässigt.
• Copilot gjorde ett utmärkt jobb med att uppfylla användarmålen med de åtgärder den var konfigurerad med, men den kunde inte hantera uppföljningsförfrågningar om information som redan fanns i konversationen. Den behövde använda sammanhanget bättre för att svara på fler användarfrågor.
• När vi lade till fler åtgärder för att automatisera fler användningsfall började Copilots prestanda försämras, både vad gäller latens (hur lång tid det tog att svara) och svarskvalitet. Det behövde skalas effektivt till tusentals användningsfall och applikationer som kunde dra nytta av det.

Vi försökte hitta en lösning på dessa problem, och det ledde till att Agentforce föddes.

Agentforce är den första, företagsbaserade konversationsautomationslösningen som kan fatta proaktiva och intelligenta beslut i stor skala med liten eller ingen mänsklig inblandning. Flera framsteg gör det möjligt.

• Orkestering baserad på ReAct-uppmaning kontra CoT. Omfattande experiment och tester visade att Reasoning and Acting (ReAct)-liknande uppmaningar gav mycket bättre resultat jämfört med CoT-tekniken. I ReAct-mekanismen går systemet igenom en loop av resonera, agera och observera tills ett användarmål är uppfyllt. Denna typ av looping-metod låter systemet överväga all ny information och ställa klargörande frågor eller bekräftelser så att användarens mål uppnås så exakt som möjligt. Detta leder också till en mycket mer flytande och naturlig språkliknande samtalsupplevelse.
• Ämnesklassificering. Vi introducerade ett nytt koncept som heter ämnen, som kartläggs till en användares avsikt eller jobb som ska utföras. När en användarinmatning kommer in, mappas den till ett ämne, som innehåller relevant uppsättning instruktioner, affärspolicyer och åtgärder för att uppfylla denna begäran. Denna mekanism hjälper till att definiera uppgiftens omfattning och motsvarande lösningsutrymme för LLM, vilket gör att systemet kan skalas utan ansträngning. Naturliga språkinstruktioner inbäddade i ämnen ger ytterligare vägledning och skyddsräcken för LLM. Så om vi behöver några åtgärder som ska utföras i en viss sekvens, kan det vara en ämnesinstruktion på naturligt språk. Om det finns affärspolicyer som "gratis returer upp till 30 dagar", kan de specificeras som en instruktion och skickas till LLM, så att den kan ta hänsyn till dem och informera användarnas interaktion i enlighet därmed. Dessa koncept tillåter agenter att skala till tusentals åtgärder säkert och säkert.
• Använd LLM för svar. Tidigare begränsade vi systemet till att endast svara med åtgärdsutdata, vilket kraftigt begränsade dess förmåga att svara baserat på den information som var tillgänglig i konversationen. Genom att öppna upp systemet för att låta LLM svara med hjälp av sammanhanget i konversationshistoriken, har vi tillåtit en mycket rikare konversationsupplevelse. Nu kan användare be om förtydliganden och ställa uppföljningsfrågor till tidigare resultat, vilket leder till en övergripande högre måluppfyllelsegrad.
• Tankar/resonemang. Att få LLM:er att dela tankar eller ge skäl för att välja vissa åtgärder förhindrar hallucinationer oerhört. Detta har den extra fördelen att det ger insyn i LLM:s beteende, så att administratörer och utvecklare kan finjustera agenten för att anpassa sig till deras behov. Resonemang är tillgängligt i Agent Builder-duken som standard, och användare kan också fråga agenten med uppföljningsfrågor så att den kan förklara sitt resonemang. Detta förhindrar inte bara hallucinationer utan hjälper till att bygga upp förtroende.

Utanför Atlas Reasoning Engine har Agentforce flera andra anmärkningsvärda egenskaper som skiljer den åt.

• Proaktiv handling. Användarinmatningar är ett sätt att trigga agenter. Men Agentforce -agenter kan också utlösas av dataoperationer i CRM eller affärsprocesser och regler, som en uppdatering av ärendestatus, ett e-postmeddelande som tagits emot av ett varumärke eller ett möte som börjar om fem minuter. Dessa mekanismer ger agenter en nivå av proaktivitet som gör dem användbara och utplacerbara i olika dynamiska affärsmiljöer, vilket utökar deras användbarhet till både front- och backoffice.
• Dynamisk informationssökning. De flesta fall för affärsanvändning involverar att hämta information eller vidta åtgärder. En av de vanligaste mekanismerna för att mata statisk information till agenter är genom jordning. Det är dock agenternas förmåga att utnyttja dynamisk information som låser upp en stor potential av användningsfall och applikationer.
  
  Agentforce stöder flera mekanismer för att utnyttja dynamisk information. Den första är retrieval augmented generation, eller RAG. Genom att använda semantisk sökning på strukturerad och ostrukturerad data i Data Cloud genom RAG kan agenter hämta all relevant information från externa datakällor och databaser.
  
  För det andra, med introduktionen av generiska verktyg för informationssökning som webbsökning och kunskapsfrågor, har vi förstärkt agentens förmåga att hantera komplexa uppgifter. Föreställ dig att undersöka ett företag eller en produkt online med hjälp av webbsökning, och kombinera det med intern kunskap om företagets regler och policyer, och sedan vidta en åtgärd i form av en e-postsammanfattning till en kontakt. Genom att kombinera data från flera källor kan agenten hantera affärsuppgifter mycket mer effektivt och effektivt.
  
  Slutligen kan agenter distribueras i Flows, API:er och Apex-klasser. Genom att göra detta kan all kontextuell information i ett arbetsflöde, såväl som information för olika scenarier, skickas till agenten, vilket förhindrar behovet av att bygga anpassade lösningar och hantera varje scenario separat. Alla dessa mekanismer som tillåter agenter att utnyttja dynamisk information låter dem förstå sin miljö bättre, vilket ökar deras interaktivitet mångfaldigt.
• Överföring till mänsklig agent. AI är icke-deterministiskt och det kan hallucinera. Det är därför vi har banat väg för den robusta Einstein Trust Layer för att tillhandahålla toxicitetsdetektion, noll datalagringskontrakt, försvar av snabbinsprutning och flera andra mekanismer. Vi har bakat in regler i våra systemuppmaningar för att förhindra att LLM:er avviker och hallucinerar. Men trots alla dessa mekanismer är LLM fortfarande inte 100% korrekta. För de kritiska affärsscenarion där toleransen för fel är noll, är sömlös överföring till en människa avgörande, och något som Agentforce stöder inbyggt. Agentforce behandlar "överföring till mänsklig agent" som ännu en åtgärd, som gör att en konversation kan överföras säkert och sömlöst till människor i alla önskade affärsscenarios.

Trots att det är i början är Agentforce en spelomvandlare för våra kunder. Kunder som Wiley och Saks Fifth Avenue ser en exponentiell inverkan på sina affärs-KPI:er med Agentforce Service Agent. Eftersom hjulet för innovation och tekniska framsteg fortsätter att snurra snabbt hos Salesforce Research och inom branschen, fortsätter vi att röra oss i lätt hastighet för att utnyttja olika innovationer för att göra agenter ännu mer robusta och intelligenta. Några av de framsteg som kunder kan förvänta sig inom en snar framtid inkluderar:

• Ett ramverk för testning och utvärdering för agenter. Att ta ett komplext agentsystem som Agentforce till företag kräver en hel del tester och validering. Så vi har utvecklat en robust utvärderingsram för att testa åtgärdsresultat, input, output, planeringsnoggrannhet, ämnesklassificering och planerarens tillstånd. Vi har använt det här ramverket för att optimera agenterna på mätvärden som noggrannhet, latens, kostnad att betjäna och förtroende. Till skillnad från de flesta allmänt tillgängliga ramverk och riktmärken som i första hand fokuserar på att utvärdera en LLM:s prestation på uppgifter som matematik, naturvetenskap och allmän kunskap, är vårt utvärderingsramverk specifikt inriktat på CRM-företagsanvändning. Vi har också publicerat världens första LLM-benchmark och arbetar för närvarande med att göra vårt utvärderingsramverk för agenter tillgängligt för kunder och partners.
• Stöd för flera syften. Detta är en viktig hörnsten för att replikera en människoliknande konversationsmekanism. En hel del vardagliga uttryck består av flera orelaterade mål, som "uppdatera min beställning och hitta mig en tröja i storlek M", "uppdatera ärendestatus och maila en sammanfattning av felsökningsstegen till kunden" och " boka ett flyg och boka ett hotell." Med kombinationen av LLM:ers förmåga att förstå naturliga språk, stöd för stora sammanhang och våra innovativa koncept som ämnen, fortsätter vi att experimentera för att skapa en pålitlig, skalbar och säker lösning för våra kunder.
• Multimodalt stöd. Medan majoriteten av digitala interaktioner är textbaserade, ökar röst- och synbaserade interaktioner upplevelsens rikedom flera gånger eftersom de representerar det mest naturliga sättet för mänsklig interaktion. Faktum är att med framsteg som simultan bearbetning av multimodala indata, snabbare svarstider, stora sammanhangsfönster och sofistikerade resonemangsmöjligheter, förväntas den multimodala AI-marknaden växa med cirka 36 % till 2031. Det finns flera företagsanvändningsfall som direkt kan dra nytta av multimodalitetsstöd:
• Fall för röstanvändning. Ersätter interaktiv röstsvar (IVR) med generativt AI-drivet röststöd, coachning av anställda, utbildning och introduktion.
• Visionsanvändningsfall. Produktsökning och jämförelse, surfning i användargränssnitt (webb, mobil), felsökning och problemlösning för fältservice.
• Support för flera agenter. Interaktioner mellan agent och agent representerar en av vår tids mest omvälvande affärsutveckling. Med tanke på deras förmåga att samtidigt hämta, kompilera och bearbeta information kan system med flera agenter exponentiellt minska bearbetningstiderna för långa, komplexa arbetsflöden som för närvarande pågår sekventiellt på grund av överlämning från människa till människa. Digitala agenter kan infogas i dessa arbetsflöden för repeterbara databearbetningsuppgifter, och de kan också hjälpa människor som är involverade i dessa processer att bli mer effektiva.
  
  Vi introducerar redan den här sortens multiagentiska paradigm i säljprocessen, där en agent kan fungera som säljutvecklingsrepresentant för att vårda pipeline, eller som säljcoach för att ge råd till en säljare om hur man bäst förhandlar en affär. Specialiserade agenter kan också hantera andra aspekter av försäljningsprocessen som leadkvalificering, förslagsförberedelse och uppföljning efter försäljning. På samma sätt kan ett tjänstearbetsflöde bestå av agenter som felsöker, följer upp och tilldelar biljetter, samt agenter som svarar på kundförfrågningar och hjälper mänskliga representanter.

Agentforce representerar den tredje vågen av AI, efter prediktiv AI och andrapiloter. Med hjälp av Agentforce kan kunderna bygga agenter som inte bara svarar på samtalsuppmaningar att vidta åtgärder, utan också förutser, planerar och resonerar med minimal hjälp. Agenter kan automatisera hela arbetsflöden eller processer, fatta beslut och anpassa sig till ny information, allt utan mänsklig inblandning. Samtidigt kan dessa agenter säkerställa en sömlös hand-off till mänskliga anställda, vilket underlättar samarbete inom alla branscher. Dessa agenter drivs av Atlas Reasoning Engine och kan distribueras med bara några klick för att utöka och förvandla alla affärsfunktioner eller team.