Guida di Agentforce per creare agenti affidabili

Olfa Kharrat, Director of Product Management - Agentforce
Reinier van Leuken, Senior Director of Product Management - Agentforce

La fiducia è il valore più importante di Salesforce sin dalla sua fondazione nel 1999, quando abbiamo introdotto un nuovo modello tecnologico di cloud computing e SaaS. Le aziende si affidano alla nostra azienda archiviando dati preziosi nel cloud, sapendo che sono protetti e gestiti da controlli di accesso adeguati. Questo aspetto rimane fondamentale, ma nell'era dell'AI agentica la definizione di fiducia si è ulteriormente allargata. Poiché le aziende fanno sempre più affidamento sugli agenti autonomi per lo svolgimento di funzioni aziendali importanti, questi ultimi devono diventare partner di lavoro fidati, che garantiscono precisione, pertinenza e, soprattutto, affidabilità.

Quindi, come si crea un agente affidabile? Di solito, "essere affidabili" significa fornire lo stesso risultato partendo dallo stesso input. Tuttavia, gli agenti non funzionano necessariamente in questo modo, perché si basano su modelli linguistici di grandi dimensioni (LLM, Large Language Model) che per natura non sono deterministici. Questa caratteristica offre agli agenti la flessibilità per sviluppare soluzioni creative specifiche per determinate circostanze, senza dover programmare esplicitamente ogni condizione o situazione che riscontrano. Tuttavia, gli agenti hanno anche bisogno di governance per conformarsi ai requisiti aziendali e rispettare linee guida operative. Quando eseguono processi aziendali, devono dimostrare affidabilità e produrre risultati conformi a vincoli deterministici. Il determinismo impone una rigidità e una disciplina che si scontra con l'autonomia e la flessibilità degli agenti. Pertanto, la chiave per creare agenti di successo è trovare il giusto equilibrio tra flessibilità creativa e controllo aziendale.

Questo documento affronta le considerazioni più importanti per lo sviluppo di agenti affidabili. Definisce cinque livelli di controllo agentico e fornisce le best practice per assumere e mantenere il controllo sul comportamento agentico per ciascuno di questi livelli. La guida illustra le modalità di funzionamento del motore di ragionamento di Agentforce. Di pari passo con i nuovi sviluppi di Agentforce, questo documento verrà aggiornato per riflettere le best practice più recenti.

Esso presuppone una familiarità di base con la progettazione e la creazione di agenti Agentforce. Per un'introduzione a Agentforce, consigliamo quanto segue:

• Consulta le risorse su agentforce.com.
• Segui l'itinerario Diventare Agentblazer Champion , che esplora i concetti base dell'AI e aiuta a creare un agente elementare per attività chiave.
• Ottieni maggiori informazioni su Agentforce sul sito help.salesforce.com , in particolare nella sezione Progettazione e implementazione degli agenti . Questa mappa didattica ti guida attraverso tutti i passaggi chiave del ciclo di vita: ideazione della soluzione, impostazione e configurazione dell'agente, test, implementazione e monitoraggio.

Per comprendere meglio il comportamento agentico, confrontiamo prima gli agenti con le loro controparti rigide: i chatbot.

Chatbot: ligi alle regole

I chatbot seguono alberi decisionali predeterminati che strutturano i dialoghi a cui partecipano. Il percorso attraverso questi alberi decisionali dipende dalle risposte fornite dall'utente, che possono essere selezionate tra una serie di opzioni predefinite o possono essere a testo libero. In caso di risposta a testo libero, viene utilizzato un modello predittivo per la classificazione dell'intento. Questi alberi tracciano tutti i potenziali percorsi conversazionali e dettano le risposte del chatbot in ogni fase. Il comportamento del chatbot è rigidamente determinato da regole predefinite. Se l'input di un utente non corrisponde a un percorso riconosciuto o se il modello predittivo non è stato addestrato per riconoscere un determinato intento, il chatbot non risponde in modo adeguato.

Agenti: adattivi e intuitivi

Al contrario, gli agenti sfruttano la potenza degli LLM e le loro funzionalità avanzate di elaborazione del linguaggio naturale (NLP). Gli LLM consentono agli agenti di comprendere l'intento alla base dell'input di un utente, anche se formulato in modo imprevisto. In base alla sua comprensione dell'intento, l'agente può selezionare l'azione più appropriata tra una serie di possibilità. Può persino formulare risposte completamente nuove. Questa flessibilità e adattabilità distinguono gli agenti dalle loro controparti dei chatbot.

Un'analogia culinaria

La differenza tra chatbot e agenti può essere paragonata alla differenza tra un cuoco alle prime armi e uno chef esperto.

• Il cuoco alle prime armi (chatbot) segue ricette dettagliate, complete di misurazioni precise, istruzioni minuziose e tempi di cottura specifici. Qualsiasi deviazione dalla ricetta si traduce in un disastro. Allo stesso modo, un chatbot deve rimanere entro i limiti del suo albero decisionale pre-programmato.
• Lo chef esperto (agente) possiede anni di esperienza culinaria e intuito. Grazie a una comprensione generale delle tue preferenze e a una breve descrizione degli ingredienti disponibili, è in grado di preparare un pasto delizioso che soddisfi le tue esigenze. I passaggi esatti possono variare ogni volta e ogni versione del piatto potrebbe presentare lievi differenze, ma il risultato complessivo è costantemente soddisfacente. Allo stesso modo, un agente può adattare il proprio approccio in base al contesto e all'intento dell'input dell'utente, garantendo un'interazione riuscita.

In sintesi, la differenza fondamentale tra agenti e chatbot risiede nell'adattabilità e capacità dei primi di gestire input imprevisti.

Una caratteristica distintiva dell'intelligenza di un agente risiede nella sua capacità di orchestrare e attivare le azioni più adatte al momento giusto. Questa flessibilità elimina la necessità di programmare nel dettaglio ogni potenziale interazione con l'utente.

In Agentforce, la creazione di un agente prevede l'impostazione di argomenti, azioni e istruzioni e descrizioni in linguaggio naturale.

Argomenti

Gli argomenti sono le "attività da svolgere" per l'agente. Hanno attributi come la descrizione della classificazione, l'ambito e le istruzioni che definiscono ogni attività e come viene svolta. Contengono azioni che l'agente può eseguire, insieme a istruzioni che indicano come eseguirle.

Azioni

Le azioni sono le attività predefinite che l'agente può eseguire per svolgere il proprio lavoro. Esistono cinque diversi tipi di azioni:

• esegui il codice Apex;
• richiama un'API;
• esegui un flusso;
• ricevi la risposta di un LLM a un modello di prompt;
• richiama un modello predittivo.

Istruzioni e descrizioni in linguaggio naturale

La definizione di un agente contiene istruzioni in linguaggio naturale che descrivono gli asset dell'agente e definiscono le linee guida entro le quali deve operare. Le istruzioni servono per le azioni e gli argomenti.

• Azioni. Un'azione contiene:
  • Istruzioni che descrivono cosa fa l'azione, il che indica al motore di ragionamento quando eseguirla.
  • Input con una descrizione in linguaggio naturale in modo che l'agente possa prepararli.
  • Output con una descrizione in linguaggio naturale su come formattarli e utilizzarli.
• Argomento. Un argomento contiene istruzioni che indicano come eseguire le rispettive azioni a un livello superiore. Ad esempio, le istruzioni possono specificare i limiti di azione relativi al tono di voce, la sequenza di azioni desiderata, possibili prerequisiti o i casi in cui inoltrare le conversazioni agli agenti umani. L'argomento contiene anche una descrizione della classificazione e una definizione dell'ambito. Tutto ciò garantisce che l'agente rimanga entro l'ambito del suo ruolo definito ed esegua l'operazione richiesta.
• Dati. Gli agenti hanno bisogno di dati per svolgere correttamente il loro lavoro. I dati possono essere strutturati, come i dati CRM, o non strutturati, come gli articoli della Knowledge Base di un'azienda. Gli agenti accedono ai dati utilizzando input di azione. Ad esempio, un'azione può richiamare un modello di prompt basato su dati CRM o arricchito con frammenti di dati non strutturati utilizzando tecniche RAG.

Questi vari blocchi costitutivi, se sviluppati correttamente, aiutano un agente ad assolvere allo scopo previsto, pur rimanendo entro limiti adeguati.

Il motore di ragionamento di Agentforce orchestra questi blocchi costitutivi in modo da garantire il corretto comportamento agentico. Sfrutta le istruzioni e le descrizioni in linguaggio naturale definite in argomenti e azioni. Si basa su React, un nuovo paradigma di ragionamento per gli LLM introdotto nel 2022 da Yao et al. Questo paradigma imita la gestione umana delle attività ragionando su un problema, agendo, osservando i risultati dell'azione e ripetendo il ciclo fino al completamento dell'attività.

Gli agenti Salesforce aderiscono a questo paradigma:

1. Ragionamento: comprendono l'intento dell'utente e lo allineano all'argomento e alle azioni corretti.
2. Azione: avviano la catena di azioni corretta.
3. Osservazione: valutano i risultati dell'azione rispetto all'intento dell'utente. Se l'intento non viene soddisfatto, ragionano ancora in base al risultato ottenuto fino a quel punto e alle istruzioni e descrizioni dell'argomento/azione. Se l'intento è soddisfatto, forniscono la risposta finale rispettando le eventuali istruzioni di formattazione.
4. Ripetizione: ripetono questi passaggi fino a raggiungere l'ultimo passaggio prescritto.

Il motore di ragionamento utilizza gli LLM in ogni fase di ragionamento e osservazione. A seconda del tipo di azione, può anche ricorrere agli LLM nella fase di azione.

Questa sezione descrive un approccio a più livelli per migliorare il determinismo degli agenti. Ogni livello si basa su quello precedente, con una complessità e funzionalità crescenti che conferiscono un maggiore controllo sul comportamento dell'agente.

Il primo livello si concentra sul consentire agli agenti di identificare autonomamente gli argomenti pertinenti e, quindi, di selezionare le azioni appropriate utilizzando obiettivi anziché istruzioni esplicite. Il meccanismo di base prevede la capacità di comprendere il contesto per rispondere agli input degli utenti. Sebbene tecnicamente sia possibile aggiungere qualsiasi tipo di azione, a questo livello si presuppone che le azioni siano azioni di richiesta. Gli argomenti privi di istruzioni insieme alle azioni di richiesta forniscono un modo rapido ed efficiente per gestire le query più comuni.

A questo livello, l'importante è stabilire un livello di base di reattività e autonomia degli agenti attraverso una comprensione dinamica.

Partendo dalle azioni senza istruzioni selezionate, questo livello introduce istruzioni esplicite per guidare il comportamento degli agenti. L'aggiunta di istruzioni precise aumenta il controllo sul modo in cui gli agenti rispondono alle diverse situazioni. Le istruzioni degli agenti possono essere espresse sotto forma di regole, linee guida, limiti di azione ed esempi. Questi forniscono all'agente indicazioni specifiche su come gestire gli argomenti, eseguire le azioni ed elaborare i propri output. L'obiettivo di questo livello è fornire indicazioni chiare all'agente per aumentare la coerenza e migliorare il rispetto delle linee guida e dei processi aziendali.

Con "radicamento nel contesto" si intende il collegamento della comprensione e delle risposte dell'agente a fonti di informazioni esterne. Aiuta a garantire che le informazioni fornite dall'agente siano accurate, aggiornate e pertinenti. Questo livello integra l'accesso a database, Knowledge Base e altri repository di dati. Radicare le risposte dell'agente a dati verificati ne migliora l'affidabilità e l'attendibilità.

Questo livello aggiunge la capacità degli agenti di lavorare con variabili. Le variabili consentono agli agenti di personalizzare le interazioni, conservare il contesto in più interazioni e regolare dinamicamente il proprio comportamento in base a dati specifici ricavati durante la sessione. Ad esempio, un agente potrebbe acquisire le preferenze dell'utente, i dettagli dell'ordine e altre informazioni pertinenti e utilizzare tali dati per personalizzare l'interazione. Grazie alle variabili, gli agenti sono meglio attrezzati per gestire interazioni più complesse, specifiche e personalizzate.

Il passaggio finale integra l'agente con le funzionalità principali di Salesforce: Apex, API e flusso. L'integrazione consente all'agente di eseguire azioni complesse all'interno dell'ecosistema Salesforce, come accesso e utilizzo dei dati, attivazione dei workflow e interazione con altri sistemi.

• Apex fornisce il controllo programmatico.
• Le API consentono un'integrazione perfetta con altre applicazioni.
• I flussi permettono l'automazione di processi aziendali complessi.

Questo livello trasforma l'agente in un potente strumento in grado di eseguire attività sofisticate e contribuire direttamente ai risultati aziendali.

Partendo da una base di reattività e autonomia, abbiamo un agente dotato solo di argomenti e azioni, con le relative descrizioni. Possiamo utilizzare questo agente di esempio per spiegare i diversi passaggi del motore di ragionamento e mostrare come sfrutta tali descrizioni per selezionare gli argomenti giusti e, quindi, le azioni da eseguire. Omettendo le istruzioni degli argomenti da questo esempio, possiamo osservare che gli agenti di questo primo livello hanno il massimo grado di libertà rispetto agli agenti di livello superiore. Nel primo livello, l'agente è completamente libero di selezionare l'azione che ritiene adeguata in base esclusivamente alla conversazione in corso.

Considerazioni relative al motore di ragionamento:

• Le impostazioni di configurazione sono fisse per l'LLM del motore di ragionamento. I generatori di agenti non possono modificarle. Attualmente, per le capacità di ragionamento vengono utilizzati gli LLM di OpenAI, ma ciò è destinato a cambiare man mano che nasceranno altri modelli.
• Cronologia predefinita del motore di ragionamento: ogni volta che riceve una richiesta (passaggi 2-5), il motore di ragionamento recupera automaticamente la cronologia delle richieste e delle risposte più recenti. In questo modo, si garantisce la conservazione del contesto della conversazione. Oltre alle interazioni con i clienti, queste chiamate all'LLM di pianificazione includono quelle all'LLM del motore di ragionamento per altre richieste, come la selezione degli argomenti.

Il processo di ragionamento prevede quattro fasi principali:

1. Selezione degli argomenti
2. Selezione delle azioni
3. Ciclo agentico
4. Controllo del radicamento nel contesto

Gli argomenti sono progettati per migliorare l'accuratezza con cui gli agenti classificano l'azione o la sequenza di azioni corrette. Ogni argomento deve includere azioni semanticamente distinte che possono tutte appartenere a una descrizione concisa dell'argomento e, di conseguenza, a una funzione simile dell'agente.

L'argomento corretto viene selezionato dall'LLM del motore di ragionamento (passaggio 2-3 dello schema). Sceglie l'argomento la cui descrizione di classificazione corrisponde maggiormente all'ultima frasi enunciata, utilizzando un prompt apposito che contiene le descrizioni delle classificazioni di tutti gli argomenti e la cronologia delle conversazioni. Oltre alle frasi enunciate e alle risposte degli agenti, la cronologia delle conversazioni include le azioni eseguite e i rispettivi risultati. Inoltre, il prompt incorpora istruzioni cruciali che impongono l'analisi all'interno del contesto della cronologia delle conversazioni e richiedono all'LLM di condividere il proprio ragionamento.

Considerazioni aggiuntive:

• Oltre agli argomenti visibili, è presente automaticamente un altro argomento nascosto per le frasi "fuori tema", che viene selezionato quando nessun altro argomento esistente è allineato con la frase enunciata. Questo aiuta l'agente a evitare errori di classificazione. Tale argomento non ha azioni. Esiste solo per aiutare il motore di ragionamento a formulare una risposta appropriata in un secondo momento.
• Nel prompt dell'argomento vengono utilizzati solo il nome e la descrizione della classificazione dell'argomento.
• L'LLM del motore di ragionamento può scegliere solo un argomento alla volta.
• Le conversazioni possono cambiare rotta inaspettatamente. Ogni volta che riceve un'enunciazione, il motore di ragionamento passa alla fase di selezione dell'argomento, il che significa che è possibile selezionare un nuovo argomento a ogni nuova enunciazione.

Lo scopo degli argomenti è duplice:

1. Ridurre il rischio di confondere il motore di ragionamento raggruppando le azioni, evitando così che selezioni le azioni sbagliate.
2. Guidare la selezione e l'esecuzione delle azioni con istruzioni (ulteriori informazioni in merito sono disponibili nella sezione Controllo agentico di secondo livello: istruzioni).

Organizzando attentamente le capacità degli agenti in argomenti definiti in modo chiaro e composti da azioni correlate, l'agente può operare in modo più efficiente e prevedibile ed è più facile aggiornarlo ed espanderlo. Esistono due possibili approcci alla progettazione degli argomenti: dall'alto verso il basso (top-down) e dal basso verso l'alto (bottom-up).

• Nell'approccio top-down, vengono prima progettati gli argomenti come attività di alto livello che l'agente deve svolgere e poi vengono definite le singole azioni per tali argomenti.
• Nell'approccio bottom-up, invece, vengono definite prima tutte le singole azioni e poi raggruppate in argomenti.

Entrambi gli approcci portano a buoni risultati se seguiti correttamente.

Approccio bottom-up

Questa sezione illustra l'approccio bottom-up, in quanto è strettamente correlato ai motivi per cui il motore di ragionamento ha bisogno prima di tutto degli argomenti.

Fase 1: elenco di tutte le azioni degli agenti

Inizia elencando tutte le azioni specifiche che l'agente deve essere in grado di eseguire. In questa fase, è meglio essere molto specifici piuttosto che troppo generici. Evita di cercare di raggruppare o semplificare le azioni troppo in anticipo. L'obiettivo è avere una visione completa e dettagliata di ciò che l'agente può fare.

Ad esempio, nel caso di un agente del servizio clienti, l'elenco iniziale potrebbe includere:

• Effettua il reso di un ordine: serve per avviare la procedura di reso di un ordine.
• Controlla la disponibilità delle scorte: serve per verificare se un prodotto è disponibile in magazzino.
• Controlla le politiche di cambio dei prodotti: serve per recuperare informazioni sulle regole di cambio.
• Rispondi alle domande in base alle informazioni a disposizione: serve per rispondere a domande generali o frequenti.
• Verifica le promozioni: serve per verificare eventuali promozioni o sconti disponibili.
• Prevedi la data di consegna: serve per stimare la data/ora di consegna prevista.
• Controlla lo stato dell'ordine: serve per trovare lo stato corrente dell'ordine di un cliente.
• Trova gli ordini del cliente: serve per recuperare tutti gli ordini passati o attivi di un cliente specifico.
• Risolvi i problemi tecnici: serve per risolvere i problemi tecnici relativi a un prodotto o un servizio.
• Trova le condizioni dell'ordine del cliente: serve per recuperare tutte le condizioni relative a un ordine.
• Trova gli asset del cliente: serve per identificare o recuperare gli asset associati a un cliente.
• Modifica l'indirizzo di consegna.

Si fa notare che un'azione come "Risolvi i reclami dei clienti" è troppo ampia in questa fase. Le azioni devono rappresentare il livello minimo di granularità del comportamento degli agenti. I reclami possono essere di molti tipi e coperti già da azioni diverse:

• I problemi post-consegna, come la risoluzione dei problemi relativi a prodotti danneggiati o malfunzionanti, sono già coperti da "Risolvi i problemi tecnici".
• I problemi pre-consegna, come consegne non effettuate, la modifica delle date di consegna o dell'ordine, sono già coperti da azioni come "Controlla lo stato dell'ordine", "Prevedi la data di consegna" o "Effettua il reso di un ordine".
• Le preoccupazioni generali dei clienti, come le domande sulle politiche, sono già coperte da "Rispondi alle domande con le informazioni a disposizione" o "Controlla le politiche di cambio dei prodotti".

Fase 2: contrassegna coppie di azioni (o multipli) che potrebbero mandare in confusione il ragionamento

Contrassegna le azioni di natura simile perché possono confondere il motore di ragionamento. Sono quelle non sufficientemente diverse a livello semantico, per cui il motore di ragionamento non saprà quale selezionare nella fase 5.

Ad esempio, "Risolvi i problemi tecnici" e "Rispondi alla domanda con le informazioni a disposizione" hanno descrizioni simili, ma il loro funzionamento può essere molto diverso. Contrassegnare tali sovrapposizioni semantiche aiuterà a identificare quali azioni separare su più argomenti.

Fase 3: crea raggruppamenti iniziali di azioni in argomenti

Una volta definite chiaramente e identificate le sovrapposizioni semantiche, le azioni possono essere raggruppate in argomenti preliminari. Un argomento è una categoria logica di funzionamento: un raggruppamento di azioni che insieme rappresentano una capacità o una competenza coerente dell'agente.

Durante la creazione di questi raggruppamenti:

• evita la sovrapposizione semantica utilizzando il numero minimo di argomenti necessari;
• assicurati che ogni argomento contenga azioni che siano correlate in modo logico;
• assicurati che le azioni di supporto che devono essere eseguite in una catena siano presenti nello stesso argomento.

Ecco un esempio di raggruppamento iniziale per un agente del servizio clienti:

Argomento 1:

• Effettua il reso di un ordine
• Controlla la disponibilità delle scorte
• Controlla le politiche di cambio dei prodotti
• Verifica le promozioni
• Prevedi la data di consegna
• Trova le condizioni dell'ordine del cliente
• Controlla lo stato dell'ordine
• Trova gli ordini del cliente
• Trova gli asset del cliente
• Rispondi alle domande con le informazioni a disposizione
• Modifica l'indirizzo di consegna

Argomento 2:

• Risolvi i problemi tecnici
• Trova gli asset del cliente

Fase 4: scrivi le descrizioni delle classificazioni degli argomenti e, se necessario, suddividi gli argomenti

Una volta creato il raggruppamento iniziale, scrivi le descrizioni delle classificazioni di ogni argomento.

• L'argomento 2 del nostro esempio riguarda chiaramente i problemi tecnici relativi ai prodotti.
• L'argomento 1, però, copre un ambito più ampio. Riguarda la gestione degli ordini nel suo complesso, ma contiene anche azioni non correlate alla gestione degli ordini, come la verifica delle promozioni e la risposta a domande con le informazioni a disposizione. L'argomento 1 non può essere descritto in modo chiaro e conciso in un'unica frase e, pertanto, l'argomento deve essere suddiviso in argomenti diversi.

Dopo questa procedura di affinamento, otteniamo:

• Argomento 1: Gestione degli ordini: descrive le azioni relative alla gestione e alla modifica degli ordini dei clienti e della logistica correlata, ad eccezione di qualsiasi aspetto relativo ai cambi e ai resi.
  • Controlla la disponibilità delle scorte: stabilisci se un prodotto è disponibile in magazzino.
  • Prevedi la data di consegna: stima quando arriverà un ordine.
  • Controlla lo stato dell'ordine: trova lo stato dell'ordine di un cliente.
  • Trova gli ordini dei clienti: recupera tutti gli ordini effettuati da un cliente.
  • Modifica l'indirizzo di consegna.
• Argomento 2: Risoluzione dei problemi
  • Trova gli asset del cliente: recupera i dispositivi o i prodotti registrati del cliente.
  • Risolvi i problemi tecnici: fornisci assistenza tecnica o diagnostica.
• Argomento 3: Cambio: descrive le azioni relative al cambio e al reso degli ordini.
  • Effettua il reso di un ordine: avvia il processo di reso dell'ordine.
  • Controlla le politiche di cambio dei prodotti: fornisci le regole di cambio per i prodotti.
  • Trova gli ordini dei clienti: recupera tutti gli ordini effettuati da un cliente.
  • Trova le condizioni dell'ordine del cliente: recupera tutte le condizioni relative a un ordine.
• Argomento 4: Assistenza per i prodotti: descrive le azioni trasversali utilizzate per il recupero e l'inoltro delle informazioni.
  • Rispondi alle domande con le informazioni a disposizione: rispondi alle domande generali dei clienti utilizzando le informazioni della Knowledge Base.
  • Verifica le promozioni: consulta le promozioni o gli sconti in corso.

Per ricapitolare, crea prima un elenco completo di tutte le possibili azioni, quindi contrassegna la sovrapposizione semantica tra queste azioni. Successivamente, crea un insieme di argomenti che, come minimo, risolvano tutte le sovrapposizioni semantiche (in modo che il motore di ragionamento non si confonda all'interno dell'ambito di un argomento). Quindi, scrivi la descrizione della classificazione di ogni argomento. Se gli argomenti hanno un ambito troppo ampio, suddividili in argomenti più dettagliati. Applicando queste istruzioni, creerai un agente che non solo funziona bene, ma che è anche facile da mantenere ed espandere.

Questa struttura supporta un ragionamento migliore, un'esecuzione più precisa e limiti decisionali più chiari all'interno del comportamento dell'agente. Si basa anche sulla collaborazione tra progettisti, tecnici ed esperti in materia per rendere le funzionalità dell'agente più trasparenti e modulari.

Ulteriori considerazioni per una creazione efficiente degli argomenti

• Numero ottimale di argomenti: per migliorare le prestazioni degli LLM con la classificazione dell'argomento corretto, è consigliabile non superare i 10 argomenti, ma questa è solo una regola generale. Inoltre, ogni argomento dovrebbe avere una descrizione chiara e distinta. In sostanza, il numero ottimale di argomenti dipende dalla distanza semantica tra le descrizioni delle classificazioni degli argomenti. Se gli argomenti presentano descrizioni delle classificazioni molto diverse, il rischio di sovrapposizione è minimo. Altre best practice per evitare sovrapposizioni tra argomenti sono descritte qui .
• Equilibrio nelle dimensioni e nella chiarezza degli argomenti: sebbene sia generalmente utile avere argomenti piccoli in termini di azioni e istruzioni per una classificazione più semplice, creare troppi argomenti con descrizioni molto simili può causare confusione, proprio come la sovrapposizione semantica tra azioni porta a un'errata classificazione. È, pertanto, importante avere descrizioni degli argomenti chiaramente differenziate a livello semantico. Puoi utilizzare gli LLM per creare classificazioni ben differenziate.
• Linguaggio standard e chiarezza contestuale: gli LLM potrebbero non essere a conoscenza di significati e abbreviazioni aziendali o commerciali specifici. Utilizza un linguaggio standard o spiega il significato delle parole all'interno del tuo particolare contesto in modo molto esplicito.
• Nel prompt dell'argomento vengono inviati solo il nome e la descrizione dell'argomento. Pertanto, la modifica dell'ambito o delle istruzioni dell'argomento non avrà alcun impatto sulla sua selezione.

Esempio

Immagina che un agente dell'assistenza riceva una richiesta sulla garanzia di un orologio. Il problema della garanzia non sembra essere correlato al cambio o all'assistenza del prodotto. "Gestione degli ordini" sembra essere l'argomento più appropriato; pertanto, viene scelto dal motore di ragionamento come il più probabile per soddisfare la richiesta.

Dopo la selezione degli argomenti, il motore di ragionamento sceglie le azioni corrette da eseguire a partire dall'argomento selezionato. Anche in questo caso, è l'LLM del motore di ragionamento il responsabile di questa operazione e utilizza un altro prompt chiamato "prompt di osservazione". Lo scopo del prompt di osservazione è giungere al passaggio successivo del processo di ragionamento. Il passaggio successivo può essere uno dei seguenti:

• Avvio di un'azione
• Richiesta di input di azione da parte dell'utente
• Richiesta di chiarimento della richiesta da parte dell'utente
• Invio della risposta finale all'utente (soddisfazione della richiesta dell'utente) una volta completato il ciclo di azione (vedi "Fase 3 del ragionamento" per ulteriori dettagli)

L'input del prompt di osservazione è formato da tutte le descrizioni di tutte le azioni dell'argomento, nonché dalla cronologia delle conversazioni.

Best practice per la progettazione delle azioni

Le azioni sono le attività predefinite che l'agente può eseguire per svolgere il proprio lavoro. Le azioni sono le definizioni più dettagliate del lavoro. Esistono cinque diversi tipi di azioni degli agenti: (1) esegui il codice Apex, (2) richiama un'API, (3) esegui un flusso, (4) ricevi la risposta di un LLM a un modello di prompt e (5) richiama un modello predittivo. La maggior parte di queste azioni può essere deterministica. Un'eccezione è la ricezione di una risposta a un modello di prompt (a condizione che il sistema esterno, il flusso o l'azione Apex non contenga elementi probabilistici come i richiami di prompt). Tratteremo questi temi nel quinto livello del controllo agentico.

1. Controllo del comportamento agentico nelle azioni di richiesta. Esistono due modi per controllare il comportamento dell'agente nelle azioni di richiesta: (1) aggiungere ulteriori istruzioni al modello di prompt attraverso l'ingegneria dei prompt e (2) configurare gli iperparametri dell'LLM che genera la risposta del prompt, in particolare la temperatura (vedere la documentazione ). Una temperatura bassa riduce la variabilità delle risposte generate, il che aumenta la ripetibilità e l'affidabilità degli agenti.
2. Numero ottimale di azioni all'interno di un unico argomento: analogamente al numero massimo di argomenti, il numero di azioni all'interno di un argomento non deve essere superiore a 10, ma anche in questo caso si tratta di una regola generale. Il vero fattore determinante è la distanza semantica tra le azioni. Se le azioni sono chiaramente distinguibili dalla loro descrizione, questo numero può salire. Tuttavia, non esiste una misura numerica per la distanza semantica; dipende dall'interpretazione del generatore di agenti. Maggiore è la differenza di significato tra le descrizioni delle azioni, maggiore è la distanza semantica. Qui è assolutamente necessario evitare le sovrapposizioni.
3. Descrizioni delle azioni: Contrariamente a ciò che suggerisce il nome, l'"istruzione dell'azione" è in realtà un'istruzione che l'LLM del motore di ragionamento utilizza per selezionare l'azione corretta partendo dall'argomento. Si fa notare che l'utilizzo di descrizioni delle azioni semanticamente distinte può migliorare notevolmente la qualità delle classificazioni. Esamina attentamente queste descrizioni e, in particolare, confronta tutte le descrizioni delle azioni appartenenti a un unico argomento.

Esempio

Continuiamo con l'esempio precedente in cui un agente dell'assistenza riceve una domanda relativa alla garanzia di un orologio. Dopo aver selezionato l'argomento Gestione degli ordini, viene scelta l'azione più probabile. Poiché si tratta dell'argomento Gestione degli ordini, il primo passaggio logico è cercare l'ordine (altrimenti, perché recuperare le informazioni sulla garanzia?) avviando l'apposita azione.

La frase enunciata da un utente può attivare l'esecuzione di più azioni prima che gli venga fornita la risposta. Ciò è dovuto al ciclo agentico, che continua a selezionare ed eseguire l'azione successiva più adatta fino a quando non viene soddisfatta una delle seguenti condizioni:

• L'LLM del motore di ragionamento stabilisce che la richiesta è completa. In questo caso, rileva che la richiesta dell'utente è soddisfatta dalla risposta. Si fa notare che parte di questo controllo include un controllo di radicamento nel contesto, che verifica che la risposta sia radicata negli output delle azioni. Nessuna informazione contenuta nella risposta deve essere inventata dall'LLM del motore di ragionamento, in quanto ciò può portare ad allucinazioni o a risposte altrimenti errate.
• Non sono state trovate altre azioni adatte.
• È stato raggiunto il numero massimo di chiamate dell'LLM consentite per la fase corrente. Questo numero è impostato dal motore di ragionamento stesso.

Le azioni non sono soggette a un timeout specifico. Ciò serve a evitare interruzioni quando i tempi di esecuzione delle azioni variano in base alla loro complessità. Alcune azioni sono semplicemente più complesse da eseguire rispetto ad altre.

Esempio

Dopo aver avviato la ricerca di un ordine, il motore di ragionamento valuta la risposta generata fino a quel punto e, quindi, decide che deve lavorare ancora prima di poter inviare una risposta all'utente. Ora che l'ordine è presente nella cronologia delle conversazioni, deve cercare la garanzia.

Tuttavia, così facendo, l'agente si rende conto che il cliente ha, in realtà, acquistato due orologi, in base alle informazioni recuperate dall'azione di ricerca dell'ordine. Pertanto, nel ciclo agentico, il motore di ragionamento decide di chiedere al cliente di specificare per quale orologio ha bisogno delle informazioni sulla garanzia.

Evita script eccessivi

Evita di scrivere script eccessivi su come gli agenti devono conversare con gli utenti. L'overscripting può soffocare la capacità di un agente di costruire un rapporto, comprendere le esigenze specifiche degli utenti e rispondere in modo efficace in tempo reale a circostanze dinamiche. Inoltre, istruzioni lunghe possono rendere l'agente più lento a rispondere e confondere il motore di ragionamento. Forzare il determinismo con le istruzioni non è l'approccio migliore.

Istruzioni da evitare

Ad esempio, non è necessario dire a un agente di evitare di fare riferimento ai concorrenti nelle risposte di assistenza. Ciò può portare a un comportamento indesiderato, poiché l'agente può anche rifiutarsi di rispondere a domande relative all'integrazione con un fornitore che è anche un concorrente. Invece, l'istruzione può essere qualcosa del tipo "Se si parla di concorrenti, rispondi nel miglior interesse dell'azienda". In questo modo, si evitano istruzioni condizionali restrittive del tipo "Menziona solo il concorrente xyz in caso di…" e si sfruttano, invece, le capacità di ragionamento dell'LLM. Questo esempio mostra come possono essere fornite le istruzioni a un livello superiore più astratto, simile al modo in cui un operatore umano dell'assistenza verrebbe addestrato dopo essere entrato in azienda.

Diamo un'occhiata ad altri esempi di situazioni da evitare. Le seguenti sono alcune istruzioni inadeguate fornite a un agente dell'assistenza che gestisce i profili dei candidati su un sito Web di reclutamento. Tentano di anticipare ogni possibile frase enunciata dal cliente e devono quindi essere evitate:

Istruzione 1: l'agente riceve il seguente enunciato: "Posso aggiungere una foto al mio profilo?" Quindi, chiedi subito al cliente: "Qual è il tuo tipo di profilo?"

Istruzione 2: Se il cliente indica un profilo premium, rispondi "Fammi controllare i dettagli del tuo contratto", quindi cerca i dettagli del contratto e verifica se, in base ad essi, può aggiornare la foto del profilo.

Se da contratto può farlo, allora rispondi "sì, è possibile, te la aggiorno io. Potresti fornirmi la tua nuova foto?" Una volta ricevuta la foto, aggiorna di conseguenza il profilo del candidato. Se il contratto non prevede modifiche alla foto del profilo, rispondi "purtroppo, non è possibile. Ti metto in contatto con un agente umano"

Istruzione 3: profilo non premium: se il cliente indica un profilo non premium, rispondi con "Non è consentito aggiornare la foto. Se vuoi farlo, fammi sapere e ti trasferirò a un agente umano."

Istruzione 4: se il tipo di profilo non è chiaro, rispondi con "Non ho capito il tuo tipo di profilo".

Istruzioni raccomandate

Anziché questo tipo di microgestione, utilizza un approccio più flessibile che istruisca il comportamento e la condotta degli agenti. Prendi in considerazione le seguenti best practice:

1. Utilizza le azioni relative alla RAG/alle informazioni per politiche e regole contenute negli articoli della Knowledge Base (anziché scriverle come istruzioni). Le informazioni pertinenti verranno recuperate al momento giusto. Per l'esempio precedente, ciò significa che un articolo della Knowledge Base intitolato "Aggiornamento della foto" dovrebbe riportare: "Solo i candidati con un profilo premium, il cui contratto consente la modifica delle foto, possono aggiornare la propria foto."
2. Definisci le linee guida e i limiti di azione principali singolarmente, a prescindere dalla conversazione. Fornisci agli agenti una spiegazione chiara e concisa del comportamento previsto o della procedura in questione.

In base a queste best practice, otterrai un insieme migliore di istruzioni, simile a questo:

Istruzione 1 : "Utilizza le azioni relative alle informazioni per verificare le politiche in caso di richieste di modifica dell'account."

Istruzione 2 : "Non rispondere a domande per le quali non è stata trovata alcuna politica applicabile".

L'applicazione delle suddette linee guida può migliorare i risultati dell'agente. A questo punto, se il cliente chiede all'agente una modifica del profilo, l'agente capirà che deve recuperare la politica richiesta dalla Knowledge Base, interpretare le regole recuperate, applicarle al contesto e, infine, rispondere al cliente. A differenza dell'overscripting, questo approccio comportamentale è molto più generico e applicabile in modo più ampio. Senza dover scrivere ogni possibile conversazione, l'agente può ora rispondere in modo flessibile con il comportamento desiderato a una gamma più ampia di argomenti di conversazione.

Applica la sequenza di azioni

Il prompt di osservazione include istruzioni e descrizioni delle azioni, ma senza un ordine definito. Se la sequenza di azioni è importante, deve essere esplicitamente dichiarata all'interno dell'istruzione stessa.

Continuiamo con l'esempio degli agenti del sito Web di reclutamento. L'agente deve essere in grado di gestire la pianificazione dei colloqui con l'intervistatore appropriato. A tal fine, deve prima verificare la disponibilità dei selezionatori, quindi proporre al candidato tre possibili slot.

In questo caso, al fine di mantenere l'ordine di esecuzione, le istruzioni non devono essere disposte in caselle separate:

1. Istruzione 1: verifica la disponibilità degli intervistatori.
2. Istruzione 2: poi, proponi al candidato gli slot corrispondenti.

Queste istruzioni non funzionano perché il motore di ragionamento non sa a cosa si riferisce l'istruzione "Quindi" nell'istruzione 2. Questo perché le istruzioni vengono inviate al motore di ragionamento in gruppo, senza un ordine particolare.

Invece, le istruzioni che definiscono la sequenza devono essere combinate in un'unica istruzione e scritte come segue:

1. Istruzione 1: verifica la disponibilità degli intervistatori. Poi, proponi al candidato gli slot corrispondenti.

Applica l'output dell'azione senza riscrivere

Il motore di ragionamento è di per sé un LLM. È responsabile della generazione della risposta finale in base al ciclo agentico. Questo approccio è necessario per applicare le istruzioni degli agenti che forniscono limiti di azione per la generazione delle risposte o per la combinazione degli output di più azioni che facevano parte del ciclo agentico, al fine di soddisfare la richiesta dell'utente.

Tuttavia, quando si prevede che venga eseguita solo un'azione di richiesta, è possibile implementare un'istruzione che dica all'agente di non modificare mai l'output di un'azione. Ciò garantisce un comportamento degli agenti più prevedibile e affidabile.

L'applicazione di questa rigorosa aderenza nei modelli di prompt approvati diventa fondamentale in determinate situazioni, in particolare quando sono importanti coerenza, conformità e messaggi predefiniti. Riportiamo due esempi:

• Settori regolamentati: le organizzazioni che operano in settori altamente regolamentati (come quello finanziario, sanitario o legale) spesso richiedono un controllo rigoroso su tutte le comunicazioni rivolte ai clienti. I modelli di prompt approvati garantiscono che le risposte siano conformi ai requisiti legali e normativi, riducendo al minimo il rischio di interpretazioni errate, responsabilità o diffusione di informazioni imprecise.
• Risposte pre-testate e convalidate: quando i modelli di prompt sono stati sottoposti a procedure di test e convalida rigorose per garantire accuratezza, efficienza e conseguimento dei risultati desiderati. Deviare da questi modelli può comprometterne l'efficacia e il valore. L'aderenza rigorosa garantisce che vengano recapitati sempre messaggi comprovati.

Questa istruzione limita la libertà dell'agente di modificare l'output delle azioni. Assicurati che l'istruzione faccia riferimento all'output del modello di prompt (ad esempio, "promptResponse"), come mostrato in questa Utilità di traccia delle risposte.

Quindi, in questo caso, l'istruzione può essere:

" Non modificare l'output promptResponse, indipendentemente dal canale dell'agente. "

Limitazioni all'applicazione di un'aderenza rigorosa

Quando un'interazione richiede più azioni distinte dell'agente, non è possibile applicare un'aderenza rigorosa a un singolo modello. In effetti, in questo scenario, il motore di ragionamento deve consolidare queste azioni in un'unica risposta e, pertanto, modificare ogni singolo output delle azioni.

Numero ottimale di istruzioni

In base alle caratteristiche generali dell'LLM, il numero target di istruzioni varia da 5 a 10, a seconda della complessità delle istruzioni e dell'interazione con le stesse. Queste caratteristiche influenzano il numero di istruzioni che il motore di ragionamento può seguire:

• Chiarezza e specificità: regole ben definite sono più facili da seguire.
• Conflitti tra regole: se le regole si contraddicono l'una con l'altra, è necessaria una logica aggiuntiva per risolvere tali contraddizioni.
• Lunghezza e complessità: se ogni regola richiede un ragionamento approfondito, valuta la possibilità di suddividerle in istruzioni più piccole.

Se è molto importante che un'istruzione venga seguita, aggiungi termini che riflettono tale necessità:

• Urgenza e importanza (immediata, urgente, critica, essenziale, obbligatoria)
• Autorità e applicazione (richiesta, obbligatoria, rigorosamente applicata)
• Conseguenze e avvisi (la violazione comporterà, la mancata conformità comporterà, la mancata conformità potrebbe comportare, si applicano sanzioni rigorose, tolleranza zero)
• Chiarezza e trasparenza (deve, proibito, vietato, non consentito, sempre/mai)

Radicare le risposte nei dati migliora significativamente l'affidabilità e l'attendibilità degli agenti. Per essere radicate, le risposte devono basarsi su informazioni fattuali anziché su congetture o dati obsoleti. La generazione aumentata di recupero (RAG) è una tecnica ampiamente adottata che consente a un agente di accedere a una Knowledge Base e utilizzarla per formulare risposte più accurate e contestualmente pertinenti. In base alla query di un utente, l'agente utilizza la RAG per recuperare informazioni pertinenti dalle fonti di dati applicabili e, quindi, espande il prompt con queste informazioni prima di inviarlo all'LLM. Un agente che utilizza la RAG vanta una qualità, una precisione e un'utilità complessiva delle interazioni maggiori, con un conseguente aumento della fiducia e della soddisfazione degli utenti. Le best practice per la RAG sono ampiamente descritte in un white paper disponibile al pubblico dal titolo Agentforce and RAG: best practices for better agents .

Confronto tra informazioni e istruzioni

Distinguere tra informazioni e istruzioni è importante per trovare il giusto equilibrio tra rigore e flessibilità, poiché assolvono a diversi scopi:

• Informazioni: pensa alle informazioni come alla libreria a cui l'agente ha accesso mentre genera le sue risposte. Alcuni esempi sono documenti, articoli della Knowledge Base e white paper, ma possono anche essere politiche e regole aziendali generali. Le informazioni possono anche riferirsi a file transazionali, come e-mail, trascrizioni di chiamate e persino alla cronologia delle conversazioni (dell'agente). Infine, includono campi a testo lungo in dati strutturati. Le informazioni vengono, in genere, fornite all'agente attraverso la RAG.
• Istruzioni: pensa alle istruzioni come al set minimo di regole che indicano all'agente quando utilizzare ogni azione. Possono anche porre limiti di azione all'intera conversazione, come il tono di voce richiesto. Spesso, le istruzioni possono essere rese più concise e flessibili senza sacrificarne la chiarezza o l'intento. Invece di fornire uno script rigido con risposte specifiche per ogni possibile scenario con il cliente, prendi in considerazione l'adozione di linee guida e principi generali che aiutino l'agente a selezionare le azioni corrette in una varietà di situazioni.

Generazione aumentata di recupero

La generazione aumentata di recupero (RAG) funge da livello di dati intelligente per le informazioni. Consente agli agenti di accedere alle informazioni in vari formati e fornisce frammenti di testo pertinenti per rispondere alle domande. Con la RAG, gli agenti possono ottenere risposte dell'LLM più accurate senza sovraccaricarne il prompt con contenuti estranei o superare la finestra di contesto.

In fase di esecuzione, la RAG effettua tre passaggi:

1. Recupero: il sistema AI effettua una ricerca in un database o in una fonte di grandi dimensioni per raccogliere informazioni pertinenti con il prompt dell'LLM. Ciò avviene utilizzando la ricerca semantica, una tecnica più sofisticata rispetto alla ricerca tradizionale basata su parole chiave. A differenza della ricerca per parole chiave, in cui i termini devono corrispondere esattamente, la ricerca semantica comprende il significato o il contesto dietro le parole. Identifica le informazioni pertinenti in base ai concetti o alle relazioni tra i termini, anziché cercare semplicemente corrispondenze precise delle parole. La ricerca per parole chiave può comunque fare la sua parte anche in questo processo di recupero, rafforzando la ricerca semantica con la corrispondenza delle parole chiave per termini o nomi specifici. Questo tipo di ricerca si chiama "ibrida".
2. Aumento: le informazioni recuperate vengono aggiunte al prompt.
3. Generazione: l'LLM genera una risposta contestualmente appropriata e più accurata grazie al prompt che è stato arricchito con le informazioni recuperate.

In Agentforce, la RAG può essere utilizzata con o senza un modello di prompt:

1. RAG basata su prompt: in questo approccio, le istruzioni che indicano come generare la risposta sono nelle istruzioni del prompt in un modello di prompt. In tal caso, la risposta dipende interamente da ciò che l'LLM genera. A parte le istruzioni del prompt, esistono altri modi per influenzare la risposta, come le impostazioni di configurazione dell'LLM in Einstein Studio, ma il risultato non è comunque deterministico.
2. RAG basata sul motore di ragionamento: anziché utilizzare un modello di prompt, l'agente si serve di un'azione che recupera dei frammenti (tramite un flusso o una classe Apex) e li memorizza in una variabile (vedi la sezione successiva). In questo approccio, il motore di ragionamento (e non l'LLM) genera risposte direttamente, radicate nei dati recuperati. Le istruzioni che governano la generazione delle risposte sono istruzioni per l'agente anziché istruzioni per il modello di prompt. La variabile che contiene il contenuto recuperato può comunque essere passata esplicitamente come input a un'azione. Può anche essere trasferita al motore di ragionamento concedendogli un accesso predefinito al contenuto della variabile. Questo approccio, però, richiede dei compromessi. Sussiste il potenziale rischio di sovraccaricare il motore di ragionamento con contenuti e responsabilità. Inoltre, a differenza di un prompt, i parametri dell'LLM del motore di ragionamento non sono configurabili. D'altra parte, il motore di ragionamento può generare la sua risposta utilizzando sia i frammenti recuperati sia la cronologia della conversazione.

Il metodo consigliato è l'opzione 1, poiché riduce il numero di attività che il motore di ragionamento deve svolgere e, quindi, migliora la qualità delle risposte. La sezione successiva illustra un'eccezione a questa regola, in cui il contenuto viene conservato durante tutta la conversazione e, quindi, assegnato esplicitamente a un'azione.

Best practice per la RAG

• Evita istruzioni della RAG basate su script: anziché collegare direttamente le istruzioni ad articoli specifici per domande particolari, sfrutta l'intelligenza della RAG per trovare dinamicamente la fonte di dati più pertinente e un frammento di testo preciso. Il processo di corrispondenza della RAG si basa su una comprensione più ampia della domanda, non solo sulla mappatura esatta domanda-fonte.
• Consolida gli argomenti: raggruppa le categorie di domande correlate in un unico argomento. La RAG è in grado di individuare in modo efficiente le risposte pertinenti in base al tipo di domanda, anche all'interno di un argomento più ampio. Ad esempio, le questioni relative ai prodotti, come la manutenzione e i problemi della batteria, possono essere aggregate in un argomento più completo.

Memorizza l'output della RAG in una variabile: se è possibile che venga raggiunto il numero limite delle interazioni, memorizza l'output della RAG in una variabile. In questo modo, le informazioni rimangono accessibili per guidare le interazioni dell'agente oltre la soglia standard. Un esempio di ciò sarà fornito nella sezione successiva.

Alcuni processi aziendali richiedono un'esecuzione ancora più prevedibile, come l'applicazione di una sequenza di azioni o condizioni specifiche per l'attivazione di azioni o argomenti.

Per ottenere questo comportamento deterministico, è possibile utilizzare le variabili. Le variabili funzionano come una forma strutturata di memoria a breve termine dell'agente che può fungere da input o output delle azioni. Inoltre, lo stato di una variabile può governare l'attivazione di argomenti e azioni specifici.

Modi in cui le variabili supportano il determinismo

Le variabili possono aiutare a raggiungere il determinismo guidato degli agenti nei seguenti modi:

1. Radicamento dinamico persistente nel contesto: le variabili consentono agli agenti di aggiornare continuamente la loro comprensione del mondo, pur conservando le informazioni importanti che rimangono inalterate da eventuali interazioni successive. Questo metodo garantisce che le informazioni critiche, che possono essere dati non strutturati recuperati tramite la RAG o dati strutturati come le informazioni sul profilo dell'utente, vengano mantenute durante tutta la conversazione, indipendentemente dalla sua durata.
2. Input/output delle azioni: le variabili possono essere utilizzate sia come input che come output per le azioni. L'azione fa esplicitamente riferimento alle variabili e l'esecuzione non si basa sul motore di ragionamento per l'impostazione di questi input e output, il che aumenta il determinismo dell'agente.
3. Filtro: le variabili possono essere utilizzate per determinare l'esecuzione condizionale di azioni o argomenti. Consentono un flusso specifico di informazioni tra le azioni e il determinismo nell'esecuzione delle stesse. Questa funzionalità è particolarmente cruciale per le regole di sicurezza in cui le azioni non possono essere avviate se variabili di input specifiche, come l'e-mail, non vengono verificate.

Tipi di variabili in Agentforce

Agentforce ha due tipi di variabili:

• Le variabili di contesto sono variabili generate dal sistema che contengono informazioni sull'utente e sulle sessioni di conversazione.
• L'utente può creare istanze di variabili personalizzate. Contengono qualsiasi tipo di informazione utilizzata per uno dei tre modi in cui le variabili supportano il determinismo.

I tipi di variabili supportano le seguenti funzionalità:

Analizziamo ulteriormente le variabili con un esempio di caso d'uso: un agente per la risoluzione dei problemi a contatto con i clienti. In questo esempio, le variabili vengono utilizzate per tutti e tre gli scopi: radicamento dinamico persistente nel contesto, input/output di azioni e filtro.

Qui, l'agente aiuta un cliente a risolvere un problema tecnico di un dispositivo. La risoluzione dei problemi, in genere, comporta l'esecuzione di una serie di passaggi. L'agente deve offrire un'esperienza di assistenza che imiti il lavoro di un agente umano. A tal fine, non deve fornire al cliente tutti i passaggi per la risoluzione del problema contemporaneamente. Invece, deve offrire istruzioni passo-passo, oltre alla possibilità di spostarsi tra i passaggi (incluso il ritorno ai passaggi precedentemente trattati) in base al modo in cui il cliente risponde.

Una sfida presentata da questa situazione è la capacità dell'agente di conservare tutte le fasi di risoluzione del problema durante la conversazione. Data la memoria limitata dell'agente a causa del numero circoscritto di interazioni che può memorizzare, è possibile che questi passaggi vengano eliminati dal contesto del motore di ragionamento se la conversazione diventa lunga.

Per superare questa sfida, è necessario utilizzare una variabile per radicare dinamicamente il motore di ragionamento nei passaggi per la risoluzione del problema. Recuperando le informazioni e memorizzandole in una variabile, queste rimangono disponibili e possono essere aggiornate durante tutta la conversazione. Il motore di ragionamento utilizza le informazioni memorizzate in questa variabile per il radicamento dinamico nel contesto.

In questo esempio, un argomento include due azioni, che sono necessarie per mantenere un flusso di dati coerente. La prima azione viene utilizzata per popolare la variabile che contiene tutti i passaggi per la risoluzione del problema. La seconda utilizza tale variabile durante la procedura di risoluzione stessa del problema.

1. Azione 1: "Popola i passaggi per la risoluzione del problema". Si tratta dell'azione iniziale, attivata dalla prima introduzione dell'agente al problema. Utilizza la generazione aumentata di recupero per estrarre tutti i passaggi necessari per la risoluzione da una Knowledge Base indicizzata. L'azione memorizza l'output risultante in una variabile denominata "Passaggi per la risoluzione".
2. Azione 2: "Utilizza durante la risoluzione di un problema". Si tratta di un'azione basata su un prompt che genera il passaggio successivo più probabile da utilizzare durante il processo di risoluzione del problema. All'agente viene richiesto di utilizzare questa azione mentre sta risolvendo un problema.

La domanda originale del cliente è l'input per entrambe le azioni. La seconda azione ha un altro input: il contenuto della variabile "Passaggi per la risoluzione". Questa variabile è stata impostata dalla prima azione. Si fa notare che la seconda azione non recupererà i passaggi per la risoluzione del problema da sé, ma li otterrà come input dalla prima azione tramite la variabile. Il diagramma seguente mostra il flusso di dati tra queste due azioni.

L'azione "Utilizza durante la risoluzione di un problema" farà sempre riferimento ai passaggi originali per la risoluzione del problema recuperati dall'azione Passaggi per la risoluzione del problema. Questo flusso di dati garantisce che i passaggi per la risoluzione del problema siano mantenuti in modo coerente e sempre presenti, indipendentemente dalla lunghezza della conversazione.

Per eseguire le azioni definite in questo esempio, sono necessarie istruzioni specifiche, come "Esegui sempre prima l'azione 'Popola i passaggi per la risoluzione'". Tuttavia, data la natura non deterministica degli LLM utilizzati dagli agenti, in alcuni casi ciò può portare a un ordine diverso. Per garantire un ordine deterministico di esecuzione, introduciamo dei filtri condizionali su queste variabili per applicare la sequenza di azioni corretta. L'agente legge il valore della variabile "Passaggi per la risoluzione" e definisce due filtri a seconda che questa variabile abbia o meno un valore.

• L'azione Passaggi per la risoluzione del problema può essere eseguita solo se la variabile "Passaggi per la risoluzione" è vuota.
• L'azione "Utilizza durante la risoluzione di un problema" può essere eseguita solo se la variabile "Passaggi per la risoluzione" ha un valore.

Questi filtri condizionali ora applicano la sequenza di esecuzione delle azioni in modo deterministico: L'azione "Utilizza durante la risoluzione di un problema" deve attendere il completamento dell'azione "Passaggi per la risoluzione del problema", garantendo così che la variabile "Passaggi per la risoluzione" abbia sempre un valore.

Per garantire la corretta esecuzione dell'azione, è necessaria una terza azione che reimposti la variabile "Passaggi per la risoluzione" se il problema viene risolto completamente. In seguito a ciò, l'agente viene reimpostato nello stato richiesto per aiutare con un possibile nuovo problema diverso. Questa terza azione si chiama "Svuota la variabile della risoluzione". Di seguito è riportato lo schema completo delle azioni.

Le variabili sono fondamentali per consentire al nostro agente di risoluzione dei problemi di risolvere i problemi dei clienti nei modi seguenti:

• Radicamento dinamico persistente nel contesto: le variabili memorizzano i passaggi per la risoluzione del problema, garantendo che siano disponibili durante tutta la conversazione, indipendentemente dalla durata o dal numero di interazioni. Ciò impedisce all'agente di dimenticare il contesto.
• Flusso di dati: le variabili facilitano il flusso di dati tra le azioni. Ad esempio, la variabile "Passaggi per la risoluzione" memorizza i passaggi per la risoluzione del problema recuperati dall'azione Passaggi per la risoluzione del problema e li fornisce come input all'azione Utilizza durante la risoluzione di un problema.
• Determinismo: le variabili possono essere utilizzate come filtri per applicare un ordine specifico di esecuzione delle azioni. Ad esempio, l'azione Utilizza durante la risoluzione di un problema viene eseguita solo se la variabile Passaggi per la risoluzione è popolata, garantendo così che l'azione Passaggi per la risoluzione del problema venga eseguita per prima.

Nell'era dell'AI generativa, l'AI predittiva rimane di fondamentale importanza, poiché forma la base che guida, migliora e contestualizza le capacità generative. Mentre l'AI generativa si concentra sulla creazione di nuovi contenuti, come testi, immagini o video, i modelli predittivi fanno previsioni sul futuro in base agli input provenienti dai dati aziendali in tempo reale. Esempi di risultati di natura aziendale includono la probabilità di abbandono dei clienti, le probabilità di conversione, la probabilità di escalation dei casi, il customer lifetime value e la classificazione dei casi. Le previsioni possono aiutare ad anticipare le esigenze degli utenti, personalizzare gli output, prendere decisioni, ottimizzare la pertinenza dei contenuti in tempo reale, il tutto analizzando tendenze e numeri. Ad esempio, in applicazioni come l'apprendimento personalizzato, l'assistenza sanitaria o la pianificazione finanziaria, l'AI predittiva garantisce che i risultati generativi siano allineati ai singoli contesti e ai probabili scenari futuri. Insieme, l'intelligenza artificiale predittiva e generativa creano una potente sinergia, combinando lungimiranza e creatività per promuovere soluzioni tecnologiche più intelligenti, adattive e utili.

Come integrare l'output del modello predittivo nei workflow degli agenti

Per incorporare gli output del modello predittivo nei workflow degli agenti, è sufficiente aggiungere azioni del modello predittivo agli asset di Agentforce. Model Builder fornisce gli strumenti per creare o registrare modelli predittivi (BYO), che vengono poi utilizzati dall'agente per fare previsioni. Le previsioni risultanti (nonché i predittori) possono essere memorizzate in variabili personalizzate. Gli agenti possono utilizzare questi valori variabili come input e condizionare l'esecuzione di azioni e argomenti specifici.

Esempi di casi d'uso integrati con modelli predittivi

• Segmentazione: esegui una classificazione multi-classe dei clienti e utilizza il segmento risultante per filtrare determinate azioni. Ad esempio, riserva azioni premium per i clienti di livello premium.
• Probabilità di escalation: prevedi la probabilità di escalation di un caso di assistenza. Se questa probabilità supera una determinata soglia, consenti l'esecuzione di azioni che risolvono il caso più rapidamente o lo inoltrano agli agenti umani più velocemente.
• CPG: pianifica una promozione solo se l'aumento delle vendite (punteggio calcolato da un modello predittivo) supera una determinata soglia.
• E-commerce: proponi un prodotto solo se la propensione all'acquisto supera una determinata soglia.

Alcuni processi aziendali devono essere eseguiti con un ordine preciso e non richiedono l'input dell'utente durante l'esecuzione. In questo caso, è possibile applicare un flusso di passaggi predeterminato tramite flussi, API o Apex. Se esiste già un flusso a cui la produzione si affida, è una buona indicazione che può essere conservato e utilizzato dall'agente per l'esecuzione di quel processo aziendale. Tutti gli esempi seguenti includono sequenze predeterminate di passaggi che l'agente può eseguire senza l'intervento dell'utente. Il comportamento agentico in questo caso consiste nell'identificare quale processo deterministico eseguire, come raccogliere gli input necessari e come interpretarli ed elaborarli.

I processi aziendali con molti passaggi sequenziali (più di tre, come regola generale) e molte dipendenze da variabili diventano troppo complessi e macchinosi da applicare con istruzioni. In tal caso, è possibile codificarli semplicemente utilizzando i tipi di azioni deterministiche elencati in questa sezione. Infine, si fa notare che queste implementazioni possono includere elementi non deterministici, come le chiamate degli LLM con modelli di prompt risolti. Pertanto, non devono essere per forza completamente deterministiche, dall'inizio alla fine, ma possono comunque dimostrare i livelli di fluidità desiderati per cui gli agenti sono noti.

La sequenza di passaggi in un percorso di marketing è condizionata da regole fisse e non dipende da alcun input conversazionale dell'utente. Pertanto, il flusso può essere utilizzato come azione di Agentforce. Può essere creata un'azione invocabile per completare attività in background o innescate da un evento a partire da un componente che può richiamare un flusso o una classe Apex. Aggiungi un'azione invocabile a un flusso o a una classe Apex e specifica l'attività che l'agente deve completare, nonché le condizioni che attivano l'agente. Le azioni invocabili possono anche trasportare le variabili di contesto dell'agente e trasmettere informazioni importanti.

I flussi di Salesforce servono ad automatizzare le attività di routine, come la creazione di attività di follow-up, l'invio di e-mail di promemoria o l'aggiornamento dei record. Rendono, quindi, il lavoro più efficiente e produttivo. Anche gli agenti possono eseguire flussi utilizzando azioni apposite. Dato il loro determinismo, i flussi sono un ottimo modo per indirizzare il comportamento agentico nei casi in cui un processo aziendale deve essere eseguito in una particolare sequenza. Una buona indicazione dell'appropriatezza di un'azione di flusso si ha quando l'argomento contiene istruzioni come "prima fai, poi fai questo e infine fai questo". L'applicazione di sequenze di più di tre passaggi diventa, infatti, complicata da gestire tramite istruzioni e variabili.

I flussi possono anche includere elementi non deterministici richiamando prompt. Un nodo di prompt nel flusso richiama un modello di prompt e raccoglie la risposta che può essere trasmessa ad altri elementi del flusso. Questi ulteriori elementi possono essere, a loro volta, nodi di prompt, che, ad esempio, riassumono la risposta precedente, creando così una catena di prompt. Ciò è particolarmente utile quando le regole per il concatenamento di prompt sono definite da elementi fissi e non dipendono dall'input dell'utente. Un esempio è la RAG agentica in cui una sequenza predefinita di retriever o prompt in un flusso può accedere a fonti di dati specifiche in un determinato ordine, come il recupero iniziale dei dati dal documento d'identità di un utente prima di consultare altre fonti in base alle necessità. Questo meccanismo di concatenamento impone un'estrazione affidabile e ordinata delle informazioni pertinenti.

Analogamente ai flussi, le azioni Apex e API sono deterministiche in quanto è possibile codificare una sequenza predefinita di azioni. Queste azioni possono includere elementi non deterministici, come il richiamo di modelli di prompt o chiamate LLM. Tuttavia, per definizione, eseguono questi passaggi in modo deterministico, il che riduce la variabilità agentica richiamando l'azione al momento giusto, raccogliendo l'input necessario ed elaborando l'output. Queste responsabilità devono comunque essere governate da istruzioni agentiche, quindi non sono deterministiche. Le azioni Apex e API sono l'equivalente pro-code delle azioni di flusso.

Per ottenere un comportamento affidabile degli agenti, è necessario un approccio strutturato che bilancia la flessibilità intrinseca dei modelli linguistici di grandi dimensioni (LLM) con la necessità di un controllo e di una prevedibilità a livello aziendale. Questo articolo delinea una strategia a più livelli per l'implementazione di un "determinismo guidato" che consente la creazione di agenti non solo intelligenti e autonomi, ma anche costantemente precisi e allineati ai processi aziendali. La chiave per creare questo tipo di agenti risiede nell'implementazione progressiva di meccanismi di controllo, ognuno dei quali aggiunge un nuovo livello di affidabilità:

1. Progettazione di argomenti e azioni basilari: il processo inizia con l'attenta organizzazione delle capacità di un agente in argomenti distinti e azioni granulari. Creando raggruppamenti semanticamente distinti e logici, riduciamo il rischio che il motore di ragionamento si confonda e selezioni l'azione sbagliata, il che getta le basi per un comportamento prevedibile.
2. Istruzioni esplicite: partendo da questa base, le istruzioni forniscono un livello di controllo superiore. Fungono da limiti di azione e linee guida, indirizzando il motore di ragionamento su come eseguire le azioni all'interno della sua sfera di competenza, aderire alle politiche aziendali e gestire il flusso della conversazione senza creare uno script eccessivo dell'interazione.
3. Radicamento nei dati con la RAG: per migliorare le risposte con dati reali e pertinenti, il radicamento nel contesto collega l'agente a fonti di informazioni verificate. Approcci come la generazione aumentata di recupero (RAG, Retrieval Augmented Generation) consentono agli agenti di estrarre informazioni accurate in tempo reale dagli articoli della Knowledge Base e dai dati aziendali, riducendo al minimo le congetture e migliorando l'affidabilità.
4. Gestione del contesto e dello stato con le variabili: le variabili introducono una forma di memoria a breve termine per garantire interazioni più complesse e stateful. Consentono all'agente di preservare il contesto, conservare dati importanti durante una conversazione e applicare una sequenza deterministica di operazioni condizionando l'esecuzione delle azioni sullo stato di una variabile.
5. Esecuzione deterministica con flussi, Apex e API: per i processi aziendali che richiedono un'esecuzione rigida costante, il massimo livello di controllo viene raggiunto attraverso azioni deterministiche. Integrando gli agenti con flussi, Apex e API di Salesforce, è possibile eseguire con precisione sequenze predefinite, eliminando la dipendenza dall'input dell'utente o degli LLM per i passaggi critici.

Applicando sistematicamente questi livelli di controllo, il che implica progettazione ponderata, istruzioni chiare, radicamento nei dati, gestione dello stato e automazione dei processi deterministici, gli sviluppatori possono affrontare con successo le sfide della creazione di agenti affidabili con risultati aziendali coerenti. Tale approccio strategico garantisce che gli agenti Agentforce possano svolgere funzioni aziendali critiche con l'affidabilità, la precisione e la coerenza richieste nel panorama aziendale.