Quanto "umano" dovrebbe sembrare il tuo agente AI? Non molto, in realtà

Una delle caratteristiche più significative degli agenti AI è che è possibile conversare con la tecnologia come se fosse una persona. Elaborando il linguaggio naturale, l’agente AI comprende, interpreta e genera risposte che sembrano date da un essere umano. Sorge, però, spontanea una domanda: quanto umano dovrebbe sembrare un agente? 

Non molto, in realtà. Sebbene gli agenti possano sembrare umani, configurarli in modo che lo sembrino in modo eccessivo può far sentire gli utenti frustrati e portare ad aspettative mal riposte (e, alla fine, deluse). 

Progettare gli agenti AI in modo corretto è fondamentale. Trattandosi di una categoria completamente nuova, nessuno ha tutte le risposte; tuttavia, i progettisti dovrebbero concentrarsi su principi essenziali, come inclusione, affidabilità e centricità dell’essere umano. In questo modo, ci si assicura che il confine tra umano e tecnologia sia sempre netto. 

Si prevede che il mercato degli agenti raggiungerà i 47 milioni di dollari entro il 2030, riflettendo la domanda di tecnologie che aumentino efficienza e produttività, arricchiscano il potenziale umano e agiscano in autonomia. Ovviamente, gli agenti saranno altamente richiesti per supportare le situazioni a contatto con i clienti, come l’assistenza e il marketing, ma anche internamente, per aiutare i lavoratori dell’organizzazione a svolgere qualsiasi tipo di attività. Progettarli come uno strumento e non come un lavoratore umano è, quindi, importante per integrarli nel workflow in modo efficace.

Affidarsi a chatbot o agenti che vogliono sembrare umani a tutti i costi può essere, infatti, controproducente. Immagina di porre all’agente una domanda seria sul tuo conto corrente o un esame medico e che risponda in modo molto colloquiale, con un linguaggio empatico. Potresti pensare che si tratti di una persona reale, ma se scoprissi che invece è una tecnologia potrebbe sorgere in te un senso di frustrazione e sfiducia. Vuoi risposte reali o un agente AI che finge di essere il tuo miglior amico?

Le aziende devono tenere conto di una serie di linee guida quando creano un agente. Possono sembrare umani, ma ciò non significa che debbano anche assumere caratteristiche umane. I progettisti di interfacce utente devono pensare a come aiutare gli utenti a distinguere tra agenti digitali e operatori umani, ponendosi domande come: dovrebbero avere un nome o usare i pronomi? Dovrebbero essere rappresentati da un avatar o da una persona reale? Dovrebbero essere in grado di comprendere le battute emotive e reagirvi? 

Yvonne Gando, Senior Director del reparto UX di Salesforce, ha affermato che le aziende potrebbero essere tentate di conferire all’agente tratti umani per renderlo più verosimile. Tuttavia, le incoraggia a concentrarsi più sulla competenza che sulla personalità e sottolinea l’importanza di mantenere la distinzione tra essere umano e AI.

Gli agenti dovrebbero arricchire il potenziale umano, non fingere di essere “umani digitali”. Perché? Conferire agli agenti AI qualità umane può portare gli utenti a nutrire aspettative irrealistiche. Di fatto, non sono in grado di empatizzare o comprendere le emozioni. Inoltre, se rendiamo sfocato il confine tra umano e macchina, le persone potrebbero sviluppare un legame emotivo superfluo o iniziare ad affidarsi agli agenti in modi che potrebbero condurre a problemi etici o abusi.

“È necessario concentrarsi sulle esigenze del cliente, non su quello che può fare l’AI”, ha dichiarato Gando. 

Suggeriamo di seguito alcuni principi di progettazione degli agenti AI. 

Principio di progettazione degli agenti AI n. 1: Concentrati sul lavoro, non sull’agente che lo svolge

Il compito dell’agente è svolgere attività di routine in modo da consentire ai lavoratori di avere più tempo da dedicare a problematiche più complesse e di essere più produttivi ed efficienti. L’attenzione, quindi, dovrebbe essere rivolta ai compiti, alle attività e ai risultati che un utente può raggiungere tramite l’agente, non all’agente stesso. Prima di decidere se assegnare un genere o altri tratti umani al tuo agente, chiediti se è un requisito per il completamento dell’attività alla quale sarà dedicato. Questo approccio ti aiuterà a concentrarti sulle esigenze dell’utente. 

“Se agli agenti AI vengono conferite personalità umane, gli utenti potrebbero iniziare a interagire con loro come se fossero persone”, ha detto Gando. “Se l’agente delude tali aspettative o fraintende una domanda, spesso ne consegue un senso di delusione e la perdita di fiducia nel brand. È più logico far sì che le interazioni con l’AI siano utili e accessibili, senza creare un falso senso di legame umano”.

Evita di assegnare dei pronomi agli agenti, perché ciò potrebbe indurre a pensare che abbiano la stessa importanza di un lavoratore umano. Anziché avere un agente che dice “Volevo darti questi documenti”, progettalo affinché dica “Ecco alcuni documenti che potrebbero esserti utili”.

Principio di progettazione degli agenti AI n. 2: Identifica sempre gli agenti come tali

Gli agenti AI stanno diventando così abili nelle comunicazioni in linguaggio naturale che può essere difficile capire se si sta parlando con una persona o una tecnologia. Tre Stati, California, Utah e Colorado, hanno promulgato delle leggi che impongono ai bot di autodenunciarsi come tali in determinate circostanze. Al di là degli obblighi, la prassi migliore è dichiarare subito l’uso dell’AI in qualsiasi interazione con i clienti. 

“Si dovrebbe sempre iniziare una conversazione sapendo che l’entità con cui si sta interagendo è AI”, ha affermato Gando. “Quando il cliente viene tenuto all’oscuro di ciò, si incorre in una reale perdita di fiducia e trasparenza”.

Agentforce di Salesforce, per impostazione predefinita, avvisa gli amministratori e i manager degli agenti quando si fa ricorso all’AI. Dichiararne esplicitamente l’uso garantisce che i destinatari di e-mail autogenerate sappiano che sono state create ed eseguite dall’AI. Un disclaimer non rimovibile e non modificabile sotto la riga della firma aumenta la trasparenza.

Se una richiesta lo confonde o va oltre la funzione per cui è stato programmato, l’agente dovrebbe inoltrare subito il problema a un operatore umano. In un caso del genere, dovrebbe anche avvertire chiaramente il cliente del trasferimento. 

L’Agente del servizio Einstein, ad esempio, inoltra automaticamente le domande o le chiamate di assistenza più complesse agli operatori umani sulla base di parametri impostati dall’azienda.

Principio di progettazione degli agenti AI n. 3: Mantieni una chiara distinzione tra lavoratori umani e digitali

All’inizio di quest’anno, un’azienda tecnologica attiva nel settore delle risorse umane ha subito un repentino contraccolpo quando ha annunciato che avrebbe “dato ai lavoratori digitali dati ufficiali sui dipendenti”, con tanto di onboarding, manager e integrazione nell’organigramma dell’azienda. 

Morale della favola: agli esseri umani non piace essere equiparati alle macchine. Gli agenti AI supportano la manodopera umana semplificandone il lavoro e consentendo così alle aziende di crescere contenendo i costi. Gli agenti non dovrebbero essere considerati alla stregua di compagni di team o stakeholder, ma piuttosto come parti integranti di un workflow. Se decidi di implementarli, supporta i lavoratori investendo nella formazione, nella creatività e nelle doti intellettuali peculiari degli esseri umani.

Altro consiglio: quando devi definire un agente, concentrati sulla funzione lavorativa anziché sull’agente che la svolge. Ad esempio, la prassi migliore è indicare un agente come “servizio clienti” o “rinnovi” rispetto ad “addetto del servizio clienti” o “responsabile dei rinnovi”. 

Principio di progettazione degli agenti AI n. 4: Tieni in considerazione inclusione, accessibilità e identità del brand

Gli agenti AI, soprattutto quelli usati in situazioni a contatto con i clienti, devono riflettere l’identità specifica del tuo brand. Un retailer di lusso e un negozio “tutto a un euro”, ad esempio, appartengono entrambi al settore della vendita al dettaglio, ma hanno destinatari e aspettative completamente diversi. Gli agenti dovrebbero, quindi, essere progettati di conseguenza. 

Come tutte le tecnologie, anche gli agenti dovrebbero essere inclusivi e accessibili per consentire diverse modalità di interazione. È importante assicurarsi che gli utenti con disabilità possano interagire con l’AI in modo efficace, che sia mediante screen reader, navigazione tramite tastiera o comandi vocali.

Salesforce ha sviluppato una serie di linee guida etiche per gli agenti, che potrebbero tornare utili. 

Valuta opzioni di testo per coloro che preferiscono o hanno bisogno di interagire tramite testo e opzioni vocali per gli utenti che prediligono o necessitano di interazioni audio. Usa un linguaggio diretto e chiaro, di facile comprensione. Questo aspetto è importante soprattutto per gli utenti con disabilità cognitive o per quelli che usano servizi di traduzione.

Usa un linguaggio semplice e inclusivo, facendo attenzione a evitare distorsioni, stereotipi e gergo che potrebbe offendere o confondere gli utenti. 

“Bisogna essere cordiali”, ha affermato Gando. “Se l’agente si rivela eccessivamente informale, potresti passare per un’azienda che non prende troppo sul serio i propri clienti. Se è troppo formale, invece, potresti dare un’impressione di eccessiva freddezza e rigidità. È necessario trovare un equilibrio tra questi due poli”.  

Per sapere se sei sulla strada giusta, prevedi dei cicli di feedback dove gli utenti possono valutare l’efficienza dell’agente. È un modo per consentirgli di apprendere e adattarsi continuamente. 

La produttività vince sulla personalità

Gli agenti sono l’ultimo grande progresso dell’AI. Sono stati progettati per incrementare la produttività, non per fingersi persone. Se ti ostini a farli sembrare umani, rischi di deludere gli utenti e di distrarli dal vero potenziale dell’agente. Gli agenti non hanno bisogno di nomi o personalità, ma solo delle funzionalità che permettano loro di migliorare i risultati aziendali.