Che cos'è la generazione aumentata di recupero (RAG)?

I modelli linguistici di grandi dimensioni (LLM), la forza alla base dell'AI generativa, sanno fare di tutto, dal rispondere a domande complicate alla creazione di contenuti originali. Ma le aziende si trovano ad affrontare una sfida chiave con gli LLM: le limitazioni dei dati. È qui che entra in gioco la generazione aumentata dal recupero (RAG).

La RAG consente alle aziende di collegare i propri dati con gli LLM, offrendo alle imprese opportunità di intelligenza artificiale più affidabili, pertinenti e tempestive. Ad esempio, una volta stabilita la connessione ai dati interni con la RAG, gli agenti AI autonomi possono fornire risposte del servizio clienti che tengono conto delle domande passate o generare brief di marketing basati sulle attuali linee guida del marchio.

Diamo un'occhiata a cos'è esattamente la RAG, quali vantaggi può offrire alla tua attività, come funziona e come muovere i primi passi in tal ambito.

Di cosa parleremo:

• Che cos'è la generazione aumentata dal recupero (RAG)?
• Quali sono i vantaggi della generazione aumentata dal recupero?
• Come funziona la generazione aumentata dal recupero?
• Quali diversi tipi di RAG esistono?
• Che cos'è un agente LLM con architettura RAG?
• Ecco come la generazione aumentata dal recupero può aiutare i tuoi team
• Esempi di generazione aumentata dal recupero per settore
• Come muovere i primi passi con la generazione aumentata dal recupero

La generazione aumentata dal recupero è una tecnica che offre migliori risultati di AI generativa, consentendo alle aziende di fornire automaticamente i dati proprietari più aggiornati e pertinenti a un LLM esistente.

Un modello di intelligenza artificiale (AI) è valido solo nella misura in cui lo è ciò che gli viene insegnato. Per eccellere, ha bisogno di un contesto adeguato e di una serie di dati concreti, non di informazioni generiche. Un LLM standard non è sempre aggiornato, né può accedere in modo affidabile ai tuoi dati o comprendere le relazioni con i tuoi clienti. È qui che i modelli RAG possono offrire aiuto.

Attraverso la RAG, le aziende possono fare in modo che i modelli di AI attingano alle informazioni interne più aggiornate. Non si tratta solo di dati strutturati, come un foglio di calcolo o un database relazionale: significa recuperare tutti i dati disponibili, compresi quelli non strutturati, come e-mail, PDF, registri di chat, post sui social media e altri tipi di informazioni che potrebbero portare a un migliore output dell'AI.

La generazione aumentata dal recupero è un approccio conveniente che potenzia la tua strategia di intelligenza artificiale offrendo a collaboratori e clienti esperienze di qualità superiore. Tra i principali vantaggi aziendali derivanti dall'utilizzo di un modello RAG vi sono:

• Tempestività e pertinenza: fornendo accesso ai dati aziendali interni più aggiornati, la RAG consente agli LLM di generare risposte più opportune. Nuove informazioni e apprendimento dalle interazioni passate spesso si traducono in maggiore qualità.
• Maggiore fiducia: una sfida chiave con gli LLM standard può essere rappresentata dalle allucinazioni, ossia l'output di risposte imprecise o errate. Un LLM con RAG, che fornisce le informazioni proprietarie di un'azienda a un modello esistente, riduce la probabilità di tale evenienza contestualizzando la generazione in dati aziendali verificati e aggiornati.
• Più controllo: gli LLM standard sono in genere addestrati sulla base di un insieme opaco e variegato di fonti di dati. Con un LLM con RAG è possibile ottenere maggiore controllo espandendo i dati generali con informazioni provenienti da fonti da te specificate.
• Ricerca avanzata: le aziende oggi sono alle prese con una marea di insight, interazioni e informazioni provenienti da numerose fonti diverse. La RAG migliora le funzioni di ricerca applicando i vantaggi dell'AI ai dati aziendali.

La RAG utilizza la ricerca semantica per recuperare frammenti di informazioni pertinenti da qualsiasi fonte di dati, inclusa la piattaforma di dati dei clienti interna di un'azienda, contenente informazioni che esulano dai dati su cui è stato addestrato l'LLM. Tali frammenti vengono quindi utilizzati per fornire risposte di AI generativa che incorporano la knowledge base dell'azienda, un risultato a volte indicato come "generazione AI contestualizzata". La generazione AI contestualizzata può aiutarti a ottenere risposte migliori dall'intelligenza artificiale .

Gli elementi fondamentali della RAG sono:

• Pre-elaborazione e indicizzazione: l'AI che utilizza la RAG parte dal prendere la raccolta di preziosi dati non strutturati di un'azienda (note sui clienti, e-mail, PDF, registri di chat ecc.) per poi collegarla ("pre-elaborazione e indicizzazione").
• Retriever e recupero: successivamente, la RAG si avvale di potenti strumenti di ricerca semantica (cosiddetti "retriever") per passare al setaccio i dati interni dell'azienda e trovare ("recupero") ciò che è necessario per una query specifica.
• Generazione ed espansione AI contestualizzata: infine, il LLM con RAG prende i frammenti di informazioni recuperati e li incorpora nella generazione della risposta per fornire la risposta più pertinente ("generazione ed espansione AI contestualizzata").

La generazione aumentata dal recupero prevede diversi approcci all'organizzazione, alla connessione e al recupero dei dati. Questi sono spesso correlati e includono:

• RAG vettoriale: la RAG può funzionare in combinazione con un tipo specializzato di database, chiamato database vettoriale, per memorizzare le informazioni in un formato numerico che abbia senso per l'intelligenza artificiale.
• Grafici di conoscenze: con i grafici di conoscenze, i dati vengono organizzati sulla base di nodi e relazioni, consentendo all'AI basata su RAG di creare connessioni simili a quelle umane.
• RAG dell'ensemble: si attivano contemporaneamente più retriever e vengono poi combinati i risultati. Ciò consente a un modello di compensare le debolezze di un altro e di effettuare un controllo incrociato delle risposte.

Un agente LLM con architettura RAG ha origine dalla tecnica di generazione aumentata dal recupero e da un modello linguistico di grandi dimensioni. La parte "agentica" si riferisce all'aggiunta di un agente autonomo, noto anche come agente AI, al mix.

Gli agenti AI sono una forma avanzata di intelligenza artificiale in grado di eseguire autonomamente attività e di apprendere man mano che procedono. Sono creati utilizzando un generatore di agenti e si basano sul machine learning e sull'elaborazione del linguaggio naturale (NLP). Quando in aggiunta a un LLM e a un'architettura RAG viene creato un agente, questo può impegnarsi in interazioni sfaccettate e sensibili al contesto specifiche per l'azienda, adattandosi e migliorando continuamente.

La RAG può dare accesso a maggiore efficienza e garantire più successo in tutta l'organizzazione unificando LLM, un motore di dati basato su cloud, un sistema di gestione delle relazioni con i clienti (CRM) e l'AI conversazionale. Con questa combinazione, puoi creare una flotta di potenti agenti AI su misura per le esigenze di ogni reparto. Gli agenti si spingono oltre i semplici chatbot fungendo da assistenti digitali altamente capaci integrati nei flussi di lavoro, in grado di elaborare costantemente nuove informazioni e imparare continuamente.

Come si presenta in azione? Ecco alcuni esempi:

• Assistenza: gli agenti AI per l'assistenza ti offrono un servizio clienti basato sulla tua piattaforma CRM più veloce, efficiente e utile. Utilizzando i dati collegati tramite la tecnica RAG, gli agenti AI possono impegnarsi in interazioni personalizzate, fornire supporto proattivo in base alle esigenze previste e gestire l'assistenza su più canali.
• Vendite: con un agente AI per le vendite integrato nel tuo CRM, puoi accelerare la crescita della pipeline e le entrate. Gli agenti AI possono affrontare qualsiasi mansione, dal coltivare autonomamente i lead in entrata al fornire coaching ai venditori, aumentando la produttività e le capacità del team di vendita.
• Marketing: una piattaforma che dispone di un agente AI per il marketing può approfondire il coinvolgimento dei clienti e aumentare la produttività del team. Con un agente AI, gli esperti di marketing possono generare contenuti e offerte personalizzati nei diversi punti di contatto, implementare campagne più intelligenti che raggiungono i clienti nell'intero ciclo di vita e ottimizzare autonomamente le campagne in base ai KPI più recenti.
• E-commerce gli agenti AI per l'e-commerce integrati in una piattaforma unificata possono incrementare le vendite utilizzando i dati unificati dei clienti per fornire esperienze di acquisto personalizzate, offrire contenuti pertinenti e semplificare gli ordini. Possono anche assistere nel back-end in attività come l'ottimizzazione dell'inventario e la generazione di descrizioni di prodotti o servizi.

I vantaggi offerti dalla RAG abbracciano svariati settori e aziende di diverse dimensioni. Dalle piccole imprese alle startup e oltre, la combinazione di intelligenza artificiale e dati interni dei clienti può migliorare le esperienze e supportare sia i collaboratori che la clientela.

Ad esempio, un agente AI per una società di servizi finanziari può attingere alle informazioni sui clienti per far emergere dati pertinenti per i rappresentanti e personalizzare le raccomandazioni in base agli obiettivi finanziari specifici di un dato individuo. Allo stesso modo, un agente AI in ambito sanitario può rispondere alle domande dei paziente e aiutare a programmare il miglior fornitore per le loro esigenze.

Nella produzione manifatturiera, si può ricorrere agli agenti autonomi per monitorare le apparecchiature e ottimizzare i processi di produzione. E nell'industria automobilistica, un agente AI con architettura RAG può fornire supporto su tutta la linea, svolgendo mansioni di ogni tipo, dalla creazione di promozioni basate in tempo reale sui livelli di inventario alla gestione proattiva dei problemi di manutenzione dei veicoli.

Con la giusta tecnologia, muovere i primi passi in ambito RAG non è necessariamente costoso e complesso.

La tua base di partenza deve essere una piattaforma unificata con un potente motore di dati per affrontare un'ampia varietà di fonti e tipi di file. Deve anche saper collegare tutti i dati in modo ottimale per i retriever, ad esempio con un database vettoriale. La tua piattaforma deve disporre di un sofisticato generatore di agenti, come in Agentforce, che ti dia la possibilità di creare e personalizzare agenti AI autonomi per supportare i tuoi collaboratori e clienti.

Un aspetto chiave da tener presente quando ci si immerge in questa tecnologia è che il successo della RAG va di pari passo con la qualità del LLM scelto. Per combinare il giusto LLM con RAG, prediligi l'utilizzo di un modello di alta qualità con capacità di generazione contestuale affidabili, precise e fedeli. Tieni presente che l'elemento umano rimane fondamentale. Migliore è la query, migliore è la risposta, quindi aiuta i tuoi collaboratori a capire come scrivere un buon prompt.

In ultima analisi, la generazione aumentata dal recupero è strettamente interconnessa al ritorno sull'investimento nell'intelligenza artificiale. Abbinando i tuoi dati all'AI generativa, porti gli agenti AI a un livello superiore, rendendo le loro risposte e azioni più personalizzate, pertinenti e tempestive.

Ad esempio, Agentforce , il livello agentico della piattaforma Salesforce, utilizza questa tecnologia per aiutare le aziende a ottenere di più rapidamente. Il motore di ragionamento Atlas è il cervello dietro ad Agentforce e utilizza la RAG per aiutare ad analizzare le informazioni e determinare in che modo completare al meglio le richieste o le attività.

Gli agenti LLM possono dare accesso a importanti vantaggi in tutta la tua azienda, consentendoti di costruire relazioni più solide con i clienti, ottimizzare le operazioni, migliorare le prestazioni di marketing e vendita e crescere in modo efficiente.