{"id":4412,"date":"2023-11-27T08:11:00","date_gmt":"2023-11-27T16:11:00","guid":{"rendered":"https:\/\/www.salesforce.com\/?p=4412"},"modified":"2025-11-25T15:27:47","modified_gmt":"2025-11-25T13:27:47","slug":"generative-ai-hallucinations","status":"publish","type":"post","link":"https:\/\/www.salesforce.com\/it\/blog\/generative-ai-hallucinations\/","title":{"rendered":"Il tuo sistema AI si inventa le cose? 4 modi per farlo rispondere onestamente"},"content":{"rendered":"\n

I chatbot di AI generativa stanno cambiando il mondo aziendale. Ma hanno un problema: spesso forniscono informazioni imprecise presentandole come se fossero corrette. Si tratta delle cosiddette “allucinazioni”, errori che si verificano con un’incidenza fino al 20%<\/a>.<\/p>\n\n\n\n

\u201cSappiamo che [l’attuale GenAI] tende a non fornire risposte sempre accurate, ma lo fa con un’incredibile sicurezza\u201d, afferma Kathy Baxter, Principal Architect of Responsible AI di Salesforce. \u201cQuindi pu\u00f2 essere difficile capire se ci si pu\u00f2 fidare delle risposte fornite dall’intelligenza artificiale generativa\u201d. <\/p>\n\n\n\n

La comunit\u00e0 informatica talvolta chiama queste imprecisioni anche confabulazioni<\/a>. Il motivo? Perch\u00e9 in ambito psicologico la confabulazione avviene quando una persona sostituisce un vuoto nella memoria con una storia falsa e si ritiene che il concetto sia una metafora pi\u00f9 precisa per indicare la predisposizione dell’AI a generare risposte erronee. Qualunque termine si scelga, chi utilizza l\u2019AI sul lavoro deve conoscerne i limiti e adottare una strategia per mitigarli. <\/p>\n\n\n\n

La grande tendenza<\/h3>\n\n\n\n

L\u2019AI generativa e i modelli linguistici di grandi dimensioni<\/a> (LLM) stanno suscitando entusiasmo, e forse anche un po’ di timore<\/a>, soprattutto quando trovano applicazione in ambito lavorativo<\/a>. E a ragione. I LLM, solitamente sotto forma di chatbot, possono aiutare a scrivere e-mail e report di marketing migliori, preparare proiezioni di vendita e creare risposte rapide per l’assistenza clienti, tra le molte implementazioni possibili.\u00a0<\/p>\n\n\n\n

Nei contesti professionali, tuttavia, le allucinazioni dell’AI possono portare ad analisi inaccurate, basarsi su pregiudizi impliciti e diffondere errori che minano la fiducia, soprattutto quando arrivano direttamente a dipendenti e clienti. <\/p>\n\n\n\n

\u201c\u00c8 un problema di fiducia\u201d, spiega Claire Cheng, Senior Director Data science and engineering di Salesforce. \u201cVogliamo che l’intelligenza artificiale aiuti le aziende, non che fornisca suggerimenti, consigli o azioni senza fondamento che potrebbero avere un impatto negativo sulle attivit\u00e0 commerciali\u201d.<\/p>\n\n\n\n

Un fenomeno complesso<\/h3>\n\n\n\n

Alcuni esperti del settore vedono le allucinazioni in modo pi\u00f9 positivo. Sam Altman, CEO di OpenAI, la societ\u00e0 creatrice di ChatGPT, ha affermato dialogando con il CEO di Salesforce Marc Benioff<\/a> che la capacit\u00e0 di produrre allucinazioni evidenzia come l’AI sappia innovare. <\/p>\n\n\n\n

\u201cIl fatto che i sistemi di intelligenza artificiale siano in grado di elaborare nuove idee e di essere creativi dimostra quanto sono potenti\u201d, spiega Altman. “Se lo si desidera, si pu\u00f2 chiedere al sistema di essere creativo o di limitarsi ai fatti, ma se le istruzioni specificano di non dire nulla di cui non \u00e8 sicuro al 100%, il modello esegue, ma si perde quella magia che piace tanto alle persone.”<\/p>\n\n\n\n

Per adesso sembra che non possiamo risolvere del tutto il problema delle allucinazioni dell’AI generativa senza eliminare anche la sua “componente magica”. (Anzi, alcuni leader del settore prevedono che le allucinazioni non scompariranno mai<\/a>.) Quindi cosa possono fare le aziende che vogliono usare queste tecnologie in modo consapevole? Se desideri integrare i LLM al tuo lavoro quotidiano, ecco quattro modi per mitigare le allucinazioni dell’AI generativa.<\/p>\n\n\n\n\n\n

1. Utilizza un LLM affidabile per ridurre le allucinazioni dell’AI<\/h2>\n\n\n\n

Per cominciare, assicurati che le tue piattaforme di intelligenza artificiale siano basate su un LLM<\/a> affidabile. In altre parole, il tuo modello deve fornire un ambiente dati il pi\u00f9 possibile privo di bias e di contenuti “tossici”<\/a>. <\/p>\n\n\n\n

Un LLM generalista come ChatGPT pu\u00f2 essere utile per attivit\u00e0 meno sensibili, come raccogliere idee per articoli o redigere un’e-mail generica, ma qualsiasi informazione inserita in questi sistemi non \u00e8 necessariamente protetta<\/a>. <\/p>\n\n\n\n

\u201cMolte persone stanno iniziando a prendere in considerazione modelli specifici per determinati ambiti invece di utilizzare LLM generici\u201d, commenta Cheng. \u201cConviene cercare fonti attendibili piuttosto che affidarsi a una risposta fornita dal modello. Non aspettarti che l’LLM sia una fonte di verit\u00e0 perch\u00e9 non \u00e8, ad esempio, la tua knowledge base.”<\/p>\n\n\n\n

Quando recuperi informazioni dalla tua knowledge base<\/a>, avrai a portata di mano risposte e informazioni pertinenti in modo pi\u00f9 efficiente. Ci sar\u00e0 anche meno rischio che il sistema AI faccia supposizioni quando non conosce una risposta. <\/p>\n\n\n\n

“I business leader devono chiedersi: quali sono le fonti di verit\u00e0 nella mia organizzazione?” spiega Khoa Le, Vice President Product management presso Salesforce. “Potrebbero essere informazioni sui clienti o sui prodotti. Potrebbe essere la knowledge base ospitata in Salesforce o altrove. Sapere dove trovare queste fonti di verit\u00e0 e mantenerle aggiornate con una buona gestione sar\u00e0 fondamentale.”<\/p>\n\n\n\n

\n\t
\n\n\t\t
\n\t\t\t

Scopri Agentforce<\/h2>\n\t\t\t\t\t\t\t

Agentforce offre un supporto sempre attivo al personale o alla clientela. Scopri oggi stesso come Agentforce pu\u00f2 aiutare la tua azienda.<\/p>\n\t\t\t\n\t\t\t\n\t\t\t\t\t\t\t

\n\t\t\t\t\tScopri i benefici<\/a>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\n\t\t
\n\t\t\t\t\t<\/div>\n\t<\/div>\n\n\t\n\t\t\t\n\t\t\"\"\n\n\t\t\n\t\t\t\t\t\"\"\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\t\t\t\"\"\n\t\t\n\t<\/div>\n\n\n\n\n\n

2. Scrivi prompt pi\u00f9 specifici<\/h2>\n\n\n\n

Per avere buoni risultati dall’AI generativa si inizia anche con un buon prompt<\/a>. Puoi imparare<\/a> a scrivere prompt migliori<\/a> seguendo alcuni semplici consigli. Evita, ad esempio, domande chiuse che portano a risposte s\u00ec\/no e limitano la capacit\u00e0 dell\u2019AI di fornire informazioni pi\u00f9 articolate. Inoltre, poni domande di approfondimento (“follow-up”) per stimolare l’LLM a fornire risposte pi\u00f9 specifiche o dettagliate. 

Ti consigliamo inoltre di fornire quante pi\u00f9 informazioni di contesto possibile, cos\u00ec da ottenere la risposta migliore dallo strumento. Come guida, dai un’occhiata al prompt riportato di seguito, prima e dopo aver aggiunto dettagli specifici. <\/p>\n\n\n\n