Intelligenza artificiale affidabile in Salesforce

Non è sufficiente offrire solo le funzionalità tecnologiche dell'AI, abbiamo anche la grande responsabilità di garantire che l'AI sia sicura e inclusiva per tutti. Ecco perché abbiamo creato Salesforce Trust Layer, un solido set di funzioni e limiti di azione che proteggono la privacy e la sicurezza dei tuoi dati, migliorano la sicurezza e l'accuratezza dei risultati dell'AI e ne promuovono un uso responsabile in tutto l'ecosistema Salesforce.

In Salesforce siamo guidati dai nostri cinque valori fondamentali: fiducia, successo dei clienti, innovazione, uguaglianza e sostenibilità. Siamo inoltre fortemente impegnati nello sviluppo e nella distribuzione responsabile della nostra tecnologia, guidati dall'Office of Ethical and Humane Use.

Una delle tecnologie emergenti con un potenziale straordinario per migliorare lo stato del mondo è l'intelligenza artificiale (AI), che aumenta l'intelligenza umana, amplifica le capacità umane e fornisce informazioni operative che consentono di ottenere risultati migliori per dipendenti, clienti e partner.

Riteniamo che i vantaggi dell'AI debbano essere accessibili a tutti. Ma non è sufficiente offrire solo le funzionalità tecnologiche dell'AI, abbiamo anche la grande responsabilità di garantire che l'AI sia sicura e inclusiva per tutti. Prendiamo questa responsabilità molto seriamente e ci impegniamo a fornire ai nostri dipendenti, clienti e partner gli strumenti necessari per sviluppare e utilizzare l'AI in modo sicuro, accurato ed etico.

Ecco perché abbiamo creato Trust Layer di Salesforce: una base architettonica e un insieme di limiti tecnici che garantiscono che ogni interazione con l'AI in Salesforce sia sicura, privata, accurata ed etica in linea con i nostri valori.

Nel 2018 abbiamo iniziato ad articolare i nostri principi per l'AI affidabile e volevamo assicurarci che fossero specifici per i prodotti, i casi di utilizzo e i clienti di Salesforce. Si è trattato di un percorso di un anno in cui abbiamo richiesto feedback a singoli collaboratori, manager ed executive in tutti i reparti dell'azienda, tra cui ingegneria, sviluppo dei prodotti, esperienza utente, data science, legale, uguaglianza, affari governativi e marketing. Gli executive dei cloud e dei ruoli hanno approvato i principi, tra cui i nostri co-CEO di allora Marc Benioff e Keith Block. Come illustrato nel nostro Ethical AI Maturity Model , anche se questo percorso può sembrare lungo, è un'esperienza formativa importante nel garantire che tutti i membri dell'azienda abbiano contribuito e comprendano la loro responsabilità nel vivere tali principi e implementarli nel loro lavoro quotidiano.

Ci impegniamo a salvaguardare i diritti umani, proteggere i dati che ci sono stati affidati, rispettare gli standard scientifici e imporre politiche contro l'abuso. Ci aspettiamo che i nostri clienti utilizzino l'AI in modo responsabile e in conformità con gli accordi sottoscritti con noi, inclusa la nostra Politica di uso etico .

Crediamo di essere responsabili nei confronti di clienti, partner e società. Cercheremo feedback indipendenti per il miglioramento continuo delle nostre pratiche e delle nostre politiche e lavoreremo per mitigare gli eventuali danni a clienti e consumatori.

Ci impegniamo a garantire che i nostri clienti comprendano il "perché" che sta dietro ogni raccomandazione e previsione basata sull'AI, affinché possano prendere decisioni informate, identificare i risultati non previsti e mitigare i danni.

Riteniamo che l'AI garantisca risultati ottimali se abbinata all'abilità umana, migliorando le persone e consentendo loro di prendere decisioni migliori. Aspiriamo a creare tecnologie che consentano a tutti di essere più produttivi e di generare un impatto maggiore all'interno delle loro organizzazioni.

L'AI dovrebbe migliorare le condizioni umane e rappresentare i valori di tutti i soggetti interessati, non solo di l'ha creata. Promuoveremo la diversità, l'uguaglianza e l'equità attraverso l'AI.

Un set di principi non basta. Man mano che il potenziale dell'AI cresce in modo esponenziale, aumenta anche la responsabilità fondamentale di garantire che il suo utilizzo sia sicuro e inclusivo per tutti. Di seguito sono riportati alcuni esempi di come abbiamo tradotto in pratica il nostro principio di intelligenza artificiale affidabile.

Iniziamo chiedendoci non solo se possiamo fare qualcosa, ma anche se dovremmo farlo, prima di sviluppare qualsiasi funzionalità di AI. Collaboriamo con esperti esterni in materia di diritti umani per apprendere, crescere e scoprire continuamente nuovi modi per proteggere i diritti umani.

Educhiamo e diamo ai nostri clienti la possibilità di prendere decisioni informate su come utilizzare l'AI in modo responsabile. A tal fine, creeremo strumenti e risorse per aiutare dipendenti, clienti e partner di Salesforce a identificare e mitigare i pregiudizi nei sistemi che stanno sviluppando e utilizzando, ad esempio, evidenziando quando in un modello vengono usate categorie di dati protetti e variabili proxy o offrendo trasparenza nei fattori che influenzano maggiormente le previsioni individuali, per consentire a clienti e partner di comprendere le responsabilità che devono assumersi per adottare l'AI in modo sicuro e affidabile.

Aderiamo agli standard di sicurezza e privacy più elevati per contribuire ad anticipare e mitigare danni accidentali e garantire la sicurezza dei nostri prodotti. Rispettiamo le leggi applicabili che disciplinano la ricerca e l'uso dell'AI. Ci impegniamo inoltre a soddisfare i più elevati standard scientifici e di qualità nella nostra ricerca, assicurandone la sicurezza e condividendola attraverso pubblicazioni sottoposte a revisione paritaria, conferenze ed eventi di settore.

Coinvolgiamo esperti esterni in materia di etica tecnologica e diritti umani attraverso i nostri workshop e il nostro Ethical Use Advisory Council. Inoltre, sollecitiamo il feedback dai nostri clienti tramite comitati consultivi e un dialogo aperto, incorporandoli nel nostro processo di deliberazione.

Crediamo nell'importanza di restituire al nostro settore e alla società collaborando con i nostri colleghi attraverso gruppi di settore, forum della società civile e organizzazioni governative (ad esempio US National Institute of Standards and Technology, US National AI Advisory Committee, Singapore Advisory Council on the Ethical Use of AI and Data) per migliorare continuamente le nostre politiche e le nostre procedure.

Consentiamo ai dipendenti di porre domande e sollevare dubbi attraverso canali come il nostro sistema anonimo di segnalazione e governance aziendale online, i canali Slack e l'indirizzo e-mail di gruppo.

La trasparenza include non solo il modo in cui sviluppiamo i nostri modelli, ma anche il motivo per cui hanno formulato la previsione o la raccomandazione in questione. Pubblichiamo le schede dei modelli che descrivono come sono stati creati i modelli, i casi di utilizzo previsti e non intenzionali, le implicazioni etiche o sociali note e i punteggi di performance. Forniamo anche la spiegabilità del modello quando vengono formulate previsioni o raccomandazioni di AI.

Consentiamo ai clienti di mantenere sempre il controllo sui propri dati e modelli. I dati che gestiamo non appartengono a Salesforce, appartengono al cliente. Forniamo inoltre ai clienti una comunicazione chiara circa i termini di utilizzo e le applicazioni previste della funzionalità di AI di Salesforce.

Ci impegniamo a eliminare la complessità dell'AI per consentire a persone con tutti i livelli di competenze tecniche, non solo ai Data Scientist esperti, di creare applicazioni di AI con pochi clic, senza scrivere codice. Inoltre, creiamo e forniamo formazione gratuita sull'AI tramite Trailhead per consentire a chiunque di acquisire le skill necessarie per i posti di lavoro della quarta rivoluzione industriale. Sono inclusi strumenti come la misurazione dell'impatto disparato (una definizione di pregiudizio) e il popolamento automatico delle schede dei modelli (come le etichette nutrizionali per i modelli), oltre a indicazioni in-app per consentire ai clienti di utilizzare l'AI in modo responsabile.

Il team AI di Salesforce si impegna a offrire innovazioni nella ricerca sull'intelligenza artificiale per informare le nuove categorie di prodotti e garantire che i nostri clienti siano sempre all'avanguardia nei progressi tecnologici.

Testiamo i nostri modelli utilizzando set di dati eterogenei e rappresentativi più appropriati per la modalità di utilizzo del modello. Cerchiamo di comprendere l'impatto dei servizi di AI su un'ampia gamma di clienti, utenti finali e contesti. Ciò include la realizzazione di workshop di analisi delle conseguenze e workshop di sviluppo con intenzione. Ci impegniamo inoltre a creare team inclusivi che rappresentino esperienze e punti di vista diversi, allineandoci al nostro valore fondamentale di uguaglianza.

Il Trust Layer di Salesforce affronta le principali preoccupazioni aziendali, come la sicurezza dei dati, la conformità normativa e la governance etica, creando un set completo di misure di sicurezza direttamente nell'architettura della piattaforma. È la risposta all'esigenza aziendale di un'AI potente e intrinsecamente affidabile.

Trust Layer è un solido insieme di funzioni e limiti di azione che formano l'implementazione tecnica dei nostri principi etici. È progettato per mitigare in modo proattivo i rischi associati all'AI generativa, in particolare proteggendo la privacy e la sicurezza dei dati e migliorando al contempo la sicurezza e l'accuratezza dei risultati generati dall'AI. Questa architettura sposta il nostro impegno verso la fiducia da un'informativa a una realtà funzionale e a livello di piattaforma.

La base di output di AI sicuri e accurati si basa sul radicamento dinamico e sul recupero sicuro dei dati. L'intelligenza artificiale affidabile inizia con prompt basati su basi sicure, ovvero set di istruzioni inviate a un modello linguistico di grandi dimensioni (LLM) per restituire un risultato utile. Il radicamento dinamico connette in modo sicuro l'LLM ai dati aziendali (come le informazioni archiviate in Data 360 o nelle Knowledge Base interne) e recupera dinamicamente le informazioni convalidate. Ciò impedisce all'LLM di produrre "allucinazioni" costringendo il modello a citare e utilizzare fonti affidabili e approvate dal cliente. Il recupero sicuro dei dati consente agli utenti di accedere in modo sicuro ai dati su cui radicare i prompt di AI generativa nel contesto della tua azienda, mantenendo le autorizzazioni e i controlli di accesso ai dati.

In particolare, Trust Layer implementa la conservazione dei dati azzerata e il mascheramento dei dati per garantire la massima sicurezza e privacy per i dati dei clienti. La conservazione dei dati azzerata è una politica rigorosa in cui i prompt e le risposte generate non vengono mai archiviati o utilizzati per addestrare i modelli linguistici di grandi dimensioni di terze parti sottostanti, garantendo che i dati rimangano esclusivamente di proprietà del cliente. A complemento di ciò, il mascheramento dei dati è il processo che sostituisce le informazioni sensibili di identificazione personale (PII) o i dati aziendali proprietari con token non identificabili prima che il prompt venga inviato all'LLM. Questo protegge le informazioni riservate fornendo al contempo il contesto necessario affinché l'LLM generi una risposta personalizzata e utile.

Per mantenere la sicurezza e sostenere un uso etico, Trust Layer include il rilevamento della tossicità e i limiti di sicurezza. Queste funzionalità forniscono un monitoraggio e un filtraggio continui per garantire che i contenuti generati siano sicuri, appropriati e allineati agli standard aziendali ed etici. Il rilevamento della tossicità utilizza modelli di classificazione avanzati per scansionare e categorizzare i contenuti generati in tempo reale per rilevare segni di odio, pregiudizi, molestie o altre violazioni delle polizze. Se vengono identificati contenuti dannosi, il filtro dei contenuti del sistema filtra, blocca o contrassegna automaticamente l'output prima che venga mostrato all'utente finale, garantendo un'esperienza più sicura e inclusiva per tutti.

In Salesforce riteniamo che l'uso etico di tecnologie avanzate come l'AI sia un problema sempre più complesso. Deve essere affrontato in modo chiaro, non solo da noi, ma dall'intero settore. Accogliamo con favore un dialogo con più stakeholder, che includa dipendenti, clienti, partner e community.

Unendoci per risolvere le sfide emergenti e garantire che questi nuovi progressi tengano conto di esperienze variegate, possiamo promuovere un cambiamento positivo con la potenza dell'AI e guidare lo sviluppo dell'intelligenza artificiale con una prospettiva che ci aiuti a sfruttare al massimo il potenziale umano.