IA confiável na Salesforce

Não é suficiente oferecer apenas os recursos tecnológicos da IA. Também temos uma responsabilidade importante de garantir que a IA seja segura e inclusiva para todos. É por isso que criamos a Camada de confiança da Salesforce, um conjunto robusto de recursos e proteções que protegem a privacidade e a segurança de seus dados, melhoram a segurança e a precisão dos resultados de IA e promovem o uso responsável da IA em todo o ecossistema da Salesforce.

Na Salesforce, somos guiados por nossos cinco valores principais: confiança, sucesso do cliente, inovação, igualdade e sustentabilidade. Além disso, estamos profundamente comprometidos com o desenvolvimento e a implantação responsáveis de nossa tecnologia, impulsionados pelo Escritório de Ética e Práticas Humanitárias.

Uma das tecnologias emergentes com grande potencial para melhorar o estado do mundo é a inteligência artificial (IA), pois aumenta a inteligência humana, amplifica as capacidades humanas e fornece percepções acionáveis que geram melhores resultados para nossos funcionários, clientes e parceiros.

Acreditamos que os benefícios da IA devem ser acessíveis a todos. Mas não é suficiente oferecer apenas os recursos tecnológicos da IA, temos a importante responsabilidade de garantir que a IA seja segura e inclusiva para todos. Nós levamos essa responsabilidade a sério e temos o compromisso de fornecer aos nossos colaboradores, clientes e parceiros as ferramentas de que precisam para desenvolver e usar a IA com segurança, precisão e ética.

É por isso que criamos a Camada de confiança da Salesforce para servir como a base arquitetônica e um conjunto de proteções técnicas que garantem que cada interação de IA na Salesforce seja segura, privada, precisa e alinhada eticamente com nossos valores.

Em 2018, começamos a articular nossos princípios de IA confiável e queríamos garantir que eles fossem específicos para os produtos, casos de uso e clientes da Salesforce. Foi uma jornada de um ano de coleta de feedback de colaboradores individuais, gerentes e executivos de toda a empresa, em todas as organizações, incluindo engenharia, desenvolvimento de produtos, UX, ciência de dados, jurídico, igualdade, assuntos governamentais e marketing. Os executivos de todas as nuvens e funções aprovaram os princípios, incluindo nossos então co-CEOs Marc Benioff e Keith Block. Como discutimos em nosso Modelo de maturidade de IA ética , embora essa jornada possa parecer longa, é uma importante experiência formativa para garantir que todos na empresa tenham contribuído, compreendam sua responsabilidade de colocar esses princípios em prática e estejam comprometidos com sua implementação no trabalho diário.

Nós nos esforçamos para proteger os direitos humanos, proteger os dados que nos são confiados, observar padrões científicos e aplicar políticas contra abusos. Esperamos que nossos clientes usem nossa IA de forma responsável e em conformidade com seus contratos conosco, incluindo nossa Política de uso aceitável .

Nós acreditamos em nos responsabilizar perante nossos clientes, parceiros e a sociedade. Buscaremos feedback independente para a melhoria contínua de nossas práticas e políticas e trabalharemos para mitigar danos aos clientes e consumidores.

Nós nos esforçamos para garantir que nossos clientes entendam o "porquê" por trás de cada recomendação e previsão orientada por IA para que possam tomar decisões informadas, identificar resultados não intencionais e mitigar danos.

Acreditamos que a IA é melhor utilizada quando combinada com a capacidade humana, ampliando as capacidades das pessoas e permitindo que elas tomem melhores decisões. Aspiramos a criar uma tecnologia que capacite todos a serem mais produtivos e a gerar maior impacto em suas organizações.

A IA deve melhorar a condição humana e representar os valores de todos os afetados, não apenas dos criadores. Vamos promover a diversidade, promover a igualdade e promover a equidade por meio da IA.

Não basta ter um conjunto de princípios. À medida que o potencial da IA cresce exponencialmente, também cresce a responsabilidade crítica de garantir que seu uso seja seguro e inclusivo para todos. Abaixo estão exemplos de como colocamos nosso princípio de IA confiável em prática.

Começamos perguntando não apenas se podemos fazer algo, mas também se devemos fazer isso, antes de criar quaisquer recursos de IA. Trabalhamos com especialistas externos em direitos humanos para aprender, crescer e descobrir continuamente novas maneiras de proteger os direitos humanos.

Educamos e capacitamos nossos clientes para que tomem decisões informadas sobre como usar nossa IA de forma responsável. Faremos isso criando ferramentas e recursos para ajudar funcionários, clientes e parceiros da Salesforce a identificar e mitigar vieses nos sistemas que criam e usam (por exemplo, sinalizando quando categorias de dados protegidos e variáveis proxy são usadas em um modelo e oferecendo transparência sobre os fatores que mais influenciam as previsões individuais), permitindo que clientes e parceiros compreendam a responsabilidade que têm de adotar a IA de forma segura e confiável.

Aderimos às mais altas práticas de segurança e privacidade para ajudar a antecipar e mitigar danos não intencionais e manter nossos produtos seguros. Estamos em conformidade com as leis aplicáveis que regem a pesquisa e o uso da IA. Também nos esforçamos para atender aos mais altos padrões científicos e de qualidade em nossa pesquisa, garantindo sua segurança e compartilhando-a por meio de publicações revisadas por colegas, conferências e eventos do setor.

Nós nos envolvemos com especialistas externos em direitos humanos e ética tecnológica por meio de nosso Conselho Consultivo de Uso Ético e workshops. Também convidamos nossos clientes a compartilhar feedback por meio de conselhos consultivos de clientes e de um diálogo aberto, incorporando esse feedback ao nosso processo de deliberação.

Acreditamos na importância de retribuir ao nosso setor e à sociedade, colaborando com nossos pares por meio de grupos do setor, fóruns da sociedade civil e organizações governamentais (por exemplo, o US National Institute of Standards and Technology, o US National AI Advisory Committee e o Singapore’s Advisory Council on the Ethical Use of AI and Data) para aprimorar continuamente nossas práticas e políticas.

Permitimos que os funcionários levantem dúvidas e preocupações por meio de canais como nosso sistema anônimo online de denúncias e governança corporativa, canais do Slack e endereço de email do grupo.

A transparência inclui não apenas como criamos nossos modelos, mas também por que eles geraram determinada previsão ou recomendação. Publicamos cartões do modelo que descrevem como os modelos foram criados, os casos de uso previstos e não previstos, as implicações éticas ou sociais conhecidas e as métricas de desempenho. Também fornecemos explicabilidade do modelo quando uma previsão ou recomendação de IA é gerada.

Permitimos que os clientes mantenham o controle de seus dados e modelos o tempo todo. Os dados que gerenciamos não pertencem à Salesforce, pertencem ao cliente. Também fornecemos aos clientes informações claras sobre os termos de uso e as aplicações previstas dos recursos de IA da Salesforce.

Nós nos esforçamos para eliminar a complexidade da IA e possibilitar que pessoas de todos os níveis de habilidade técnica — não apenas cientistas de dados avançados — criem aplicativos de IA com apenas cliques, sem escrever código. Além disso, criamos e oferecemos educação gratuita em IA via Trailhead para permitir que qualquer pessoa obtenha as habilidades necessárias para os trabalhos da Quarta Revolução Industrial. Isso inclui ferramentas para medir o impacto desigual (uma definição de viés) e preencher automaticamente cartões do modelo (como rótulos nutricionais para modelos), além de fornecer orientações no aplicativo para que os clientes saibam como usar nossa IA de forma responsável.

A equipe de IA da Salesforce tem o compromisso de promover avanços em pesquisa de IA para impulsionar novas categorias de produtos e garantir que nossos clientes permaneçam na vanguarda dos avanços tecnológicos.

Testamos nossos modelos usando conjuntos de dados diversos e representativos, adequados à forma como cada modelo é utilizado. Procuramos entender o impacto dos serviços de IA em uma ampla variedade de clientes, usuários finais e contextos. Isso inclui a realização de workshops de avaliação de consequências e workshops 'Criar com intenção'. E nos esforçamos para criar equipes inclusivas que representem experiências e pontos de vista diversos, alinhando-nos ao nosso valor fundamental da igualdade.

A Camada de confiança da Salesforce borda as principais preocupações das empresas, como segurança de dados, conformidade regulatória e governança ética, por meio de um conjunto abrangente de proteções incorporadas diretamente à arquitetura da plataforma. É a resposta para a necessidade das empresas por uma IA que seja ao mesmo tempo poderosa e inerentemente confiável.

A Camada de confiança é um conjunto robusto de recursos e proteções que constitui a implementação técnica de nossos princípios éticos. Ela foi projetada para mitigar proativamente os riscos associados à IA generativa, protegendo a privacidade e a segurança de seus dados e, ao mesmo tempo, melhorando a segurança e a precisão dos resultados gerados por IA. Essa arquitetura transforma nosso compromisso com a confiança de uma declaração de princípios em uma realidade funcional em toda a plataforma.

A base de resultados de IA seguros e precisos depende do embasamento dinâmico e da recuperação segura de dados. A IA confiável começa com prompts embasados com segurança, que são conjuntos de instruções enviados a um grande modelo de linguagem (LLM, Large Language Model) para gerar um resultado útil. A fundamentação dinâmica conecta com segurança o LLM aos dados da sua empresa (como informações armazenadas no Data 360 ou em bases de conhecimento internas) e recupera dinamicamente as informações validadas. Isso impede que o LLM produza "alucinações", forçando o modelo a citar e usar fontes confiáveis e aprovadas pelo cliente. Uma recuperação segura de dados permite que os usuários acessem os dados com segurança para fundamentar prompts de IA generativa no contexto de sua empresa, mantendo as permissões e os controles de acesso aos dados.

O mais importante é que a Camada de confiança implementa retenção zero de dados e mascaramento de dados para garantir o mais alto nível de segurança e privacidade dos dados dos clientes. A retenção zero de dados é uma política rigorosa em que os prompts e as respostas geradas nunca são armazenados nem usados para treinar os modelos de linguagem de grande porte (LLMs) subjacentes de terceiros, garantindo que os dados permaneçam de propriedade exclusiva do cliente. Além disso, o mascaramento de dados é o processo que substitui informações de identificação pessoal (PII, Personally Identifiable Information) confidenciais ou dados comerciais proprietários por tokens não identificáveis antes que o prompt seja enviado ao LLM. Isso protege informações confidenciais e ainda fornece o contexto necessário para que o LLM gere uma resposta personalizada e útil.

Para manter a segurança e promover o uso ético, a camada de confiança inclui detecção de toxicidade e proteções de segurança. Esses recursos fornecem monitoramento e filtragem contínuos para garantir que o conteúdo gerado seja seguro, apropriado e alinhado aos padrões éticos e da empresa. A detecção de toxicidade utiliza modelos avançados de classificação para analisar e categorizar o conteúdo gerado em tempo real em busca de sinais de discurso de ódio, viés, assédio ou outras violações de políticas. Se um conteúdo prejudicial for identificado, o sistema de filtragem de conteúdo filtrará, bloqueará ou sinalizará automaticamente a saída antes que ela seja exibida ao usuário final, garantindo uma experiência mais segura e inclusiva para todos.

Na Salesforce, acreditamos que o uso ético de tecnologias avançadas, como a IA, é uma questão cada vez mais complexa. Isso deve ser claramente abordado, não apenas por nós, mas por todo o nosso setor. Promovemos um diálogo multissetorial que inclui nossos funcionários, clientes, parceiros e comunidades.

Ao nos unirmos para resolver desafios emergentes e garantir que esses novos avanços levem em conta experiências diversas, podemos promover mudanças positivas com o poder da IA e orientar o desenvolvimento da IA com uma perspectiva que nos ajude a aproveitar ao máximo o potencial humano.