IA de confianza en Salesforce

Pero no es suficiente ofrecer solo las funcionalidades tecnológicas de la IA; tenemos una responsabilidad importante a la hora de garantizar que la IA sea segura e inclusiva para todos. Por eso hemos creado la Capa de confianza de Salesforce, un sólido conjunto de funciones y salvaguardas que protegen la privacidad y la seguridad de sus datos, mejoran la precisión y seguridad de los resultados de IA y promueven el uso responsable de la IA en todo el ecosistema de Salesforce.

En Salesforce, nos guiamos por nuestros cinco valores fundamentales: confianza, éxito de los clientes, innovación, igualdad y sostenibilidad. También estamos muy comprometidos con el desarrollo y la implementación responsables de nuestra tecnología, y nos guiamos por nuestra Oficina de Uso Ético y Humano.

Una de las tecnologías emergentes con gran potencial para mejorar el estado del mundo es la inteligencia artificial (IA), ya que aumenta la inteligencia humana, amplifica las capacidades humanas y proporciona información relevante que genera mejores resultados para nuestros empleados, clientes y partners.

Creemos que las ventajas de la IA deben ser accesibles para todos. Pero no es suficiente ofrecer solo las capacidades tecnológicas de la IA: tenemos una responsabilidad importante a la hora de garantizar que la IA sea segura e inclusiva para todos. Nos tomamos en serio esa responsabilidad y nos comprometemos a proporcionar a nuestros empleados, clientes y partners las herramientas que necesitan para desarrollar y utilizar la IA de manera segura, precisa y ética.

Por eso hemos creado la Capa de confianza de Salesforce para que sea la base arquitectónica y el conjunto de límites técnicos que garanticen que todas las interacciones de IA en Salesforce sean seguras, privadas, precisas y éticamente alineadas con nuestros valores.

En 2018, comenzamos a articular nuestros principios de IA de confianza y queríamos asegurarnos de que fueran específicos para los productos, casos de uso y clientes de Salesforce. Fue un proceso de un año en el que solicitamos comentarios de colaboradores individuales, gerentes y ejecutivos en toda la empresa en cada organización, incluidos de los departamentos de Ingeniería, Desarrollo de Productos, Experiencia del Usuario (UX), Ciencia de Datos, Legal, Igualdad, Asuntos Gubernamentales y Marketing. Los ejecutivos de todas las nubes y funciones aprobaron los principios, incluidos nuestros directores ejecutivos en aquel momento, Marc Benioff y Keith Block. Tal y como analizamos en nuestro documento Modelo de madurez de IA ético , aunque ese proceso puede parecer largo, es una experiencia formativa importante para garantizar que todos los miembros de la empresa hayan contribuido a la creación de esos principios y comprendan su responsabilidad a la hora de ponerlos en práctica, y que hayan aceptado la implementación de los mismos en su trabajo diario.

Nos esforzamos por salvaguardar los derechos humanos, proteger los datos que se nos confían, respetar los estándares científicos y aplicar las políticas contra el abuso. Esperamos que nuestros clientes utilicen nuestra IA de manera responsable y de conformidad con los acuerdos que tienen firmados con nosotros, incluida nuestra Política de uso aceptable .

Creemos en el hecho de ser responsables ante nuestros clientes, nuestros partners y nuestra sociedad. Solicitaremos comentarios independientes para mejorar continuamente nuestra práctica y nuestras políticas, y trabajaremos para mitigar los daños a los clientes y consumidores.

Nos esforzamos por garantizar que nuestros clientes comprendan el motivo que subyace a cada recomendación y predicción basada en la IA para que puedan tomar decisiones informadas, identificar resultados no deseados y mitigar el daño.

Creemos que la IA se utiliza mejor cuando se combina con la capacidad humana, ya que aumenta la capacidad de las personas y les permite tomar mejores decisiones. Aspiramos a crear tecnología que capacite a todos a ser más productivos y generar un mayor impacto dentro de sus organizaciones.

La IA debe mejorar la condición humana y representar los valores de todas las personas afectadas, no solo de los creadores. Mejoraremos la diversidad, promoveremos la igualdad y fomentaremos la equidad a través de la IA.

No basta con tener un conjunto de principios. A medida que aumenta exponencialmente el potencial de la IA, también lo hace la responsabilidad crítica de garantizar que su uso sea seguro e inclusivo para todos. A continuación se muestran ejemplos de cómo hemos llevado a la práctica nuestro principio de IA de confianza.

Comenzamos preguntándonos no solo si podemos hacer algo, sino también si debemos hacerlo antes de crear cualquier función de IA. Trabajamos con expertos externos en derechos humanos para aprender, crecer y descubrir continuamente nuevas formas de proteger los derechos humanos.

Educamos y capacitamos a nuestros clientes para que tomen decisiones informadas sobre cómo utilizar nuestra IA de manera responsable. Para ello, crearemos herramientas y recursos que ayuden a los empleados, clientes y partners de Salesforce a identificar y mitigar el sesgo en los sistemas que están creando y utilizando (por ejemplo, marcar cuándo se utilizan categorías de datos protegidos y variables de proxy en un modelo, proporcionar transparencia en los factores que más influyen en las predicciones individuales). Esto permitirá que los clientes y partners comprendan la responsabilidad que tienen con respecto de su adopción de la IA de manera segura y fiable.

Cumplimos con las prácticas de seguridad y privacidad más estrictas para ayudar a anticipar y mitigar daños accidentales, y mantener seguros nuestros productos. Cumplimos con las leyes aplicables que rigen la investigación y el uso de la IA. También nos esforzamos por cumplir con los más altos estándares científicos y de calidad en nuestra investigación, garantizando su seguridad y compartiéndolos a través de publicaciones revisadas por homólogos, conferencias y eventos del sector.

Nos comprometemos con expertos externos en derechos humanos y ética tecnológica a través de nuestros talleres y el Consejo Asesor de Uso Ético. También invitamos a nuestros clientes a que proporcionen comentarios a través de los Consejos Asesores para Clientes y el diálogo abierto, y los incorporamos en nuestro proceso de deliberación.

Creemos en la importancia de retribuir a nuestro sector y nuestra sociedad mediante la colaboración con nuestros homólogos a través de grupos industriales, foros de la sociedad civil y organizaciones gubernamentales (por ejemplo, el US National Institute of Standards and Technology, el US National AI Advisory Committee, el Advisory Council on the Ethical Use of AI and Data de Singapur) para mejorar continuamente nuestras prácticas y políticas.

Permitimos que los empleados planteen preguntas y preocupaciones a través de canales como nuestro sistema anónimo de gobernanza y generación de informes corporativos online, canales Slack y dirección de correo electrónico de grupo.

La transparencia incluye no solo la forma en que creamos nuestros modelos, sino también el motivo por el que esos modelos hicieron la predicción o recomendación. Publicamos tarjetas del modelo que describen cómo se crearon los modelos, los casos de uso previstos e imprevistos, las implicaciones éticas o sociales conocidas, y las puntuaciones de rendimiento. También proporcionamos explicabilidad del modelo cuando se genera una predicción o recomendación de IA.

Permitimos que los clientes mantengan el control de sus datos y modelos en todo momento. Los datos que gestionamos no pertenecen a Salesforce; pertenecen al cliente. También proporcionamos a los clientes una clara divulgación de los términos de uso y las aplicaciones previstas de la capacidad de IA de Salesforce.

Nos esforzamos por eliminar la complejidad de la IA para hacer posible que personas con todos los niveles de habilidades técnicas, no solo científicos de datos avanzados, creen aplicaciones de IA simplemente con clics, no con código. Además, creamos y ofrecemos formación gratuita sobre la IA a través de Trailhead para permitir que cualquiera adquiera las habilidades necesarias para los trabajos de la Cuarta revolución industrial. Esto incluye herramientas que permiten medir la discriminación no intencional (una definición de sesgo) y completar automáticamente las tarjetas del modelo (como las etiquetas de nutrición para los modelos), así como proporcionar orientación dentro de la aplicación para que los clientes sepan cómo utilizar nuestra IA de manera responsable.

El equipo de IA de Salesforce se compromete a ofrecer avances en la investigación de la IA para informar sobre nuevas categorías de productos y garantizar que nuestros clientes se mantengan a la vanguardia de los avances tecnológicos.

Probamos nuestros modelos utilizando conjuntos de datos diversos y representativos que son más adecuados para la forma en que se utiliza el modelo. Buscamos comprender el impacto de los servicios de IA en una amplia gama de clientes, usuarios finales y contextos. Esto incluye la realización de talleres de exploración de consecuencias y talleres de desarrollo intencional. Asimismo, nos esforzamos por crear equipos inclusivos que representen diversas experiencias y puntos de vista al alinearse con nuestro valor fundamental de igualdad.

La Capa de confianza de Salesforce aborda las principales preocupaciones empresariales, como la seguridad de los datos, el cumplimiento normativo y la gobernanza ética, integrando un conjunto completo de salvaguardas directamente en la arquitectura de la plataforma. Es la respuesta a la necesidad empresarial de IA que es a la vez potente y fiable.

La Capa de confianza es un sólido conjunto de funciones y salvaguardas que respaldan la implementación técnica de nuestros principios éticos. Está diseñado para mitigar de forma proactiva los riesgos asociados con la IA generativa, específicamente protegiendo la privacidad y la seguridad de sus datos al tiempo que mejora la precisión y la seguridad de los resultados generados por la IA. Esta arquitectura traslada nuestro compromiso con la confianza de una declaración de principios a una realidad funcional que abarca toda la plataforma.

La clave para obtener unos resultados de IA seguros y precisos es la fundamentación dinámica y la recuperación de datos segura. Una IA de confianza comienza con solicitudes fundamentadas y seguras, que son conjuntos de instrucciones enviadas a un modelo de lenguaje grande (LLM) para obtener una respuesta útil. La fundamentación dinámica conecta de forma segura el LLM con los datos de la empresa (como la información almacenada en Data 360 o en bases de conocimiento internas) y recupera dinámicamente la información validada. Esto evita que el LLM produzca "alucinaciones" al obligar al modelo a citar y utilizar fuentes fiables y aprobadas por el cliente. La recuperación de datos segura permite que los usuarios accedan de forma segura a los datos para fundamentar las solicitudes de IA generativa en el contexto de su negocio, sin menoscabar los controles de acceso a los datos y los permisos.

Fundamentalmente, la capa de confianza aplica la retención de datos cero y el enmascaramiento de datos para garantizar la máxima seguridad y privacidad de los datos de los clientes. La retención de datos cero es una política estricta en la que las solicitudes y las respuestas generadas nunca se almacenan ni se utilizan para entrenar los modelos de lenguaje grande de terceros subyacentes, lo que garantiza que los datos sigan siendo propiedad exclusiva del cliente. Esto se complementa con el enmascaramiento de datos, un proceso que reemplaza la información confidencial de identificación personal (PII) o los datos comerciales de propiedad exclusiva con tokens no identificables antes de que la solicitud se envíe al LLM. Esto protege la información confidencial y, al mismo tiempo, proporciona el contexto necesario para que el LLM genere una respuesta personalizada y útil.

Para mantener la seguridad y procurar el uso ético, la capa de confianza incluye la detección de toxicidad y salvaguardas de seguridad. Estas funciones proporcionan una supervisión y filtrado continuos para garantizar que el contenido generado sea seguro y adecuado, y que cumpla los estándares éticos y de la empresa. La detección de toxicidad emplea modelos de clasificación avanzados para analizar y categorizar el contenido generado en tiempo real en busca de signos de incitación al odio, sesgo, acoso u otras infracciones normativas. Si se identifica contenido dañino, el filtro de contenido del sistema filtrará, bloqueará o marcará automáticamente la respuesta antes de que se muestre al usuario final, lo que garantiza una experiencia más segura e inclusiva para todos.

En Salesforce, creemos que el uso ético de la tecnología avanzada, como la IA, es un problema cada vez más complejo. Debe abordarse claramente, no solo por nuestra parte, sino en todo nuestro sector. Agradecemos el diálogo con todas las partes interesadas, entre las que se incluyen nuestros empleados, clientes, partners y comunidades.

Si colaboramos para resolver los desafíos emergentes y garantizar que estos nuevos avances tengan en cuenta experiencias diversas, podemos impulsar un cambio positivo con el poder de la IA y fomentar el desarrollo de la IA con la perspectiva que nos ayuda a aprovechar al máximo el potencial humano.