IA de confianza en Salesforce

No basta con ofrecer solo las capacidades tecnológicas de la IA; también tenemos la responsabilidad importante de garantizar que la IA sea segura e inclusiva para todos. Es por eso que creamos la capa de confianza de Salesforce, un conjunto sólido de funciones y barreras que protegen la privacidad y la seguridad de tus datos, mejoran la seguridad y la precisión de tus resultados de IA y promueven el uso responsable de la IA en todo el ecosistema de Salesforce.

En Salesforce, nos guiamos por nuestros cinco valores fundamentales: confianza, éxito del cliente, innovación, igualdad y sostenibilidad. También estamos profundamente comprometidos con el desarrollo e implementación responsables de nuestra tecnología, impulsados por nuestra Oficina de Uso Ético y Humano.

Una de las tecnologías emergentes con un gran potencial para mejorar el estado del mundo es la inteligencia artificial (IA), ya que aumenta la inteligencia humana, amplifica las capacidades humanas y proporciona información procesable que impulsa mejores resultados para nuestros empleados, clientes y socios.

Creemos que los beneficios de la IA deben ser accesibles para todos. Sin embargo, no basta con ofrecer solo las capacidades tecnológicas de la IA, sino que tenemos la responsabilidad importante de garantizar que la IA sea segura e inclusiva para todos. Nos tomamos esa responsabilidad en serio y nos comprometemos a proporcionar a nuestros empleados, clientes y socios las herramientas que necesitan para desarrollar y utilizar la IA de forma segura, precisa y ética.

Es por eso que creamos la capa de confianza de Salesforce para que actúe como la base arquitectónica y el conjunto de barreras técnicas que garanticen que cada interacción de IA en Salesforce sea segura, privada, precisa, además de que esté éticamente alineada con nuestros valores.

En el 2018, comenzamos a articular nuestros principios de IA de confianza y queríamos asegurarnos de que fueran específicos de los productos, casos de uso y clientes de Salesforce. Fue un proceso que duró un año, en el que se recabaron opiniones de colaboradores, gerentes y ejecutivos individuales de toda la compañía en todas las organizaciones, incluidas ingeniería, desarrollo de productos, experiencia de usuario, ciencia de datos, asuntos legales, igualdad, asuntos gubernamentales y marketing. Los ejecutivos de todas las nubes y funciones aprobaron los principios, incluidos nuestros codirectores ejecutivos, Marc Benioff y Keith Block. Como explicamos en nuestro modelo de madurez de IA ético , aunque ese proceso pueda parecer largo, es una experiencia formativa importante para garantizar que todos los miembros de la compañía hayan contribuido, comprendan su responsabilidad de vivir esos principios y se hayan comprometido a implementarlos en su trabajo diario.

Nos esforzamos por resguardar los derechos humanos, proteger los datos que se nos confían, respetar los estándares científicos y aplicar políticas contra el abuso. Esperamos que nuestros clientes utilicen nuestra IA de manera responsable y de conformidad con sus acuerdos con nosotros, incluida nuestra Política de uso aceptable .

Creemos en hacernos responsables ante nuestros clientes, socios y la sociedad. Buscaremos opiniones independientes para mejorar continuamente nuestras prácticas y políticas, y trabajaremos para mitigar el daño a los clientes y los consumidores.

Nos esforzamos por garantizar que nuestros clientes comprendan el “por qué” detrás de cada recomendación y predicción impulsada por IA para que puedan tomar decisiones fundamentadas, identificar resultados no deseados y mitigar el daño.

Creemos que la IA se utiliza mejor cuando se combina con la capacidad humana, lo que aumenta a las personas y les permite tomar mejores decisiones. Aspiramos a crear tecnología que permita a todos ser más productivos e impulsar un mayor impacto dentro de sus organizaciones.

La IA debe mejorar la condición humana y representar los valores de todos los afectados, no solo de los creadores. Promoveremos la diversidad, la igualdad y la equidad a través de la IA.

No es suficiente tener un conjunto de principios. A medida que el potencial de la IA crece exponencialmente, también lo hace la responsabilidad fundamental de garantizar que su uso sea seguro e inclusivo para todos. A continuación, se muestran ejemplos de cómo hemos puesto en práctica nuestro principio de IA de confianza.

Antes de crear cualquier función de IA, comenzamos preguntándonos no solo si podemos hacer algo, sino también si debemos hacerlo. Trabajamos con expertos externos en derechos humanos para aprender, crecer y descubrir continuamente nuevas formas de proteger los derechos humanos.

Educamos y capacitamos a nuestros clientes para que tomen decisiones fundamentadas sobre cómo utilizar nuestra IA de forma responsable. Lo lograremos mediante la creación de herramientas y recursos para ayudar a los empleados, clientes y socios de Salesforce a identificar y mitigar el sesgo en los sistemas que crean y utilizan (por ejemplo, la indicación de cuándo se utilizan categorías de datos protegidos y variables proxy en un modelo, lo que proporciona transparencia en los factores que más influyen en las predicciones individuales), lo cual permite a los clientes y socios comprender la responsabilidad que tienen de adoptar la IA de una manera segura y confiable.

Nos adherimos a las más altas prácticas de seguridad y privacidad para ayudar a anticipar y mitigar daños no intencionados y mantener seguros nuestros productos. Cumplimos con las leyes aplicables que rigen la investigación y el uso de la IA. También nos esforzamos por cumplir con los más altos estándares científicos y de calidad en nuestra investigación, a fin de garantizar su seguridad y para compartirla a través de publicaciones revisadas por pares, conferencias y eventos de la industria.

Interactuamos con expertos externos en derechos humanos y ética tecnológica a través de nuestro Consejo Asesor de Uso Ético y talleres. También solicitamos la opinión de nuestros clientes a través de los Consejos Asesores de Clientes y el diálogo abierto, e incorporamos sus comentarios a nuestro proceso de deliberación.

Creemos en la importancia de retribuir a nuestra industria y sociedad mediante la colaboración con nuestros pares a través de grupos de la industria, foros de la sociedad civil y organizaciones gubernamentales (por ejemplo, el Instituto Nacional de Estándares y Tecnología de EE. UU., el Comité Asesor Nacional de IA de EE. UU., el Consejo Asesor de Singapur sobre el Uso Ético de la IA y los Datos) para mejorar continuamente nuestras prácticas y políticas.

Permitimos que los empleados planteen preguntas e inquietudes a través de canales como nuestro sistema anónimo de informes y gobernanza corporativa en línea, canales de Slack y direcciones de correo electrónico grupales.

La transparencia incluye no solo cómo creamos nuestros modelos, sino también por qué realizaron la predicción o recomendación que hicieron. Publicamos tarjetas de modelos en las que se describe cómo se crearon los modelos, los casos de uso intencionales y no intencionales, las implicaciones éticas o sociales conocidas y las puntuaciones de rendimiento. También proporcionamos la explicabilidad del modelo cuando se realiza una predicción o recomendación de IA.

Permitimos que los clientes mantengan el control de sus datos y modelos en todo momento. Los datos que gestionamos no pertenecen a Salesforce, sino que pertenecen al cliente. También proporcionamos a los clientes una clara divulgación de los términos de uso y las aplicaciones previstas de la capacidad de IA de Salesforce.

Nos esforzamos por eliminar la complejidad de la IA para que las personas de todos los niveles de habilidad técnica, no solo los científicos de datos avanzados, puedan crear aplicaciones de IA con solo clics, no con código. Además, creamos y ofrecemos educación gratuita en IA a través de Trailhead para permitir que cualquiera adquiera las habilidades necesarias para los trabajos de la Cuarta Revolución Industrial. Esto incluye herramientas como la medición del impacto dispar (una definición de sesgo) y la generación automática de tarjetas de modelos (como etiquetas de nutrición para modelos), así como la entrega de orientación en la aplicación para que los clientes sepan cómo usar nuestra IA de forma responsable.

El equipo de IA de Salesforce se compromete a ofrecer avances en la investigación de IA para dar forma a nuevas categorías de productos y garantizar que nuestros clientes se mantengan a la vanguardia de los avances tecnológicos.

Probamos nuestros modelos mediante conjuntos de datos diversos y representativos que son los más adecuados para la forma en que se utiliza el modelo. Buscamos comprender el impacto de los servicios de IA en una amplia gama de clientes, usuarios finales y contextos. Esto incluye la realización de talleres de análisis de consecuencias y talleres de creación con intención. Además, nos esforzamos por crear equipos inclusivos que representen diversas experiencias y puntos de vista, en consonancia con nuestro valor fundamental de igualdad.

La capa de confianza de Salesforce aborda las principales preocupaciones empresariales, como la seguridad de los datos, el cumplimiento normativo y la gobernanza ética, mediante la creación de un conjunto completo de medidas de seguridad directamente en la arquitectura de la plataforma. Es la respuesta a la necesidad empresarial de IA, la que es potente e intrínsecamente confiable.

La capa de confianza es un sólido conjunto de funciones y barreras que forman la implementación técnica de nuestros principios éticos. Está diseñada para mitigar de forma proactiva los riesgos asociados con la IA generativa, ya que protege específicamente la privacidad y la seguridad de tus datos, al tiempo que mejora la seguridad y la precisión de los resultados generados por IA. Esta arquitectura transforma nuestro compromiso con la confianza de una declaración de política a una realidad funcional y en toda la plataforma.

La base de los resultados de IA seguros y precisos se basa en una fundamentación dinámica y una recuperación de datos segura. La IA de confianza comienza con solicitudes firmemente fundamentadas, que son conjuntos de instrucciones enviadas a un modelo de lenguaje grande (LLM) para obtener un resultado que sea útil. La fundamentación dinámica conecta de forma segura el LLM con los datos de tu empresa (como la información almacenada en Data 360 o bases de datos de Knowledge internas) y recupera dinámicamente la información validada. Esto evita que el LLM produzca “alucinaciones”, ya que obliga al modelo a citar y utilizar fuentes confiables y aprobadas por el cliente. La recuperación de datos segura permite que los usuarios accedan de forma segura a la información para contextualizar las solicitudes de IA generativa en relación con tu negocio, mientras mantienes los permisos y los controles de acceso a los datos.

Lo más importante es que la capa de confianza implementa la retención de datos cero y el enmascaramiento de datos a fin de garantizar la máxima seguridad y privacidad para los datos de los clientes. La retención de datos cero es una política estricta en la que las solicitudes y las respuestas generadas nunca se almacenan ni se utilizan para entrenar los modelos de lenguaje grandes de terceros subyacentes, lo que garantiza que los datos sigan siendo propiedad exclusiva del cliente. Como complemento de esto, el enmascaramiento de datos es el proceso que reemplaza la información de identificación personal (PII) confidencial o los datos empresariales propietarios con tokens no identificables antes de que la solicitud se envíe al LLM. Esto protege la información confidencial al tiempo que proporciona el contexto necesario para que el LLM genere una respuesta personalizada y útil.

Para mantener la seguridad y el uso ético, la capa de confianza incluye detección de toxicidad y barreras de seguridad. Estas funciones proporcionan monitoreo y filtrado continuos para garantizar que el contenido generado sea seguro y apropiado, además de estar alineado con los estándares éticos y de la compañía. La detección de toxicidad emplea modelos avanzados de clasificación para analizar y categorizar el contenido generado en tiempo real en busca de señales de discurso de odio, sesgo, acoso u otras infracciones de las políticas. Si se detecta contenido dañino, el filtrado de contenido del sistema lo filtrará, bloqueará o marcará automáticamente antes de que se muestre al usuario final, lo que garantiza una experiencia más segura e inclusiva para todos.

En Salesforce, creemos que el uso ético de la tecnología avanzada, como la IA, es un problema cada vez más complejo. Debe ser abordado claramente, no solo por nosotros, sino por toda nuestra industria. Damos la bienvenida a un diálogo entre múltiples partes interesadas que incluya a nuestros empleados, clientes, socios y comunidades.

Al unirnos para resolver los desafíos emergentes y asegurarnos de que estos nuevos avances tengan en cuenta diversas experiencias, podemos impulsar un cambio positivo con el poder de la IA y el desarrollo de la IA con la perspectiva que nos ayude a aprovechar al máximo el potencial humano.