En Salesforce, nos guiamos por nuestros cinco valores fundamentales: confianza, éxito del cliente, innovación, igualdad y sostenibilidad. También estamos profundamente comprometidos con el desarrollo e implementación de una IA confiable, impulsados por nuestra Oficina de Uso Ético y Humano.
Una de las tecnologías emergentes con mayor potencial para mejorar el estado del mundo es la inteligencia artificial (IA), ya que potencia la inteligencia humana, amplía nuestras capacidades y ofrece información procesable que genera mejores resultados para empleados, clientes y socios.
Creemos firmemente en una IA confiable. Los beneficios de esta tecnología deben ser accesibles para todos. Pero no basta con ofrecer solo sus capacidades técnicas: tenemos la responsabilidad de garantizar que la IA sea segura e inclusiva para todos. Nos tomamos muy en serio este compromiso y trabajamos para proporcionar a nuestros empleados, clientes y socios las herramientas que necesitan para desarrollar y utilizar la IA de forma segura, precisa y ética.
Nuestros principios
En 2018 comenzamos a definir nuestros principios de IA confiable, asegurándonos de que respondieran a los productos, casos de uso y necesidades específicas de nuestros clientes. Fue un proceso de un año durante el cual recopilamos comentarios de colaboradores individuales, gerentes y ejecutivos de todas las áreas de la empresa, incluidas las de ingeniería, desarrollo de productos, experiencia del usuario, ciencia de datos, legal, igualdad, asuntos gubernamentales y marketing. Los principios fueron aprobados por ejecutivos de todas nuestras nubes y unidades de negocio, incluidos nuestros entonces codirectores ejecutivos, Marc Benioff y Keith Block. Como comentamos en nuestro Modelo de madurez ética de la IA, aunque este camino pueda parecer largo, ha sido una experiencia formativa crucial. Garantiza que todos los miembros de la organización hayan contribuido, comprendan su responsabilidad de aplicar estos principios y se comprometan a integrarlos en su trabajo diario.
Cumplimiento
Nos esforzamos por salvaguardar los derechos humanos, proteger los datos que se nos confían, respetar las normas científicas y hacer cumplir las políticas contra el abuso. Esperamos que nuestros clientes utilicen nuestra IA de manera responsable y conforme a sus acuerdos con nosotros, incluida nuestra Política de uso aceptable.
Responsabilidad
Creemos en asumir nuestra responsabilidad de ofrecer una IA ante nuestros clientes, socios y la sociedad. Buscaremos comentarios independientes para la mejora continua de nuestras prácticas y políticas, y trabajaremos para mitigar el daño a los clientes y consumidores.
Transparencia
Nos esforzamos por garantizar que nuestros clientes entiendan el “por qué” detrás de cada recomendación y predicción impulsada por IA, para que puedan tomar decisiones informadas, identificar resultados no deseados y mitigar daños.
Empoderamiento
Creemos que la IA se utiliza mejor cuando se combina con la capacidad humana, potenciando a las personas y permitiéndoles tomar mejores decisiones. Aspiramos a crear tecnología que empodere a todos para ser más productivos y que impulse un mayor impacto dentro de sus organizaciones.
Inclusividad
La IA confiable debe mejorar la condición humana y representar los valores de todos los afectados, no solo de sus creadores. Avanzaremos en la diversidad, promoveremos la igualdad y fomentaremos la equidad a través de la IA.
De los principios a la práctica
No basta con tener un conjunto de principios para lograr una verdadera IA confiable. La ética es un deporte de equipo y, para que tenga sentido, todos los miembros de la empresa deben comprender que son responsables de vivir estos principios. A continuación, se muestran ejemplos de cómo hemos llevado estos principios a la práctica.
Cumplimiento
Antes de crear cualquier función de IA, comenzamos preguntando no solo si podemos hacer algo, sino también si debemos hacerlo. Trabajamos con expertos externos en derechos humanos para aprender, crecer y descubrir nuevas formas de proteger los derechos humanos.
Educamos y empoderamos a nuestros clientes para que tomen decisiones informadas sobre cómo usar nuestra IA de manera responsable. Para ello, crearemos herramientas y recursos que ayudarán a los empleados, clientes y socios de Salesforce a identificar y mitigar el sesgo en los sistemas que están construyendo y utilizando (p. ej., marcando cuándo se utilizan categorías de datos protegidos y variables proxy en un modelo, proporcionando transparencia en los factores que más influyen en las predicciones individuales), lo que permite a los clientes y socios comprender la responsabilidad que tienen de adoptar la IA de forma segura y fiable.
Nos adherimos a las más altas prácticas de seguridad y privacidad para anticipar y mitigar daños no deseados y mantener nuestros productos seguros. Cumplimos con las leyes aplicables que rigen la investigación y el uso de la IA. También nos esforzamos por cumplir con los más altos estándares científicos y de calidad en nuestra investigación, garantizando su seguridad y compartiéndola a través de publicaciones revisadas por pares, conferencias y eventos del sector.
Responsabilidad
Nos relacionamos con expertos externos en derechos humanos y ética tecnológica a través de nuestro Consejo asesor de uso ético y talleres. También invitamos a nuestros clientes a dar su opinión a través de los Consejos asesores de clientes y a abrir un diálogo para incorporarlo a nuestro proceso de deliberación.
Creemos en la importancia de retribuir a nuestro sector y a la sociedad colaborando con nuestros pares a través de grupos del sector, foros de la sociedad civil y organizaciones gubernamentales (p. ej., el Instituto Nacional de Estándares y Tecnología de EE.UU., el Comité Asesor Nacional de IA de EE. UU., el Consejo Asesor sobre el Uso Ético de la IA y los Datos de Singapur) para mejorar continuamente nuestras prácticas y políticas.
Permitimos que los empleados planteen preguntas e inquietudes a través de canales como nuestro sistema anónimo de informes corporativos y gobernanza online, los canales de Slack y la dirección de correo electrónico grupal.
Transparencia
La transparencia incluye no solo cómo construimos nuestros modelos, sino también por qué hicieron la predicción o recomendación que hicieron. Publicamos tarjetas que describen cómo se crearon los modelos, los casos de uso previstos y no previstos, las implicaciones éticas o sociales conocidas y las puntuaciones de rendimiento. También proporcionamos explicaciones del modelo cuando se realiza una predicción o recomendación de IA.
Permitimos que los clientes mantengan el control de sus datos y modelos en todo momento. Los datos que gestionamos no pertenecen a Salesforce, sino al cliente. También proporcionamos a los clientes una divulgación clara de los términos de uso y las aplicaciones previstas de la capacidad de IA de Salesforce.
Empoderamiento
Nos esforzamos por abstraer la complejidad de la IA para que sea posible que personas de todos los niveles de habilidades técnicas, no solo científicos de datos avanzados, creen aplicaciones de IA solo con clics, sin necesidad de código. Además, creamos e impartimos educación gratuita sobre IA a través de Trailhead para permitir que cualquier persona adquiera las habilidades necesarias para los trabajos de la Cuarta Revolución Industrial. Esto incluye herramientas como la medición del impacto dispar (una definición de sesgo) y el llenado automático de tarjetas (como etiquetas nutricionales para modelos), así como proporcionar orientación en la aplicación para que los clientes sepan cómo usar nuestra IA de manera responsable.
El equipo de IA de Salesforce se compromete a ofrecer avances en la investigación de IA para informar sobre nuevas categorías de productos y garantizar que nuestros clientes se mantengan a la vanguardia de los avances tecnológicos.
Inclusividad
Probamos nuestros modelos utilizando conjuntos de datos diversos y representativos que son los más apropiados para la forma en que se utiliza el modelo. Buscamos comprender el impacto de los servicios de IA en una amplia gama de clientes, usuarios finales y contextos. Esto incluye la realización de Talleres de análisis de consecuencias y Talleres de construcción con intención. Y nos esforzamos por crear equipos inclusivos que representen diversas experiencias y puntos de vista, alineándonos con nuestro valor fundamental de igualdad.
Todos estamos juntos en esto
En Salesforce, creemos que el uso ético de tecnologías avanzadas como la IA es un tema cada vez más complejo. Debe abordarse claramente, no solo por nosotros, sino por todo nuestro sector. Damos la bienvenida a un diálogo de múltiples partes interesadas que incluye a nuestros empleados, clientes, socios y comunidades.
Al unirnos para resolver los desafíos emergentes y garantizar que estos nuevos avances tengan en cuenta las diversas experiencias, somos capaces de promover un cambio positivo con el poder de la IA e impulsar el desarrollo de la IA con una perspectiva que nos ayude a aprovechar al máximo el potencial humano.
¿Alguna pregunta?
Nosotros le ayudamos
