Cuesta creerlo a d\u00eda de hoy, pero en su momento los consumidores no se fiaban del ecommerce. Antes de que estas plataformas que a d\u00eda de hoy suponen un negocio de 1 bill\u00f3n de d\u00f3lares anual llegaran a florecer, los usuarios tem\u00edan por la seguridad de sus datos personales y financieros. Eso es lo que llamar\u00edamos una brecha de confianza.<\/p>\n\n\n\n
Si pasamos a c\u00e1mara r\u00e1pida hasta el presente, vemos que la confianza explica el grado de \u00e9xito y la amplitud con la que las empresas y los clientes adoptan la tecnolog\u00eda emergente de la IA generativa. Algunas empresas est\u00e1n a\u00f1adiendo la IA a sus productos sin llevar a cabo el arduo trabajo de eliminar el sesgo que presenta la tecnolog\u00eda, ofrecer transparencia a sus usuarios y garantizar que los datos del cliente est\u00e9n protegidos al 100 %. Pero, tal y como cada vez m\u00e1s l\u00edderes se dan cuenta, es precisamente este bulto que est\u00e1n escurriendo el que marcar\u00e1 la diferencia entre que la gente conf\u00ede, o no, en tu IA.<\/p>\n\n\n\n
\u201cTodos nuestros departamentos tienen grandes ideas sobre c\u00f3mo usar la IA generativa\u201d,\u00a0indica Shoreh Abedi<\/a>, vicepresidenta ejecutiva, directora de operaciones y directora de tecnolog\u00eda en AAA. \u201cNo quiero poner trabas a la creatividad, pero tampoco quiero lo mejor del mundo si ello deja una puerta trasera abierta en mi empresa\u201d.<\/p>\n\n\n\n Descubre cambio de prioridades y m\u00e9tricas de \u00e9xito en medio de las cambiantes necesidades de negocio y de los clientes.<\/p>\n\t\t\t\n\t\t\t\n\t\t\t\t\t\t\t C\u00f3mo lo ven los empleados<\/strong><\/p>\n\n\n\n Qu\u00e9 puedes hacer ahora<\/strong><\/p>\n\n\n\n As\u00f3ciate con empresas que desarrollen protecciones en el tejido de sus sistemas de IA<\/a>. Estos son los motivos por los que esto es importante: <\/p>\n\n\n\n Patrick Stokes, vicepresidente ejecutivo de Marketing Sectorial en Salesforce, explic\u00f3 que con AI Cloud se pueden aprovechar las ventajas de productividad de la IA sin regalar los datos de tu empresa. La privacidad de los datos de IA, afirma, requiere varias salvaguardas:<\/p>\n\n\n\n El anclado din\u00e1mico orienta las respuestas de un LLM usando la informaci\u00f3n m\u00e1s actualizada y correcta, \u201canclando\u201d el modelo en datos reales y un contexto relevante. Esto evita las llamadas alucinaciones de IA y las respuestas incorrectas que no guardan relaci\u00f3n con la realidad.<\/p>\n\n\n\n El enmascarado de datos sustituye los datos sensibles con datos anonimizados para proteger la informaci\u00f3n privada y cumplir con los requisitos de privacidad. El enmascarado de datos es particularmente \u00fatil para garantizar que se ha eliminado toda la informaci\u00f3n personalmente identificable, como nombres, n\u00fameros de tel\u00e9fono y direcciones, al escribir peticiones de IA.<\/p>\n\n\n\n La detecci\u00f3n de toxicidad es un m\u00e9todo para detectar contenido t\u00f3xico como la incitaci\u00f3n al odio y los estereotipos negativos. Para lograrlo, utiliza un modelo de aprendizaje autom\u00e1tico para analizar y puntuar las respuestas que proporciona un LLM, lo cual garantiza que el texto generado por el modelo es apto para el uso en un contexto empresarial. <\/p>\n\n\n\n La retenci\u00f3n cero significa que ni un \u00e1pice de los datos del cliente se almacena fuera de Salesforce. Las peticiones de IA generativa y los resultados nunca se almacenan en el LLM y este no aprende de ellos, sino que simplemente desaparecen.<\/p>\n\n\n\n La auditor\u00eda eval\u00faa continuamente los sistemas para garantizar que funcionan seg\u00fan lo esperado, sin sesgos, con datos de alta calidad y en alineaci\u00f3n con los marcos normativos y de la organizaci\u00f3n. Las auditor\u00edas tambi\u00e9n ayudan a las organizaciones a satisfacer los requisitos de cumplimiento, puesto que registran las peticiones, los datos usados, los resultados y las modificaciones del usuario final en una pista de auditor\u00eda segura.<\/p>\n\n\n\n La recuperaci\u00f3n de datos segura es la forma en que Einstein<\/a> (la primera soluci\u00f3n de IA generativa para la gesti\u00f3n de las relaciones con los clientes (CRM)) obtiene datos de Salesforce, incluido Data Cloud<\/a>, como parte del proceso de anclado din\u00e1mico. Esto permite aportar los datos necesarios para construir peticiones contextuales. En cada interacci\u00f3n, se aplican las pol\u00edticas de gobernanza y los permisos para garantizar que solo las personas con autorizaci\u00f3n pueden acceder a los datos.<\/p>\n\n\n\n Julie Sweet, directora ejecutiva de Accenture, afirm\u00f3 que los riesgos se mitigan cuando las salvaguardas de privacidad y seguridad como estas se integran directamente en la tecnolog\u00eda<\/a>.<\/p>\n\n\n\n Toda la tecnolog\u00eda del mundo no basta para garantizar que la IA sea transparente, responsable y segura. Para ello, tambi\u00e9n hace falta una buena gobernanza, empezando por arriba, y llevar a cabo una supervisi\u00f3n humana de los sistemas de IA.<\/p>\n\n\n\n Seg\u00fan un informe de KPMG<\/a>, el 75 % de las personas que participaron en la encuesta estar\u00edan m\u00e1s dispuestos a confiar en los sistemas de IA si hubiera mecanismos para garantizar el uso \u00e9tico y responsable de la tecnolog\u00eda.<\/p>\n\n\n\n Seg\u00fan este informe, \u201cestos mecanismos incluyen un sistema de monitorizaci\u00f3n que sea preciso y fiable, un c\u00f3digo de conducta de IA, la supervisi\u00f3n por parte de una junta de revisi\u00f3n \u00e9tica independiente de IA y una certificaci\u00f3n de \u00e9tica de IA para establecer los principios de gobernanza\u201d.<\/p>\n\n\n\n En Accenture, el comit\u00e9 de auditor\u00eda de su junta de direcci\u00f3n supervisa el programa de cumplimiento de IA para los 55.000 empleados de la firma.<\/p>\n\n\n\n \u201cSi no puedes llamar a alguien al azar de tu empresa y que te indiquen d\u00f3nde se est\u00e1 utilizando la IA, qu\u00e9 riesgos existen, c\u00f3mo se est\u00e1n mitigando y qui\u00e9n es la persona responsable, no tienes todav\u00eda un sistema de IA responsable\u201d, sentencia Sweet.<\/p>\n\n\n\n Los l\u00edderes de sectores altamente regulados como los servicios financieros y los proveedores de salud son cautos a la hora de implementar la IA para no sacrificar la confianza y la seguridad del cliente. Para garantizar el cumplimiento de la normativa, estos sectores deben explorar casos pr\u00e1cticos que no ponen en riesgo la privacidad de los datos ni la seguridad.<\/p>\n\n\n\n Benioff afirm\u00f3 hace poco que la IA generativa pod\u00eda ser la \u201ctecnolog\u00eda m\u00e1s importante de cualquier vida\u201d. Est\u00e1 claro que la IA generativa podr\u00eda hacer que el ecommerce, que cambi\u00f3 para siempre el comportamiento del cliente, los sectores y los modelos de negocio, parezca ahora un avance relativo. McKinsey ha estimado recientemente<\/a> que el impacto de la IA en la productividad puede a\u00f1adir billones de d\u00f3lares cada a\u00f1o a la econom\u00eda global. Pero debemos tener un alto grado de confianza en estos sistemas antes de que esto pueda suceder.<\/p>\n\n\n\n \u201cEs esencial que la IA sea fiable\u201d, concluy\u00f3 KPMG en un estudio. \u201cSi m\u00e1s personas perciben que los sistemas de IA son de confianza y est\u00e1n dispuestos a confiar en ellos, tambi\u00e9n tendr\u00e1n m\u00e1s probabilidades de aceptarlos\u201d.<\/p>\n\n\n\n Este m\u00f3dulo de aprendizaje te mostrar\u00e1 c\u00f3mo eliminar los sesgos de tus datos y algoritmos para crear sistemas de IA \u00e9ticos en tu empresa.<\/p>\n\n\n\n3rd edici\u00f3n del informe State of IT<\/h2>\n\t\t\t\t\t\t\t
![\"\"](\"https:\/\/www.salesforce.com\/es\/blog\/wp-content\/uploads\/sites\/13\/2024\/01\/3rd-state-of-it-form-es.png\")
\t\t<\/div>\n\t<\/div>\n\n\t\n\t<\/div>\n\n\n\n\n
\n
C\u00f3mo incorporar la privacidad de datos de IA en tus sistemas<\/strong><\/h2>\n\n\n\n
La confianza en la privacidad de los datos de IA empieza con una buena gobernanza<\/strong><\/h2>\n\n\n\n
La IA de confianza es especialmente decisiva en sectores regulados<\/strong><\/h2>\n\n\n\n
\n
Una gran IA comporta una gran responsabilidad<\/strong><\/h2>\n\n\n\n