¿Necesita un agente IA? 5 escenarios a considerar

Los agentes IA pueden lograr resultados sorprendentes: gestionar devoluciones complejas en empresas minoristas, evaluar la elegibilidad de pacientes para ensayos clínicos o ayudar a los compradores de vivienda a comparar opciones de préstamo, simplificando un proceso que suele ser complicado y confuso.

Sin embargo, por impresionantes que sean los agentes de inteligencia artificial (IA), hay ocasiones en las que podrían no ser apropiados, y saber cuándo no utilizarlos (o decir que no) es tan importante como saber cuándo seguir adelante. ¿Cómo se toma la decisión correcta? Considere estos ejemplos.

1. Cuando su empresa aún no está preparada

En muchos sentidos, prepararse para usar un agente IA es como plantar un jardín: para que crezca sano y productivo, primero hay que quitar malas hierbas, enriquecer la tierra y elegir el momento adecuado para sembrar.

Lo mismo ocurre con un agente. Si no ha definido qué flujos de trabajo seguirá o qué reglas debe aplicar, todavía queda trabajo previo. Un agente IA puede aportar un gran valor, pero necesita instrucciones claras y precisas sobre qué hacer y por qué. Además, conviene empezar con un caso de uso concreto que pueda generar resultados rápidos.

Saltarse esta preparación puede llevar al agente IA al fracaso. Por eso, primero defina el flujo de trabajo, establezca las reglas que lo guiarán y tenga muy claros los objetivos de negocio que quiere alcanzar.

2. Cuando sus datos necesitan limpieza y organización

Uno de los pasos más importantes antes de implementar un agente IA es limpiar y organizar sus datos. Después de todo, su agente solo será tan bueno como los datos con los que se le haya entrenado.

Por ejemplo, sus contactos de clientes o datos de ventas pueden estar desactualizados. Otros datos pueden estar dispersos en plataformas desconectadas o su empresa puede necesitar más tiempo para recopilar los datos.

Entrenar un agente con datos de baja calidad puede derivar en errores como asignar mal el estado de un cliente preferente al reservar un vuelo o usar el nombre equivocado al tramitar prestaciones.

Con datos fiables, las probabilidades de éxito aumentan. Una ventaja de Agentforce, la plataforma de Salesforce para crear agentes IA, es que se basa en los datos de sus clientes y está integrada con Data Cloud, el motor de datos a hiperescala de Salesforce. Esta integración proporciona una base de datos unificada y en tiempo real que conecta con sus objetivos de negocio. ¿El resultado? Agentes mejor informados y preparados para destacar en su trabajo.

3. Cuando sus barreras de protección no son lo suficientemente fuertes

En la configuración de un agente IA, es esencial establecer reglas claras sobre lo que puede y no puede hacer. Estas barreras de protección limitan su acceso a los datos necesarios para su trabajo y evitan que acceda a información confidencial.

Sin estos límites, la IA podría actuar de forma inapropiada o poco ética: revelar datos personales, usarlos de manera indebida o perpetuar sesgos. Ejemplos sobran: desde la empresa tecnológica que tuvo que retirar su herramienta de contratación de IA por discriminar a mujeres, hasta un sistema de diagnóstico de cáncer de piel menos preciso en personas con piel más oscura.
El sesgo no lo crea la IA: lo aprende de los datos con los que se entrena. Pero si su IA lo está reproduciendo, no implemente la IA basada en agentes hasta corregir el problema.

Einstein Trust Layer ayuda a prevenir estos riesgos con funciones como detección y enmascaramiento de información personal (PII), retención cero de datos y detección de toxicidad. Agentforce, por ejemplo, oculta automáticamente datos sensibles como estado de salud, ingresos o número de la seguridad social, impidiendo que lleguen a terceros.

Una vez establecidas las barreras de protección, pruebe su eficacia con pruebas adversariales. Así podrá detectar sesgos o comportamientos indebidos antes de que lleguen a producción.

• Un proveedor médico podría intentar que el agente IA revele datos de un paciente; si lo hace, las barreras necesitan ajustes.
• Un banco podría pedir al agente IA que recomiende préstamos a tres solicitantes idénticos llamados José Smith, Joe Smith y Janet Smith. «Si las respuestas difieren, hay un problema de sesgo», dijo Kathy Baxter, vicepresidenta de Salesforce y arquitecta principal de IA responsable y tecnología. La solución: siga perfeccionando sus barreras de protección.

4. Cuando la participación humana es fundamental

Los agentes IA pueden transformar la atención médica, un sector marcado por la escasez de personal y el agotamiento de los profesionales. Empresas como Adobe Population Health ya utilizan Agentforce para agilizar tareas rutinarias: resumir historiales clínicos, por ejemplo, ahora lleva un 75% menos de tiempo que antes, liberando a las enfermeras para lo que más valoran: escuchar y cuidar a los pacientes.

Los agentes IA también pueden revisar historiales de los pacientes y generar resúmenes de visitas, pero en áreas críticas —atención directa, asesoramiento médico o evaluación de tratamientos— la supervisión humana es imprescindible. La Política de uso aceptable de IA de Salesforce prohíbe decisiones automatizadas en casos altamente sensibles o de asesoramiento individualizado.

Este principio también aplica a decisiones que impacten las oportunidades económicas de una persona: contratación, concesión de préstamos o acceso a beneficios como la Seguridad Social. “Siempre que haya una decisión sobre oportunidades o acceso a beneficios, querrá que un humano la revise”, señala Kathy Baxter, vicepresidenta de Salesforce.

La realidad es que la IA aún no toma decisiones de forma completamente fiable e imparcial. Ejemplos preocupantes incluyen sistemas que rechazaban automáticamente solicitudes de mujeres mayores de 55 años o el estudio de la Universidad de Lehigh, que encontró que los modelos lingüísticos grandes (LLM) recomendaban más denegaciones y tasas de interés más altas a solicitantes negros que a los blancos con perfiles idénticos.

Cuando la vida o los medios de subsistencia están en juego, la última palabra debe ser humana. Aun así, la IA puede ser un gran asistente: “Un agente puede ayudarle a ahorrar tiempo —añade Baxter— leyendo estados financieros, políticas o documentos legales muy rápido y resumiéndolos en un lenguaje sencillo”.

5. Cuando podría violar las regulaciones de la IA

A medida que la IA avanza, también lo hacen las leyes que la regulan. En la Unión Europea, por ejemplo, se aprobó el Reglamento General de Protección de Datos (RGPD) en 2018 y la Ley de Inteligencia Artificial de la UE en 2024. El primero protege los datos personales, mientras que el segundo busca garantizar que la IA sea segura, transparente, trazable y no discriminatoria.

Estas normas prohíben, entre otras cosas, el uso de la IA con fines manipuladores o para implementar sistemas de puntuación social, una práctica de monitorear el comportamiento de las personas.

En Estados Unidos, varios estados también han legislado sobre IA. “En California y en otros estados, no se puede utilizar la IA para hacerse pasar por un humano”, explica Kathy Baxter, vicepresidenta de Salesforce. “Debe ser transparente con las personas que interactúan con la IA”.

Por lo tanto, antes de implementar a un agente IA, asegúrese de que cumple con las regulaciones apropiadas.

Todos seguimos aprendiendo en lo que respecta a la IA

Si la IA le resulta abrumadora, no está solo. La inteligencia artificial —incluida la IA generativa y los agentes IA— evoluciona a tal velocidad que todos seguimos aprendiendo cómo aprovecharla de forma efectiva.

Estos agentes ya han demostrado ser expertos en automatizar tareas, agilizar flujos de trabajo, mejorar la atención al cliente y analizar grandes volúmenes de datos. El truco está en descubrir cuándo y cómo implementarlos, y en conocer los factores clave a considerar antes de dar el paso.