Agentes de LLM: una guía completa

Los modelos de lenguaje de gran tamaño (LLM) son los motores que impulsan la IA, lo que permite a las personas hacer preguntas sencillas y recibir respuestas sencillas. Pero, ¿qué pasa si necesita hacer más que eso? Ahí es donde destacan los agentes de LLM. Hay diferentes tipos de agentes de LLM, pero todos gestionan consultas más complejas que requieren memoria, razonamiento secuencial y el uso de múltiples herramientas.

Los LLM ahora pueden gestionar más de un billón de parámetros . Y la demanda de trabajo digital impulsado por agentes seguirá creciendo a medida que las empresas busquen aumentar su uso de la IA generativa.

Desglosaremos cómo trabajan los diferentes tipos de agentes de LLM, qué pueden hacer, los componentes que requieren, los desafíos que plantean y cómo están utilizando las empresas estas herramientas ahora y cómo lo harán en el futuro.

Temas que abordaremos:

• ¿Qué son los agentes de LLM?
• ¿Qué pueden hacer los agentes de LLM?
• Tipos de agentes de LLM y qué pueden hacer
• Componentes de un agente de LLM
• Cómo utilizan las empresas los diferentes tipos de agentes de LLM
• Posibles desafíos de los agentes de LLM
• El futuro de los agentes de LLM
• Liderar con los LLM

Los LLM son sistemas de inteligencia artificial (IA) que utilizan una combinación de memoria, planificación y razonamiento secuencial para generar respuestas detalladas a las preguntas de los usuarios de una manera similar a cómo respondería un humano. He aquí un ejemplo:

El usuario 1 pide al chatbot interno de su empresa, entrenado con un LLM, que extraiga las estadísticas de nómina del último año. El chatbot sigue un proceso preestablecido para buscar en las bases de datos relevantes y devolver el conjunto de datos específico.

El usuario 2, sin embargo, tiene una pregunta más compleja. Quieren saber cómo las nuevas leyes federales y estatales pueden afectar a las políticas basadas en los datos de nómina del año pasado. En este caso, el chatbot se queda corto. Si bien puede devolver datos sobre las nóminas e información sobre nuevas leyes, no puede combinarlos en una respuesta significativa. Pero los agentes de LLM sí pueden hacerlo.

Mediante una combinación de aprendizaje automático (ML) y procesamiento del lenguaje natural (NLP), los agentes de LLM pueden comprender y responder a consultas complejas. Estas características separan a los agentes de los modelos tradicionales de generación aumentada de recuperación (RAG), que extraen datos de fuentes internas para responder a preguntas sencillas.

Los agentes de LLM pueden aplicar la razón y la lógica para responder preguntas. En lugar de simplemente tomar una pregunta al pie de la letra, los agentes pueden dividir las consultas en partes más pequeñas para encontrar respuestas idóneas. A continuación, utilizan su memoria de la pregunta original para combinar las respuestas y producir un resultado preciso. Esto permite a los agentes de IA responder a consultas en profundidad basadas en múltiples conjuntos de datos, crear resúmenes a partir de texto, escribir código o generar planes.

Los agentes de LLM pueden mejorar su producción con el tiempo analizando y aprendiendo de las interacciones anteriores. En efecto, los agentes pueden reflexionar sobre su comportamiento, determinar el éxito de este comportamiento y realizar cambios que mejoren los resultados.

Para mejorar con cada tarea, los agentes de LLM utilizan herramientas como búsquedas web o probadores de código para verificar la precisión y reducir los tiempos de respuesta. Al evaluar continuamente las respuestas con respecto a datos nuevos e históricos, los agentes pueden identificar y corregir estos errores.

También es posible que los agentes trabajen en tándem. Por ejemplo, un agente puede asumir la tarea de recuperar información y generar respuestas mientras otro evalúa la precisión de los resultados. Un tercero puede evaluar el rendimiento de ambos y sugerir mejoras. A continuación, estos agentes combinan sus datos para producir un resultado único y relevante.

Puede configurar agentes de LLM para que cumplan varios roles, pero los diferentes tipos de agentes no son mutuamente excluyentes. Un agente puede realizar varias funciones simultáneamente o en secuencia.

Los tipos comunes de agentes de LLM incluyen:

• Agentes de LLM de tareas específicas: estos agentes están diseñados para ejecutar operaciones estrictamente definidas, como verificar el estado del pedido de un cliente o actualizar su información de envío. Normalmente, los agentes de tareas específicas se extraen de un grupo más pequeño de datos, como los que ofrecen los modelos de lenguaje pequeños (SLM).
• Agentes de LLM conversacionales: los agentes de IA conversacional pueden interactuar con los usuarios finales, como el personal o los clientes, y proporcionar respuestas a preguntas comunes. La diferencia entre estos agentes de IA y sus homólogos de chatbot es que estos agentes aprenden con el tiempo, lo que les permite producir respuestas más naturales a las preguntas de los usuarios.
• Agentes de LLM de apoyo a la toma de decisiones: los agentes de apoyo a la toma de decisiones extraen información de los conjuntos de datos o proporcionan resúmenes de datos a gran escala para mejorar la toma de decisiones. Por ejemplo, el director de información de seguridad de una empresa podría utilizar un LLM de apoyo a la toma de decisiones para evaluar y resumir el impacto de todos los ataques de ciberseguridad corporativos durante un período determinado.
• Agentes de LLM de automatización del flujo de trabajo: los agentes de LLM de automatización del flujo de trabajo automatizan flujos de trabajo de varios pasos. A los agentes autónomos se les proporcionan los datos necesarios del sistema, las especificaciones funcionales y el rendimiento histórico del flujo de trabajo para crear una línea de base operativa. A partir de ahí, los agentes llevan a cabo la tarea asignada y mejoran con el tiempo.
• Agentes de LLM de recuperación de información: los métodos de RAG son utilizados por estos tipos de agentes LLM para encontrar y recuperar datos de cualquier sistema. Aquí, la recuperación de datos es relativamente sencilla. Los agentes destacan en su capacidad para identificar y capturar datos relevantes e ignorar la información superflua.
• Agentes de LLM colaborativos: los agentes colaborativos operan junto o en conjunto con otros agentes. Estos agentes operan efectivamente en paralelo, lo que permite reducir los tiempos de respuesta sin perder precisión.
• Agentes de LLM de aprendizaje adaptativo: los agentes adaptativos utilizan datos históricos para mejorar el rendimiento futuro. Los agentes evalúan los resultados pasados y los comparan con los resultados ideales para desarrollar nuevas estrategias.

La creación de un agente de IA con capacidades de LLM requiere un modelo de lenguaje de gran tamaño. Este LLM genera e interpreta texto en lenguaje natural y componentes adicionales como ingeniería de solicitudes, módulos de memoria o sistemas de recuperación para mejorar su comprensión contextual y funcionalidad. Para todos los tipos de agentes de LLM, los tres componentes de alto nivel son el cerebro, la memoria y la planificación.

El cerebro de un agente es un modelo de lenguaje que puede entender y responder a las preguntas de los usuarios. Los agentes utilizan solicitudes (preguntas o declaraciones hechas por los usuarios) para guiar sus procesos de toma de decisiones y respuestas. Utilizando soluciones como Agentforce, estos cerebros pueden personalizarse con marcos diseñados para situaciones específicas, como la gestión de tareas en finanzas, recursos humanos o ciberseguridad.

La memoria ayuda a los agentes a recordar sus acciones anteriores para mejorar su próxima respuesta. Esto se puede dividir en tres tipos:

• A corto plazo: la memoria a corto plazo en los agentes se aplica a la conversación o tarea actual. Es un registro de las indicaciones del usuario y de las acciones realizadas hasta el momento por el agente.
• A largo plazo: la memoria a largo plazo es un repositorio de datos de conversaciones pasadas o solicitudes que pueden durar semanas o meses. Esta memoria proporciona contexto a las tareas actuales y puede ser revisada por los agentes para identificar posibles errores y áreas de mejora.
• Híbrido: la memoria híbrida combina la memoria a corto y largo plazo para mejorar las respuestas de los agentes en cada momento manteniendo la conciencia situacional y aprovechando la información relevante de forma dinámica.

Los módulos de planificación mejoran las respuestas al dividir las tareas complejas en partes más pequeñas:

• Formulación del plan (con y sin retroalimentación): la formulación del plan es el primer paso. Los agentes dividen las tareas en subtareas y luego las completan. Los planes pueden crearse y ejecutarse con o sin retroalimentación. Sin retroalimentación, los planes son desarrollados y ejecutados por agentes sin supervisión humana. Con la retroalimentación, los humanos implicados evalúan los planes y hacen recomendaciones antes de que se ejecuten los planes.
• Reflexión del plan: la reflexión del plan se produce después de que se lleve a cabo el plan. Mediante el uso de una combinación de herramientas de evaluación interna y retroalimentación humana externa, la reflexión del plan ayuda a identificar áreas de mejora.

En la práctica, estos componentes trabajan juntos como un cerebro humano simplificado. Los cerebros de los agentes incorporan e interpretan las consultas de los usuarios. La memoria a corto plazo se utiliza para generar una comprensión de la tarea actual, mientras que la memoria a largo plazo proporciona contexto. La planificación divide las tareas complejas en subtareas, que luego se completan para resolver el problema y proporcionar una respuesta.

La reflexión del plan ayuda a reducir el riesgo de errores futuros al permitirles evaluar críticamente sus resultados, identificar posibles errores y mejorar la precisión y la coherencia de sus planes.

Hay varias formas de utilizar estos tipos de agentes de LLM, entre ellas:

• Ventas: con la IA de ventas, los agentes pueden utilizarse para ponerse en contacto con clientes potenciales y proporcionar información sobre productos, concertar reuniones con un representante de ventas u ofrecer precios y promociones especiales.
• Servicio: los agentes de IA basados en servicios pueden responder a las preguntas de los clientes, ofrecer consejos técnicos para la resolución de problemas o derivar las preguntas a los representantes humanos.
• Comercio: mediante el uso de la IA para el comercio, los agentes permiten el estado y el seguimiento de los pedidos bajo demanda, las modificaciones de los mismos y la ayuda con las devoluciones o los reembolsos.
• Marketing: con su capacidad para gestionar solicitudes complejas, los agentes de LLM pueden utilizar la IA de marketing para identificar el público objetivo y crear campañas de marketing personalizadas para diferentes segmentos, en función del rendimiento de las campañas anteriores.

Si bien las ventajas de la IA y los LLM son significativas, aún podrían tener que enfrentarse a algunos desafíos con varios tipos de agentes de LLM. Los problemas más comunes son:

Si los agentes de LLM no están capacitados con suficientes datos o los datos carecen de variedad, puede crear un contexto limitado. Esto reduce la capacidad del agente para producir respuestas relevantes y procesables.

Los agentes destacan en la planificación a corto plazo, pero pueden tener dificultades para gestionar las solicitudes de planes a largo plazo que se extienden durante meses o años debido a la falta de memoria persistente, las limitaciones de la ventana de contexto y las brechas de integración de herramientas (y recursos).

Los datos de origen inexactos o las instrucciones poco claras pueden dar lugar a resultados inconsistentes. Si la misma consulta devuelve múltiples resultados, socava la utilidad de los agentes de LLM.

Los agentes se pueden personalizar para cumplir roles. Sin embargo, el éxito de estos roles depende del marco de IA utilizado. Esto se debe a que el marco determina la eficacia con la que el agente se puede entrenar, implementar e integrar con otras herramientas y sistemas.

Si bien las solicitudes forman la base de las respuestas de los agentes, los agentes de LLM también deben usar la memoria y la autorreflexión para informar las respuestas. Si estos componentes faltan o están ausentes, puede limitar el alcance y la precisión de las respuestas.

Un ejemplo es la dependencia de solicitudes. Esto ocurre cuando los LLM "dependen" de las solicitudes para proporcionar pistas contextuales sobre el resultado deseado. En el mejor de los casos, esto conduce a resultados ligeramente sesgados. En el peor de los casos, los resultados son inexactos.

El gran volumen de conocimiento gestionado y almacenado por los agentes de LLM puede generar desafíos de gestión. Estos desafíos pueden manifestarse como un rendimiento reducido o respuestas inexactas.

Por lo general, los agentes de LLM mejoran la eficiencia operativa, lo que puede significar un mayor retorno de la inversión por el uso de agentes y ahorros en toda la empresa. Pero si los agentes no se integran con los sistemas existentes o se basan en marcos que consumen muchos recursos, puede haber un aumento de los costes y una reducción de la eficiencia.

A medida que los algoritmos de ML se vuelven más complejos y los conjuntos de chips más potentes, se espera que estos tipos de agentes de LLM y agentes de IA se vuelvan más inteligentes, más rápidos y más capaces de aprender sobre la marcha. En la práctica, esto crea una oportunidad para que estos chatbots impulsados por IA trabajen junto a sus homólogos humanos en lugar de operar como un elemento secundario.

Piense en las ventas B2B. Tradicionalmente, los empleados pueden utilizar los LLM para mejorar el marketing o la copia del producto y generar clientes potenciales. Con herramientas más avanzadas, el personal puede utilizar los agentes para diseñar y entregar campañas de correo electrónico en profundidad y responder a las preguntas de los clientes. Esto ofrece el doble beneficio de una mejor personalización para los clientes y más tiempo para que el personal se concentre en la creación de estrategias de ventas a largo plazo.

Con el crecimiento exponencial de la IA empresarial, las empresas se benefician de varios tipos de agentes de LLM. Esta tecnología ofrece una forma para que las empresas mejoren el servicio al cliente, mejoren la toma de decisiones y gestionen problemas complejos de varios pasos.

Agentforce está ayudando a las empresas a tomar la delantera con los LLM. Al crear y personalizar agentes de IA autónomos, las empresas pueden combinar la experiencia de los empleados humanos con la creciente experiencia de la IA para apoyar a los clientes y empleados las 24 horas del día, los 7 días de la semana. Pruebe Agentforce usted mismo para ver cómo puede ayudarlo mejor a conectarse con los clientes y hacer que sus empleados sean más eficientes.