Agentes de LLM: guía completa

Los grandes modelos de lenguaje (LLM) son los motores que impulsan la IA, lo que permite a las personas hacer preguntas sencillas y recibir respuestas sencillas. Pero ¿y si necesitas hacer más que eso? No hay problema, si necesitas hacer más, los agentes de LLM también sobresalen en otras acciones. Los tipos de agentes de LLM son pocos, pero todos manejan consultas más complejas que requieren memoria, razonamiento secuencial y el uso de varias herramientas.

Los LLM ahora pueden manejar más de un billón de parámetros . Y la demanda de mano de obra digital impulsada por agentes seguirá creciendo a medida que las compañías busquen aumentar su uso de la IA generativa.

Desglosaremos cómo trabajan los diferentes tipos de agentes de LLM, qué pueden hacer, qué componentes requieren, los desafíos que presentan y cómo las empresas usan estas herramientas hoy y las usarán en el futuro.

Contenidos:

• ¿Qué son los agentes de LLM?
• ¿Qué pueden hacer los agentes de LLM?
• Tipos de agentes de LLM y qué pueden hacer
• Componentes de un agente de LLM
• Cómo las empresas utilizan los diferentes tipos de agentes de LLM
• Posibles desafíos de los agentes de LLM
• El futuro de los agentes de LLM
• Liderar con los LLM

Los LLM son sistemas de inteligencia artificial (IA) que utilizan una combinación de memoria, planificación y razonamiento secuencial para generar respuestas detalladas a las preguntas de los usuarios de una manera similar a cómo respondería una persona. Mira este ejemplo:

El usuario 1 pide al chatbot interno de su compañía, entrenado con un LLM, que extraiga las estadísticas de nómina del último año. El chatbot sigue un proceso preestablecido para buscar en las bases de datos relevantes y devolver el conjunto de datos específico.

El usuario 2, sin embargo, tiene una pregunta más profunda. Quiere saber cómo las nuevas leyes federales y estatales pueden afectar las políticas basadas en los datos de la nómina del año pasado. En este caso, el chatbot no es suficiente. Si bien puede devolver datos sobre la nómina e información sobre nuevas leyes, no puede combinarlos en una respuesta significativa, pero los agentes de LLM sí pueden hacerlo.

Mediante una combinación de aprendizaje automático (ML) y procesamiento de lenguaje natural (NLP), los agentes de LLM pueden comprender y responder a consultas complejas. Estas características separan a los agentes de los modelos tradicionales de generación aumentada de recuperación (RAG), que extraen datos de fuentes internas para responder a preguntas sencillas.

Los agentes de LLM pueden aplicar la razón y la lógica para responder preguntas. En lugar de, simplemente, tomar una pregunta al pie de la letra, los agentes pueden dividir las consultas en partes más pequeñas para encontrar respuestas. A continuación, utilizan su memoria de la pregunta original para combinar las respuestas y producir un resultado preciso. Esto permite a los agentes de IA responder a consultas en profundidad basadas en varios conjuntos de datos, crear resúmenes a partir de texto, escribir código o generar planes.

Los agentes de LLM pueden mejorar sus resultados con el tiempo analizando y aprendiendo de interacciones anteriores. En efecto, los agentes pueden reflexionar sobre su comportamiento, determinar el éxito de este comportamiento y realizar cambios que mejoren los resultados.

Para mejorar con cada tarea, los agentes de LLM utilizan herramientas como búsquedas web o comprobadores de código para verificar la precisión y reducir los tiempos de respuesta. Al evaluar continuamente las respuestas con respecto a datos nuevos e históricos, los agentes pueden identificar y corregir estos errores.

También es posible que los agentes trabajen en conjunto. Por ejemplo, un agente puede asumir la tarea de recuperar información y generar respuestas mientras otro evalúa la precisión de los resultados. Un tercero puede evaluar el rendimiento de ambos y sugerir mejoras. A continuación, estos agentes combinan sus datos para producir un resultado único y relevante.

Puedes configurar agentes de LLM para que cumplan varios roles, pero los diferentes tipos de agentes no son mutuamente excluyentes. Un agente puede realizar varias funciones de forma simultánea o secuencial.

Los tipos comunes de agentes de LLM incluyen:

• Agentes de LLM específicos por tarea: estos agentes están diseñados para ejecutar operaciones estrictamente definidas, como verificar el estado del pedido de un cliente o actualizar su información de envío. Normalmente, los agentes específicos por tarea se extraen de un grupo más pequeño de datos, como los que ofrecen los modelos de lenguaje pequeños (SLM).
• Agentes de LLM conversacionales: los agentes deIA conversacional pueden interactuar con los usuarios finales, como el personal o los clientes, y proporcionar respuestas a preguntas comunes. La diferencia entre estos agentes de IA y sus chatbots homólogos es que estos agentes aprenden con el tiempo, lo que les permite producir respuestas más naturales a las preguntas de los usuarios.
• Agentes de LLM de apoyo a la toma de decisiones: los agentes de apoyo a la toma de decisiones extraen información de los conjuntos de datos o proporcionan resúmenes de datos a gran escala para mejorar la toma de decisiones. Por ejemplo, el director de información de seguridad de una compañía podría utilizar un LLM de apoyo a la toma de decisiones para evaluar y resumir el impacto de todos los ataques de ciberseguridad corporativos durante un período determinado.
• Agentes de LLM para la automatización de flujos de trabajo: Los agentes de LLM para la automatización de flujos de trabajo automatizan flujos de trabajo de varios pasos. A los agentes autónomos se les proporcionan los datos necesarios del sistema, las especificaciones funcionales y el rendimiento histórico del flujo de trabajo para crear una línea de base operativa. A partir de ahí, los agentes llevan a cabo la tarea asignada y mejoran con el tiempo.
• Agentes de LLM para la recuperación de información: estos tipos de agentes de LLM utilizan los métodos de generación aumentada de recuperación (RAG) para buscar y recuperar datos de cualquier sistema. Aquí, la recuperación de datos es relativamente sencilla. Los agentes sobresalen en su capacidad para identificar y capturar datos relevantes e ignorar la información superflua.
• Agentes de LLM colaborativos: los agentes colaborativos operan junto o en conjunto con otros agentes. Estos agentes funcionan efectivamente en paralelo, lo que permite reducir los tiempos de respuesta sin perder precisión.
• Agentes de LLM de aprendizaje adaptativo: los agentes adaptativos utilizan datos históricos para mejorar el rendimiento futuro. Los agentes evalúan los resultados pasados y los comparan con los resultados ideales para desarrollar nuevas estrategias.

La creación de un agente de IA con capacidades de LLM requiere un modelo de lenguaje grande. Este LLM genera e interpreta texto en lenguaje natural y componentes adicionales como ingeniería de solicitudes, módulos de memoria o sistemas de recuperación para mejorar su comprensión contextual y funcionalidad. Los tres componentes de alto nivel de todos los tipos de agentes de LLM son el cerebro, la memoria y la planificación.

El cerebro de un agente es un modelo de lenguaje que puede entender y responder a las preguntas de los usuarios. Los agentes utilizan solicitudes (preguntas o enunciados hechos por los usuarios) para guiar sus procesos de toma de decisiones y respuestas. Utilizando soluciones como Agentforce, estos cerebros pueden personalizarse con marcos diseñados para situaciones específicas, como el manejo de tareas de finanzas, recursos humanos o ciberseguridad.

La memoria ayuda a los agentes a recordar sus acciones anteriores para mejorar su próximo resultado. Se puede dividir en tres tipos:

• A corto plazo: la memoria a corto plazo en los agentes se aplica a la conversación o tarea actual. Es un registro de las solicitudes del usuario y de las acciones realizadas hasta el momento por el agente.
• A largo plazo: la memoria a largo plazo es un repositorio de datos de conversaciones pasadas o solicitudes que pueden abarcar semanas o meses. Esta memoria proporciona contexto a las tareas actuales, y los agentes pueden revisarla para identificar posibles errores y áreas de mejora.
• Híbrida: la memoria híbrida combina la memoria a corto y largo plazo para mejorar las respuestas de los agentes en el momento manteniendo la conciencia situacional y aprovechando la información relevante de forma dinámica.

Los módulos de planificación mejoran las respuestas al dividir las tareas complejas en partes más pequeñas:

• Formulación del plan (con y sin comentarios): la formulación del plan es el primer paso. Los agentes dividen las tareas en subtareas y luego las completan. Los planes pueden crearse y ejecutarse con o sin comentarios. Sin comentarios, los agentes desarrollan y ejecutan los planes sin supervisión humana. Con comentarios, las personas que participan en la tarea evalúan los planes y hacen recomendaciones antes de que se ejecuten los planes.
• Reflexión del plan: la reflexión del plan se produce después de que se llevan a cabo los planes. Mediante una combinación de herramientas de evaluación interna y comentarios humanos externos, la reflexión del plan ayuda a identificar áreas de mejora.

En la práctica, estos componentes trabajan juntos como un cerebro humano simplificado. Los cerebros de los agentes ingieren e interpretan las consultas de los usuarios. La memoria a corto plazo se utiliza para generar una comprensión de la tarea actual, mientras que la memoria a largo plazo proporciona contexto. La planificación divide las tareas complejas en subtareas, que luego se completan para resolver el problema y proporcionar una respuesta.

La reflexión del plan ayuda a reducir el riesgo de errores futuros al permitir evaluar críticamente los resultados, identificar posibles errores y mejorar la precisión y la coherencia de los planes.

Hay varias formas de utilizar estos tipos de agentes de LLM, entre ellas, las siguientes:

• Ventas: con la IA de ventas, los agentes pueden utilizarse para ponerse en contacto con clientes potenciales y proporcionar información sobre productos, concertar reuniones con un representante de ventas u ofrecer precios y promociones especiales.
• Servicio: los agentes de IA basados en servicios pueden responder a las preguntas de los clientes, ofrecer consejos técnicos para la resolución de problemas o derivar las preguntas a los representantes humanos.
• Comercio: mediante el uso de la IA para el comercio, los agentes permiten el estado y el seguimiento de los pedidos bajo demanda, sus modificaciones y la ayuda con las devoluciones o los reembolsos.
• Marketing: con su capacidad para manejar solicitudes complejas, los agentes de LLM pueden utilizar la IA de marketing para identificar el público objetivo y crear campañas de marketing personalizadas para diferentes segmentos, en función del rendimiento de las campañas anteriores.

Si bien las ventajas de la IA y los LLM son significativas, aún podrías enfrentar algunos desafíos con varios tipos de agentes de LLM. Esto son algunos problemas comunes:

Si los agentes de LLM no están capacitados con suficientes datos o los datos carecen de variedad, se puede generar un contexto limitado. Esto reduce la capacidad del agente para producir respuestas relevantes y procesables.

Los agentes sobresalen en la planificación a corto plazo, pero pueden tener dificultades para manejar las solicitudes de planes a largo plazo que se extienden durante meses o años. Esto se debe a la falta de memoria persistente, las limitaciones de la ventana de contexto y las brechas de integración de herramientas (y recursos).

Los datos de origen inexactos o las instrucciones poco claras pueden dar lugar a resultados incoherentes. Si la misma consulta devuelve varios resultados, socava la utilidad de los agentes de LLM.

Los agentes se pueden personalizar para cumplir roles. Sin embargo, el éxito de estos roles depende del marco de IA que se utilice. Esto se debe a que el marco determina la eficacia con la que el agente se puede entrenar, implementar e integrar con otras herramientas y sistemas.

Si bien las solicitudes forman la base de las respuestas de los agentes, los agentes de LLM también deben usar la memoria y la autorreflexión para dar forma a las respuestas. Si estos componentes faltan o están ausentes, es posible que el alcance y la precisión de las respuestas sean limitados.

Un ejemplo es la dependencia de solicitudes. Esto ocurre cuando los LLM "dependen" de las solicitudes para proporcionar pistas contextuales sobre el resultado deseado. En el mejor de los casos, esto conduce a resultados ligeramente sesgados. En el peor de los casos, los resultados son inexactos.

El gran volumen de conocimiento que manejan y almacenan los agentes de LLM puede generar desafíos de gestión. Estos desafíos pueden manifestarse como un rendimiento reducido o respuestas inexactas.

Por lo general, los agentes de LLM mejoran la eficiencia operativa, lo que puede significar un mayor retorno de la inversión por el uso de agentes y ahorros en toda la empresa. Pero si los agentes no se integran con los sistemas existentes o se basan en marcos que consumen muchos recursos, puede haber un aumento de los costos y una reducción de la eficiencia.

A medida que los algoritmos de ML se vuelven más complejos y los conjuntos de circuitos integrados ganan potencia, estos tipos de agentes de LLM y agentes de IA serán más inteligentes, más rápidos y más capaces de aprender sobre la marcha. En la práctica, esto crea una oportunidad para que estos chatbots impulsados por IA trabajen junto a sus homólogos humanos en lugar de operar como una ocurrencia adicional.

Piensa en las ventas B2B. Tradicionalmente, los empleados podían utilizar los LLM para mejorar el marketing o la copia del producto y generar prospectos potenciales. Con herramientas más avanzadas, el personal puede utilizar los agentes para diseñar y enviar campañas de correo electrónico en profundidad y responder a las preguntas de los clientes. Esto ofrece la doble ventaja de una mejor personalización para los clientes y más tiempo para que el personal se concentre en la creación de estrategias de ventas a largo plazo.

Dado el crecimiento exponencial de la IA empresarial, las empresas se benefician de varios tipos de agentes de LLM. Esta tecnología ofrece una forma para que las compañías eleven el servicio de atención al cliente, mejoren la toma de decisiones y manejen problemas complejos de varios pasos.

Agentforce ayuda a las compañías a tomar la delantera con los LLM. Al crear y personalizar agentes de IA autónomos, las empresas pueden combinar la experiencia de los empleados humanos con la creciente experiencia de la IA para apoyar a los clientes y empleados todo el día, siempre. Prueba Agentforce y experimenta cómo puede ayudarte a conectarte mejor con tus clientes y hacer que tus empleados sean más eficientes.