Agentes de LLM: o guia completo

Os grandes modelos de linguagem (LLMs) são os motores que impulsionam a IA, permitindo que as pessoas façam perguntas simples e recebam respostas simples. Mas e se você precisar fazer mais do que isso? É aí que os agentes de LLM se destacam. Existem alguns tipos de agentes de LLM, mas todos eles lidam com consultas mais complexas que exigem memória, raciocínio sequencial e o uso de várias ferramentas.

Os LLMs agora podem lidar com mais de um trilhão de parâmetros . E a demanda pelo trabalho digital orientado por agentes continuará crescendo à medida que as empresas buscarem aumentar o uso da IA generativa.

Analisaremos como os diferentes tipos de agentes de LLM trabalham, o que eles podem fazer, os componentes de que precisam, os desafios que eles trazem e como as empresas estão usando essas ferramentas agora e no futuro.

O que abordaremos:

• O que são os agentes de LLM?
• O que os agentes de LLM podem fazer?
• Tipos de agentes de LLM e o que eles podem fazer
• Componentes de um agente de LLM
• Como as empresas estão usando diferentes tipos de agentes de LLM
• Desafios potenciais dos agentes de LLM
• O futuro dos agentes de LLM
• Liderando com LLMs

Os LLMs são sistemas de inteligência artificial (IA) que usam uma combinação de memória, planejamento e raciocínio sequencial para gerar respostas aprofundadas para as perguntas dos usuários de uma forma semelhante à forma como um humano responderia. Aqui está um exemplo:

O usuário 1 solicita ao chatbot interno da empresa, treinado usando um LLM, que obtenha as estatísticas da folha de pagamento do último ano. O chatbot segue um processo predefinido para pesquisar os bancos de dados relevantes e retornar o conjunto de dados específico.

O usuário 2, no entanto, faz uma pergunta mais aprofundada. Ele deseja saber como as novas leis federais e estaduais podem impactar as políticas com base nos dados da folha de pagamento do ano passado. Nesse caso, o chatbot não consegue ajudar muito. Embora possa retornar dados sobre folha de pagamento e informações sobre novas leis, não pode combiná-los em uma resposta significativa, mas os agentes de LLM podem.

Usando uma combinação de aprendizado de máquina (ML) e processamento de linguagem natural (NLP), os agentes do LLM podem entender e responder a consultas complexas. Essas características separam os agentes dos modelos tradicionais de geração aumentada por recuperação (RAG), que extraem dados de fontes internas para responder a perguntas simples.

Os agentes de LLM podem aplicar razão e lógica para responder perguntas. Em vez de simplesmente responder a uma pergunta pelo valor nominal, os agentes podem dividir as consultas em partes menores para encontrar respostas. Eles então usam a memória da pergunta original para combinar respostas e produzir um resultado preciso. Isso permite que os agentes de IA respondam a consultas detalhadas com base em vários conjuntos de dados, criem resumos a partir de texto, escrevam código ou gerem planos.

Os agentes de LLM podem melhorar as saídas ao longo do tempo analisando e aprendendo com as interações anteriores. Na verdade, os agentes podem refletir sobre seu comportamento, determinar o sucesso desse comportamento e fazer mudanças que melhorem as saídas.

Para melhorar cada tarefa, os agentes de LLM usam ferramentas como pesquisas na Web ou testadores de código para verificar a precisão e reduzir os tempos de resposta. Ao avaliar continuamente as respostas em relação a dados novos e históricos, os agentes podem identificar e corrigir esses erros.

Também é possível que os agentes trabalhem em conjunto. Por exemplo, um agente pode assumir a tarefa de recuperar informações e gerar respostas, enquanto outro avalia a precisão da saída. Um terceiro pode avaliar o desempenho de ambos e sugerir melhorias. Esses agentes então combinam seus dados para produzir um resultado único e relevante.

Você pode configurar agentes do LLM para cumprir várias funções, mas os diferentes tipos de agentes não são mutuamente exclusivos. Um agente pode executar várias funções simultaneamente ou em sequência.

Os tipos mais comuns de agentes de LLM incluem:

• Agentes de LLM específicos para tarefas: esses agentes são projetados para executar operações estritamente definidas, como verificar o status do pedido de um cliente ou atualizar suas informações de envio. Normalmente, os agentes de tarefas específicas extraem dados de um conjunto menor de dados, como os oferecidos por pequenos modelos de linguagem (SLMs).
• Agentes de LLM conversacional: os agentes deIA conversacional podem interagir com usuários finais, como colaboradores ou clientes, e fornecer respostas para perguntas comuns. A diferença entre esses agentes de IA e chatbots é que esses agentes aprendem com o tempo, permitindo que eles produzam respostas mais naturais para as perguntas dos usuários.
• Agentes de LLM de suporte à decisão: os agentes de suporte à decisão extraem informações de conjuntos de dados ou fornecem resumos de dados em grande escala para melhorar a tomada de decisões. Por exemplo, o Diretor de Informações de Segurança de uma empresa pode usar um LLM de suporte à decisão para avaliar e resumir o impacto de todos os ataques de segurança cibernética corporativos em um determinado período.
• Agentes de LLM de automação de fluxo de trabalho: agentes de LLM de automação de fluxo de trabalho automatizam fluxos de trabalho de várias etapas. Os agentes autônomos recebem os dados do sistema, as especificações funcionais e o desempenho histórico do fluxo de trabalho necessários para criar uma referência operacional. A partir daí, os agentes realizam a tarefa atribuída e melhoram com o tempo.
• Agentes de LLM de recuperação de informações: os métodos de RAG são usados por esses tipos de agentes LLM para encontrar e recuperar dados de qualquer sistema. Aqui, a recuperação de dados é relativamente simples. Os agentes se destacam em sua capacidade de identificar e capturar dados relevantes e ignorar informações exteriores.
• Agentes de LLM colaborativos: os agentes colaborativos operam lado a lado ou em conjunto com outros agentes. Esses agentes operam efetivamente em paralelo, o que possibilita reduzir os tempos de resposta sem perder a precisão.
• Agentes de LLM de aprendizado adaptativo: os agentes adaptativos usam dados históricos para melhorar o desempenho futuro. Eles avaliam os resultados anteriores e os comparam aos resultados ideais para desenvolver novas estratégias.

Criar um agente de IA com recursos de LLM requer um grande modelo de linguagem. Esse LLM gera e interpreta texto em linguagem natural e componentes adicionais, como engenharia de prompts, módulos de memória ou sistemas de recuperação, para aprimorar sua compreensão e funcionalidade contextuais. Para todos os tipos de agentes de LLM, os três componentes de alto nível são: cérebro, memória e planejamento.

O cérebro de um agente é um modelo de linguagem que pode entender e responder às perguntas do usuário. Os agentes usam prompts (perguntas ou declarações feitas pelos usuários) para orientar seus processos de tomada de decisão e resposta. Usando soluções como o Agentforce, esses cérebros podem ser personalizados com estruturas projetadas para situações específicas, como lidar com tarefas financeiras, de RH ou de segurança cibernética.

A memória ajuda os agentes a relembrar suas ações anteriores para melhorar sua próxima saída. Isso pode ser dividido ainda mais em três tipos:

• Curto prazo: a memória de curto prazo nos agentes se aplica à conversa ou tarefa atual. É um registro dos prompts do usuário e de todas as ações tomadas até o momento pelo agente.
• Longo prazo: a memória de longo prazo é um repositório de dados de conversas ou prompts anteriores que podem durar semanas ou meses. Essa memória fornece contexto às tarefas atuais e pode ser revisada pelos agentes para identificar possíveis erros e áreas de melhoria.
• Híbrida: a memória híbrida combina memória de curto e longo prazo para melhorar as respostas dos agentes no momento, mantendo a consciência situacional e aproveitando as informações relevantes de forma dinâmica.

Os módulos de planejamento melhoram as respostas dividindo tarefas complexas em partes menores:

• Formulação do plano (com e sem feedback): a formulação do plano é a primeira etapa. Os agentes dividem as tarefas em subtarefas e depois as concluem. Os planos podem ser criados e executados com ou sem feedback. Sem feedback, os planos são desenvolvidos e executados por agentes sem supervisão humana. Com feedback, os humanos envolvidos avaliam os planos e fazem recomendações antes que os planos sejam executados.
• Reflexão do plano: a reflexão do plano ocorre após a execução dos planos. Usando uma combinação de ferramentas de avaliação interna e feedback humano externo, a reflexão do plano ajuda a identificar áreas de melhoria.

Na prática, esses componentes funcionam juntos como um cérebro humano simplificado. Os cérebros dos agentes ingerem e interpretam as consultas dos usuários. A memória de curto prazo é usada para gerar uma compreensão da tarefa atual, enquanto a memória de longo prazo fornece contexto. O planejamento divide tarefas complexas em subtarefas, que são concluídas para resolver o problema e fornecer uma resposta.

A reflexão do plano ajuda a reduzir o risco de erros futuros, permitindo que eles avaliem criticamente seus resultados, identifiquem possíveis erros e melhorem a precisão e a coerência de seus planos.

Há várias maneiras de usar esses tipos de agentes de LLM, incluindo:

• Vendas: com a IA de vendas, os agentes podem ser usados para alcançar clientes em potencial e fornecer informações sobre produtos, marcar reuniões com um representante de vendas ou oferecer preços e promoções especiais.
• Atendimento: os agentes de IA baseados em atendimento podem responder às perguntas dos clientes, oferecer conselhos técnicos de solução de problemas ou encaminhar perguntas aos representantes humanos.
• Comércio: ao usar a IA para comércio, os agentes permitem o rastreamento e o status de pedidos sob demanda, modificações de pedidos e ajudam com devoluções ou reembolsos.
• Marketing: com a capacidade de lidar com prompts complexos, os agentes de LLM podem usar a IA de marketing para identificar públicos-alvo e criar campanhas de marketing personalizadas para diferentes segmentos, com base no desempenho anterior da campanha.

Embora as vantagens da IA e dos LLMs sejam significativas, você ainda pode enfrentar alguns desafios com vários tipos de agentes de LLM. Veja alguns erros comuns:

Se os agentes de LLM não forem treinados com dados suficientes ou se os dados carecerem de variedade, isso poderá criar um contexto limitado. Isso reduz a capacidade do agente de produzir respostas relevantes e acionáveis.

Os agentes se destacam no planejamento de curto prazo, mas podem ter dificuldade em lidar com solicitações de planos de longo prazo que se estendem por meses ou anos devido à falta de memória persistente, às limitações da janela de contexto e às lacunas de integração de ferramentas (e recursos).

Dados de origem imprecisos ou instruções pouco claras podem levar a saídas inconsistentes. Se a mesma consulta retornar vários resultados, isso prejudica a utilidade dos agentes de LLM.

Os agentes podem ser personalizados para preencher funções. O sucesso dessas funções, no entanto, depende da estrutura de IA usada. Isso ocorre porque a estrutura determina a eficácia com que o agente pode ser treinado, implantado e integrado a outras ferramentas e sistemas.

Embora os prompts façam parte da base das respostas dos agentes, os agentes de LLM também devem usar a memória e a autorreflexão para informar as respostas. Se esses componentes estiverem ausentes, isso pode limitar o escopo e a precisão das respostas.

Um exemplo é a dependência de prompts. Isso ocorre quando os LLMs “dependem” de prompts para fornecer pistas contextuais sobre a saída desejada. Na melhor das hipóteses, isso leva a saídas ligeiramente enviesadas. Na pior das hipóteses, as saídas são imprecisas.

O grande volume de conhecimento manipulado e armazenado pelos agentes de LLM pode levar a desafios de gerenciamento. Esses desafios podem se manifestar como desempenho reduzido ou respostas imprecisas.

Normalmente, os agentes de LLM melhoram a eficiência operacional, o que pode significar maior ROI com o uso de agentes e economia em toda a empresa. Mas se os agentes não se integrarem aos sistemas existentes ou se basearem em estruturas que consomem muitos recursos, os custos podem aumentar e reduzir a eficiência.

À medida que os algoritmos de ML se tornam mais complexos e os chipsets mais poderosos, espera-se que esses tipos de agentes de LLM e agentes de IA se tornem mais inteligentes, rápidos e capazes de aprender ao longo do tempo. Na prática, isso cria uma oportunidade para esses chatbots impulsionados por IA trabalharem ao lado de seus colegas humanos, em vez de operarem como um complemento.

Considere as vendas B2B. Tradicionalmente, os colaboradores podem usar LLMs para melhorar o marketing ou a cópia do produto e gerar leads em potencial. Com ferramentas mais avançadas, a equipe pode usar agentes para criar e entregar campanhas de email detalhadas e responder perguntas de clientes. Isso oferece vantagens duplas de personalização aprimorada para os clientes e mais tempo para a equipe se concentrar na criação de estratégias de vendas de longo prazo.

Com a IA corporativa crescendo exponencialmente, as empresas estão se beneficiando de vários tipos de agentes de LLM. Essa tecnologia oferece uma maneira para as empresas melhorarem o atendimento ao cliente, aprimorarem a tomada de decisões e lidarem com problemas complexos de várias etapas.

O Agentforce está ajudando as empresas a assumirem a liderança com LLMs. Ao criar e personalizar agentes autônomos de IA, as empresas podem combinar a experiência de colaboradores humanos com a crescente expertise em IA para oferecer suporte a clientes e colaboradores de forma ininterrupta. Experimente você mesmo o Agentforce para descobrir como ele pode ajudar você a se conectar melhor com os clientes e tornar seus colaboradores mais eficientes.