¿Qué son los LLM (grandes modelos de lenguaje)?

Cuando utilizas la IA generativa para resumir un informe o redactar un borrador de un texto para las redes sociales, los modelos de lenguaje grandes (LLM) lo hacen realidad. Los LLM son la tecnología subyacente que impulsa la IA generativa. Y, a medida que extraen más datos, pueden generar resultados más precisos. Esto es esencial para las compañías, que pueden utilizar los LLM para ofrecer a los clientes contenidos más relevantes y personalizados.

Los avances en inteligencia artificial (IA) impulsados por los LLM también hacen posible que las compañías creen e implementen agentes de IA. Cuando los clientes o el personal lo solicitan, estos sistemas inteligentes son capaces de resolver problemas complejos utilizando la memoria, el razonamiento secuencial y la autorreflexión.

Vamos a ver con detalle lo que hace un LLM, cómo funcionan estos modelos y de qué manera pueden beneficiar a tu negocio.

Lo que aprenderás:

• ¿Qué son los LLM?
• Cómo funcionan los modelos de lenguaje grandes
• ¿Cómo se entrenan los modelos de lenguaje grandes?
• ¿Para qué se utilizan los LLM?
• ¿Deberías crear tu propio LLM?
• ¿Cuáles son las ventajas y desventajas de los LLM?
• Aprovecha la eficacia de los LLM con Agentforce

Los modelos de lenguaje grandes (LLM) son los motores que impulsan la IA generativa. Los LLM pueden comprender y responder preguntas con lenguaje natural porque se entrenan con cantidades ingentes de datos de texto. Estos modelos ahora se usan para crear texto y contenido visual, crear resúmenes y escribir código nuevo.

Los usuarios interactúan con los LLM a través de solicitudes, preguntas y contexto escrito en lenguaje natural que se envían al modelo. Por ejemplo, puedes pedirle a un modelo de IA generativa que cree un resumen de este artículo. En primer lugar, enviarías el texto del artículo a tu herramienta de IA para que lo procese y analice. A continuación, escribirías la solicitud detallando lo que estabas buscando. El LLM generaría un resumen general. Cuantos más datos se utilicen para entrenar el modelo, más completos y precisos serán los resultados.

Con los datos adecuados, hay muchas formas en que las compañías pueden utilizar los LLM, como por ejemplo hacer que su equipo de ventas utilice la IA para tareas como la generación de presentaciones, todo ello utilizando datos relevantes de los clientes que hablen de los puntos débiles y las preferencias.

Antes de empezar a profundizar demasiado en tu estrategia de IA generativa, familiarízate con la forma en que esta tecnología te lleva de la solicitud al resultado. Los modelos de lenguaje grandes dependen de tres componentes: aprendizaje automático (y profundo), redes neuronales y modelos de transformadores.

Los algoritmos de aprendizaje automático (ML) instruyen a los LLM sobre cómo recopilar datos, descubrir conexiones e identificar características comunes.

El aprendizaje profundo es un subconjunto del aprendizaje automático que permite a los LLM aprender con menos intervención humana y utiliza un enfoque probabilístico para mejorar la precisión. Piensa en un LLM que analiza 1000 oraciones. Las herramientas de aprendizaje profundo determinan que las letras "E", "T", "A" y "O" aparecen con mayor frecuencia. A partir de ahí, el modelo extrapola (correctamente) que estas son algunas de las letras más utilizadas en el idioma inglés.

Las redes neuronales, también llamadas redes neuronales artificiales (ANN), son grupos de nodos conectados que pueden comunicarse entre sí. Estos nodos están organizados en capas que incluyen entrada, salida y al menos una capa intermedia, y permiten que los LLM procesen la información rápidamente. Estas redes se basan vagamente en las redes neuronales del cerebro humano, pero son mucho menos complejas.

Los modelos de transformadores ayudan a los LLM a comprender el contexto del lenguaje. Mediante una técnica conocida como autoatención, estos modelos pueden analizar la estructura de las oraciones y la elección de palabras para comprender cómo se relacionan los elementos del lenguaje entre sí. Esto permite a los LLM comprender y procesar mejor las consultas de los usuarios.

Los LLM entienden el texto de manera diferente en función de los modelos que utilizan. Los modelos de solo codificador se centran en dar sentido al texto que se proporciona, mientras que los modelos de solo decodificador generan texto basado en una solicitud. Cuando se combinan (codificador y decodificador), los LLM pueden comprender y generar texto, y así asumir tareas basadas en el lenguaje, como el servicio de atención al cliente o las ventas. Por ejemplo, un chatbot de IA impulsado por LLM podría utilizarse para responder a las preguntas de los clientes acerca de los plazos de envío, los detalles de los productos o los cambios de precios, lo cual liberaría a los representantes humanos para que trabajen en tareas más estratégicas.

Hay muchos tipos de agentes de LLM, pero independientemente de cuál utilices, el entrenamiento mejorará la precisión y la fiabilidad de sus respuestas. Dado que las redes neuronales basadas en transformadores pueden incluir miles de millones de parámetros, se requiere entrenamiento para garantizar que los parámetros se ponderen y apliquen correctamente a las consultas. Diferentes modelos de entrenamiento pueden ser más o menos efectivos en función de la complejidad y el caso de uso de un LLM.

En el aprendizaje a partir de cero ejemplos, los LLM se entrenan sobre la marcha. Los usuarios hacen preguntas y los LLM clasifican las fuentes de datos conectadas para encontrar respuestas. La precisión inicial suele ser baja, pero mejora con el tiempo.

Con un método basado en pocos ejemplos, los científicos de datos proporcionan una pequeña selección de ejemplos relevantes para ayudar a los LLM a establecer conexiones de referencia. El entrenamiento de pocos ejemplos mejora significativamente la precisión en las áreas objetivo.

El entrenamiento en cadena de pensamiento (CoT) guía a los LLM a través de un proceso de razonamiento sencillo. En lugar de hacer una sola pregunta, la CoT la divide en varias partes. Mira este ejemplo:

Solicitud estándar:

Steve tiene 20 camisas. La mitad de sus camisas son de manga corta y la mitad de esas camisas son azules. ¿Cuántas camisas azules tiene?

Solicitud de CoT:

Steve tiene 20 camisas.

La mitad de sus camisas son de manga corta. Esto significa que tiene 10 camisas de manga corta.

La mitad de estas camisas son azules, lo que significa que tiene 5 camisas azules.

Si bien la solicitud en sí no es particularmente complicada, la CoT proporciona un método paso a paso para la resolución de problemas que muestra a un LLM cómo responder la pregunta. Este método se puede aplicar a otras preguntas.

Los modelos de ajuste fino y específicos del dominio proporcionan información contextual adicional para casos de uso específicos. Por ejemplo, una compañía que busca mejorar su análisis de opiniones en las redes sociales podría proporcionar a su LLM información detallada acerca de cómo comprender palabras y frases específicas dentro del contexto más amplio de las plataformas de redes sociales.

En este tipo de modelo, en lugar de mirar el texto en sí, el modelo lo traduce en números, denominados vectores. Al utilizar números, las computadoras pueden usar el aprendizaje automático para analizar con mayor facilidad cómo se colocan las palabras y se estructuran las oraciones, dando sentido al contexto y al significado semántico para identificar las relaciones entre las palabras.

En un modelo multimodal, los LLM se entrenan para usar múltiples formatos de datos para la entrada y la salida. Junto con el texto, estos formatos pueden incluir datos de audio, video o imagen.

Los LLM dan a los agentes de IA la capacidad de conversar en lenguaje natural, pero es más fácil decirlo que hacerlo.

Los bots tradicionales requieren que entrenes manualmente modelos de lenguaje natural para comprender el lenguaje del cliente y diseñar diálogos. Este proceso es extremadamente lento y costoso para una compañía, pero los LLM ofrecen alternativas más simples.

Por ejemplo, soluciones como Agentforce, la capa de agentes de la plataforma Salesforce, utilizan habilidades prediseñadas (así como acciones personalizadas con poco código) en lugar de tener que pasar por un largo proceso de capacitación. Agentforce también utiliza IA conversacional, por lo que las interacciones con los agentes se sentirán más naturales y no tan robóticas.

Otros casos de uso comunes de LLM incluyen:

• Generación de texto: los LLM pueden generar texto basado en tus datos, lo que los hace más relevantes para tus clientes. Por ejemplo, los equipos de marketing pueden utilizar un LLM para redactar una llamada a la acción para un nuevo producto o redactar un correo electrónico promocional. Los equipos de comercio también pueden utilizar la IA para generar promociones.
• Resumen de contenido: los usuarios también pueden pedir a los LLM que resuman grandes bloques de texto. También pueden personalizar el formato de salida. Los resúmenes se pueden entregar como párrafos más cortos, listas con viñetas u oraciones individuales.
• Respuestas de la base de datos de Knowledge: muchas compañías tienen bases de datos de Knowledge orientadas a los empleados y a los clientes que contienen respuestas a preguntas comunes. Los LLM pueden utilizar estas bases para responder a las consultas de los usuarios.
• Generación de código: también es posible usar LLM para la generación de código una vez que los modelos se han entrenado en un lenguaje específico. Por ejemplo, los equipos podrían pedirle a un modelo que genere código Python para realizar una función específica.
• Análisis de opiniones: los LLM pueden recopilar y analizar datos de publicaciones en redes sociales, correos electrónicos, mensajes de texto y otras fuentes de datos, y luego analizar estos datos para determinar la opinión general de los usuarios. Esta es una excelente manera de usar la IA de marketing para identificar a los clientes que pueden sentirse frustrados o insatisfechos y tomar medidas para resolver el problema.
• Traducción de idiomas: los LLM también pueden actuar como servicios de traducción, lo que ayuda a tu equipo de atención al cliente a utilizar la IA para responder a consultas en idiomas diferentes al suyo. Los usuarios pueden pedir a los modelos que traduzcan oraciones o párrafos a otro idioma. Dada la gran cantidad de datos disponibles en línea, esta es una tarea sencilla para los LLM. ¿La limitación? El contexto suele estar ausente en las traducciones, por lo que se recomienda supervisión humana.
• Clasificación y categorización: con los LLM, las compañías pueden agilizar el proceso de clasificación y categorización de datos. En primer lugar, los usuarios proporcionan detalles: si los datos contienen el elemento "X" o el valor "Y", pertenecen a la categoría "Z". Luego, los LLM se encargan de analizar todos los datos dentro de un conjunto específico y asignar cualquier valor coincidente a una categoría designada.
• Agentes de IA: los avances en los LLM han permitido el uso de agentes de IA. Estas aplicaciones autónomas pueden proporcionar soporte especializado y bajo demanda para los clientes o el personal, y se pueden personalizar para cumplir con requisitos comerciales específicos.

¿La respuesta más simple? Probablemente no.

¿La respuesta más completa? En la mayoría de los casos, crear tu propio LLM es costoso, innecesario y requiere mucho tiempo.

Es caro porque hay que invertir en la experiencia y la infraestructura para desarrollar un modelo de lenguaje a medida. Lleva mucho tiempo porque necesitas proporcionar una gran cantidad de datos de entrenamiento y asegurarte de que el entrenamiento dé resultados precisos. Y es innecesario porque, en la mayoría de los casos, estás reinventando la rueda.

El uso de LLM de código abierto previamente entrenados que vienen con salvaguardas integradas a menudo proporciona el mejor equilibrio entre rendimiento y protección. Las compañías pueden aprovechar el poder de los modelos entrenados con billones de puntos de datos, sin preocuparse de que los problemas en el código puedan ponerlos en riesgo de manera involuntaria. Puedes complementar la información del modelo LLM mediante un RAG (generación aumentada de recuperación), que combina los datos más relevantes con datos propiedad de tu compañía.

Los LLM ofrecen numerosas ventajas para las organizaciones. Estas incluyen la reducción o eliminación de procesos manuales y la capacidad de descubrir nuevas tendencias e información utilizando las fuentes de datos disponibles. Sin embargo, para utilizar los LLM de forma eficaz, las compañías deben reconocer en qué destacan y en qué pueden tener más problemas.

A continuación, echemos un vistazo a algunas de las principales ventajas y posibles desventajas de los LLM:

• Adaptabilidad: dado que los LLM utilizan el modelo de arquitectura de transformador, en lugar de reglas explícitas "codificadas de forma rígida", pueden adaptarse a las solicitudes dinámicas e impredecibles que puedan recibir.
• Flexibilidad: no hay una única forma de utilizar los LLM. Las compañías pueden personalizar estas herramientas para que actúen como asistentes de IA, copilotos o agentes autónomos.
• Rendimiento: a medida que los LLM analizan e incorporan más datos, su rendimiento mejora, lo que reduce el tiempo entre la consulta y la respuesta.
• Eficacia: debido a que gran parte del aprendizaje de LLM ocurre independientemente de la supervisión humana, el personal tiene capacidad para asumir otras tareas estratégicas.

• Costos de desarrollo y operativos: el proceso de desarrollo puede requerir mucho tiempo y dinero. Los costos comunes incluyen escribir y probar código, buscar e incorporar conjuntos de datos y garantizar que los LLM respondan correctamente a los datos de entrenamiento.
• Preocupaciones éticas: si los datos utilizados para tomar decisiones se recopilan sin el consentimiento del usuario, las compañías pueden verse expuestas a impugnaciones legales. El sesgo es otra preocupación. Si los conjuntos de datos se ponderan incorrectamente o contienen datos inexactos, esto puede dar lugar a respuestas que parecen precisas, pero que están sesgadas en contra de un grupo o resultado en particular.
• Explicabilidad: la naturaleza de la toma de decisiones de LLM es difícil de explicar. Esto puede socavar la confianza en los resultados y la toma de decisiones de los LLM. Para compensar esto, utiliza una capa de confianza que te proporcione información sobre cómo se tomaron las decisiones.
• Alucinaciones/tokens de fallos: las alucinaciones ocurren cuando los usuarios piden a los LLM que "imaginen" que pueden realizar acciones que de otro modo no podrían completar. Por ejemplo, un ciberdelincuente puede pedir a un LLM que proporcione la información de contacto de todos los miembros de una compañía. El LLM deniega la solicitud en función de su conjunto de reglas de seguridad. A continuación, el atacante pide al modelo que imagine que puede llevar a cabo la acción. Al hacerlo, el LLM realmente completa la función solicitada. Los tokens de fallo, por su parte, son cadenas de caracteres que producen resultados inesperados. Tanto los tokens en sí como las salidas parecen en gran medida aleatorios, por lo que resulta difícil determinar cuándo o cómo suceden.
• Riesgos de seguridad: los modelos también pueden presentar riesgos de seguridad. Por ejemplo, si los LLM empresariales se entrenan con datos públicos y privados, existe la posibilidad de que los LLM se vean comprometidos o de que los datos protegidos queden expuestos.

Es probable que haya dos caminos para el futuro de los LLM: más grande y más pequeño.

A medida que los algoritmos de aprendizaje profundo mejoren y los procesadores se vuelvan más potentes, los modelos de lenguaje grandes serán capaces de manejar grandes volúmenes de datos de forma más rápida y precisa que nunca.

Al mismo tiempo, se espera ver el desarrollo de modelos de lenguaje pequeños que apliquen el mismo nivel de rendimiento a conjuntos de datos más pequeños y controlados de manera más estricta. Estos modelos más pequeños ofrecen una forma para que las compañías definan parámetros altamente especializados y reciban resultados de alta precisión.

Los modelos de lenguaje grandes se están acercando cada vez más a una comprensión completa y contextual de la comunicación. Si bien la supervisión sigue siendo un componente crítico en el uso de LLM, estos modelos ofrecen una forma de cerrar la brecha entre el conocimiento humano y las operaciones de TI al permitirnos hablar el mismo idioma.

Ahora que tienes una comprensión más profunda de la IA, así como de los LLM, puedes hacer un recorrido por Agentforce. Con Agentforce puedes crear agentes de IA autónomos utilizando el LLM de tu elección, lo que ayuda a tu compañía a hacer más e impulsa el retorno de la inversión y la productividad.