Que sont les LLM (Modèles de langage de grande taille pour Large Language Models) ?

Lorsque vous utilisez l'IA générative pour résumer un rapport ou rédiger un texte destiné aux réseaux sociaux, ce sont les grands modèles de langage (LLM) qui font le travail. Les LLM constituent la technologie sous-jacente qui alimente l'IA générative. Et à mesure qu'ils exploitent davantage de données, ils peuvent générer des résultats plus précis. Cela est essentiel pour les entreprises, qui peuvent utiliser les LLM pour fournir à leurs clients un contenu plus pertinent et personnalisé.

Les progrès de l'intelligence artificielle (IA) alimentée par les LLM permettent également aux entreprises de créer et déployer des agents IA. Lorsque les clients ou le personnel leur en font la demande, ces systèmes intelligents sont capables de résoudre des problèmes complexes en utilisant leur mémoire, leur raisonnement séquentiel et leur capacité d'autoréflexion.

Voyons en détail ce qui caractérise un LLM, comment ces modèles fonctionnent et en quoi ils peuvent être bénéfiques pour votre entreprise.

Ce que vous apprendrez :

• Que sont les LLM ?
• Comment fonctionnent les grands modèles de langage ?
• Comment les grands modèles de langage sont-ils entraînés ?
• À quoi servent les LLM ?
• Devriez-vous créer votre propre LLM ?
• Quels sont les avantages et les inconvénients des LLM ?
• Exploitez la puissance des LLM avec Agentforce

Les grands modèles de langage (LLM) sont les moteurs qui alimentent l'IA générative. Les LLM peuvent comprendre des questions et y répondre en langage naturel, car ils sont entraînés sur de très grandes quantités de données textuelles. Ces modèles sont désormais utilisés pour créer du contenu textuel et visuel, rédiger des résumés et écrire de nouveaux codes.

Les utilisateurs interagissent avec les LLM par le biais de prompts, de questions et de contextes rédigés en langage naturel qui sont envoyés au modèle. Par exemple, vous pourriez demander à un modèle d'IA générative de créer un résumé de cet article. Tout d'abord, vous envoyez le texte de l'article à votre outil d'IA afin qu'il l'ingère et l'analyse. Ensuite, vous écrivez le prompt détaillant ce que vous recherchez. Le LLM produirait ensuite un résumé de haut niveau. Plus le nombre de données utilisées pour l'entraînement du modèle est important, plus les résultats sont complets et précis.

Une fois les données appropriées en place, les entreprises peuvent utiliser les LLM de nombreuses façons, par exemple en demandant à leur équipe commerciale d'utiliser l'IA pour des tâches telles que la création d'arguments de vente, le tout à partir de données clients pertinentes qui mettent en évidence les points faibles et les préférences des clients.

Avant de vous lancer dans une stratégie d'IA générative, familiarisez-vous avec la manière dont cette technologie vous permet de passer du prompt à la sortie. Les grands modèles de langage reposent sur trois composants : l'apprentissage machine (et profond), les réseaux neuronaux et les modèles de transformation.

L'apprentissage machine enseigne aux LLM comment collecter des données, découvrir des connexions et identifier des fonctionnalités courantes.

L'apprentissage profond est un sous-ensemble de l'apprentissage machine qui permet aux LLM d'apprendre avec moins d'intervention humaine et utilise une approche probabiliste pour améliorer la précision. Imaginons un LLM qui analyse 1 000 phrases. Les outils d'apprentissage profond déterminent que les lettres « E », « T », « A » et « O » sont celles qui apparaissent le plus souvent. À partir de là, le modèle extrapole (correctement) que ces lettres font partie des lettres les plus utilisées en anglais.

Les réseaux neuronaux, également appelés réseaux neuronaux artificiels (RNA), sont des groupes de nœuds connectés qui peuvent communiquer entre eux. Ces nœuds sont organisés en couches comprenant une couche d'entrée, une couche de sortie et au moins une couche intermédiaire, ce qui permet aux LLM de traiter rapidement les informations. Ces réseaux s'inspirent vaguement des réseaux neuronaux du cerveau humain, mais sont beaucoup moins complexes.

Les modèles de transformeurs aident les LLM à comprendre le contexte linguistique. Grâce à une technique appelée « auto-attention », ces modèles peuvent analyser la structure des phrases et le choix des mots afin de comprendre comment les éléments du langage sont liés entre eux. Cela permet aux LLM de mieux comprendre et traiter les requêtes des utilisateurs.

Les LLM comprennent le texte différemment selon les modèles qu'ils utilisent. Les modèles basés uniquement sur l'encodeur se concentrent sur la compréhension du texte fourni, tandis que les modèles basés uniquement sur le décodeur génèrent du texte à partir d'un prompt. En combinant ces méthodes (encodeur-décodeur), les LLM peuvent comprendre et générer du texte, en effectuant des tâches basées sur le langage comme le service client ou la vente. Par exemple, un chatbot d’IA basé sur les LLM pourrait être utilisé pour répondre aux questions des clients sur les délais de livraison, les détails des produits ou les changements de prix, libérant ainsi les représentants humains qui pourraient alors se consacrer à des tâches plus stratégiques.

Il existe de nombreux types d'agents LLM, mais quel que soit celui que vous utilisez, l'entraînement améliore la précision et la fiabilité de leurs résultats. Étant donné que les réseaux neuronaux basés sur des transformeurs peuvent inclure des milliards de paramètres, un entraînement est nécessaire pour garantir que les paramètres sont correctement pondérés et appliqués aux requêtes. Différents modèles d'entraînement peuvent être plus ou moins efficaces selon la complexité et le cas d'usage d'un LLM.

L'apprentissage zero-shot consiste à former des LLM à la volée. Les utilisateurs posent des questions et les LLM trient les sources de données connectées pour trouver des réponses. La précision initiale est généralement faible, mais s'améliore avec le temps.

Dans une approche few-shot, les data scientists fournissent une petite sélection d'exemples pertinents pour aider les LLM à établir des connexions de base. L'entraînement few-shot améliore considérablement la précision dans des zones ciblées.

L'entraînement par chaîne de pensée -ou Chain of Thought (CoT)- guide les LLM à travers un processus de raisonnement simple. Au lieu de poser une seule question, le CoT la décompose en plusieurs parties. Voici un exemple :

Prompt standard :

Steve a 20 chemises. La moitié de ses chemises sont à manches courtes, et la moitié de ces chemises sont bleues. Combien de chemises bleues a-t-il ?

Prompt CoT :

Steve a 20 chemises.

La moitié de ses chemises sont à manches courtes. Cela signifie qu'il possède 10 chemises à manches courtes.

La moitié de ces chemises sont bleues, ce qui signifie qu'il a 5 chemises bleues.

Bien que le prompt en lui-même ne soit pas particulièrement compliqué, le CoT fournit une approche étape par étape pour résoudre le problème, qui montre à un LLM comment répondre à la question. Cette approche peut ensuite être appliquée à d'autres questions.

Les modèles de réglage fin et spécifiques à un domaine fournissent des informations contextuelles supplémentaires pour des cas d'usage ciblés. Par exemple, une entreprise qui cherche à améliorer son analyse du sentiment sur les réseaux sociaux pourrait fournir à son LLM des informations détaillées sur la manière de comprendre des mots et des expressions spécifiques dans le contexte plus large des plateformes sociales.

Dans ce type de modèle, plutôt que d'examiner le texte lui-même, le modèle le traduit en chiffres, appelés vecteurs. En utilisant des chiffres, les ordinateurs peuvent recourir à l'apprentissage machine pour analyser plus facilement la manière dont les mots et les phrases sont assemblés, donner un sens au contexte et à la sémantique afin d'identifier les relations entre les mots.

Dans un modèle multimodal, les LLM sont entraînés à utiliser plusieurs formats de données pour l'entrée et la sortie. Outre du texte, ces formats peuvent inclure des données audio, vidéo ou image.

Les LLM offrent aux agents IA la capacité de converser en langage naturel, mais cela est plus facile à dire qu'à faire.

Les bots traditionnels nécessitent que vous entraîniez manuellement des modèles de langage naturel afin qu'ils comprennent le langage des clients et conçoivent des dialogues. Ce processus est extrêmement long et coûteux pour une entreprise, mais les LLM offrent des alternatives plus simples.

Par exemple, des solutions telles que Agentforce, la couche agentique de la plateforme Salesforce, utilisent des compétences prédéfinies (ainsi que des actions personnalisées à faible code) au lieu de vous faire passer par un long processus d'entraînement. Agentforce utilise également l'IA conversationnelle, ce qui rend les interactions avec les agents plus naturelles et moins robotiques.

Parmi les autres cas d'usage courants des LLM, on peut citer :

• Génération de texte : les LLM peuvent générer du texte à partir de vos données, le rendant ainsi plus pertinent pour vos clients. Par exemple, les équipes marketing peuvent utiliser un LLM pour rédiger un appel à l'action pour un nouveau produit ou rédiger un e-mail promotionnel. Les équipes commerciales peuvent également utiliser l'IA pour générer des promotions.
• Résumé de contenu : les utilisateurs peuvent également demander aux LLM de résumer de longs blocs de texte. Ils peuvent également personnaliser le format de sortie. Les résumés peuvent être présentés sous forme de paragraphes courts, de listes à puces ou de phrases simples.
• Réponses issues de la base de connaissances : de nombreuses entreprises disposent de bases de connaissances destinées à leurs employés et à leurs clients, qui contiennent des réponses aux questions courantes. Les LLM peuvent utiliser ces bases de connaissances pour répondre aux requêtes des utilisateurs.
• Génération de code : il est également possible d'utiliser les LLM pour générer du code une fois que les modèles ont été entraînés dans un langage spécifique. Par exemple, les équipes pourraient demander à un modèle de générer du code Python pour exécuter une fonction spécifique.
• Analyse des sentiments : les LLM peuvent collecter et analyser des données provenant de publications sur les réseaux sociaux, d'e-mails, de SMS et d'autres sources, puis analyser ces données afin de déterminer le sentiment général des utilisateurs. C'est un excellent moyen d'utiliser l'IA marketing pour identifier les clients qui pourraient être frustrés ou mécontents et prendre des mesures pour résoudre le problème.
• Traduction linguistique : les LLM peuvent également servir de services de traduction, ce qui aide votre service client à utiliser l'IA pour répondre aux demandes dans des langues autres que la leur. Les utilisateurs peuvent demander aux modèles de traduire des phrases ou des paragraphes dans une autre langue. Compte tenu de la quantité considérable de données disponibles en ligne, il s'agit d'une tâche simple pour les LLM. Le principal danger ? Le contexte est souvent absent des traductions, il est donc recommandé de faire appel à un relecteur humain.
• Classification et catégorisation : grâce aux LLM, les entreprises peuvent rationaliser le processus de classification et de catégorisation des données. Tout d'abord, les utilisateurs fournissent des détails : si les données contiennent l'élément « X » ou la valeur « Y », elles appartiennent à la catégorie « Z ». Ensuite, les LLM sont chargés d'analyser toutes les données d'un ensemble spécifique et d'attribuer les valeurs correspondantes à une catégorie désignée.
• Agents IA : les progrès réalisés dans le domaine des LLM ont permis l'utilisation d'agents IA. Ces applications autonomes peuvent fournir une assistance spécialisée à la demande aux clients ou au personnel et peuvent être personnalisées pour répondre à des besoins commerciaux spécifiques.

Une réponse simple ? Difficile.

La réponse la plus complète ? Dans la plupart des cas, créer son propre LLM est coûteux, long et inutile.

Le prix élevé est dû à la nécessité d'investir dans l'expertise et l'infrastructure nécessaires pour développer un modèle de langage sur mesure. Cela prend beaucoup de temps, car vous devez fournir une grande quantité de données d'entraînement et vous assurer que l'entraînement aboutit à des résultats précis. Et cela n'est pas nécessaire, car dans la plupart des cas, vous réinventez la roue.

L'utilisation de LLM open source pré-entraînés, dotés de dispositifs de sécurité intégrés, offre souvent le meilleur compromis entre performances et protection. Les entreprises peuvent exploiter la puissance de modèles entraînés à partir de billions de points de données, sans craindre que des problèmes dans le code n'entraînent des compromissions involontaires. Vous pouvez compléter les informations du modèle LLM en utilisant une génération augmentée de récupération (RAG), qui combine les données les plus pertinentes et exclusives de votre entreprise.

Les LLM offrent une multitude d'avantages aux organisations. Il s'agit notamment de la réduction ou de l'élimination des processus manuels et de la capacité à découvrir de nouvelles tendances et perspectives à partir des sources de données disponibles. Cependant, pour utiliser efficacement les LLM, les entreprises doivent identifier leurs points forts et leurs points faibles.

Voici un aperçu des principaux avantages et inconvénients potentiels des LLM :

• Adaptabilité : comme les LLM utilisent le modèle d'architecture du transformeur, au lieu de règles explicites codées en dur, ils peuvent s'adapter aux prompts dynamiques et imprévisibles qu'ils peuvent recevoir.
• Flexibilité : il n'existe pas une seule façon d'utiliser les LLM. Les entreprises peuvent personnaliser ces outils pour qu'ils agissent comme des assistants IA, des copilotes ou des agents autonomes.
• Performances : à mesure que les LLM analysent et intègrent davantage de données, leurs performances s'améliorent, réduisant ainsi le temps entre la requête et la réponse.
• Efficacité : comme une grande partie de l'apprentissage LLM se fait indépendamment de la supervision humaine, le personnel est libre de se consacrer à d'autres tâches stratégiques.

• Coûts de développement et d'exploitation : le processus de développement peut être long et coûteux. Les coûts habituels comprennent la rédaction et le test du code, la recherche et l'intégration d'ensembles de données, ainsi que la vérification que les LLM répondent correctement aux données d'entraînement.
• Préoccupations éthiques : si les données utilisées pour prendre des décisions sont collectées sans le consentement des utilisateurs, les entreprises peuvent faire l'objet de poursuites judiciaires. Le biais est une autre préoccupation. Si les ensembles de données sont mal pondérés ou contiennent des données inexactes, cela peut conduire à des réponses qui semblent exactes, mais qui sont biaisées à l'encontre d'un groupe ou d'un résultat particulier.
• Explicabilité : la nature de la prise de décision des LLM est difficile à expliquer. Cela peut nuire à la confiance dans les résultats des LLM et dans la prise de décision. Pour compenser cela, utilisez une couche de confiance qui vous donne un aperçu de la manière dont les décisions ont été prises.
• Hallucinations/jetons de dysfonctionnement : les hallucinations se produisent lorsque les utilisateurs demandent aux LLM « d'imaginer » qu'ils peuvent effectuer des actions qui leur sont normalement interdites. Par exemple, un cybercriminel pourrait demander à un LLM de lui fournir les coordonnées de tous les employés d'une entreprise. Le LLM rejette la demande en vertu de ses règles de sécurité. Ensuite, l'attaquant demande au modèle d'imaginer qu'il peut accomplir l'action. Ce faisant, le LLM remplit effectivement la fonction demandée. Les jetons de dysfonctionnement, quant à eux, sont des chaînes de caractères qui produisent des résultats inattendus. Les jetons eux-mêmes et les résultats semblent en grande partie aléatoires, ce qui rend difficile de déterminer quand et comment ils apparaissent.
• Risques liés à la sécurité : les modèles peuvent également présenter des risques liés à la sécurité. Par exemple, si les LLM commerciaux sont formés à partir de données publiques et privées, il existe un risque que les LLM soient compromis ou que des données protégées soient exposées.

Deux voies sont envisageables pour l'avenir des LLM : plus grands ou plus petits.

À mesure que les algorithmes d'apprentissage profond s'améliorent et que les processeurs deviennent plus puissants, les grands modèles de langage seront capables de traiter des volumes de données plus importants plus rapidement et avec une précision sans précédent.

Dans le même temps, attendez-vous à voir se développer des petits modèles de langage qui offrent le même niveau de performance sur des jeux de données plus petits et mieux contrôlés. Ces modèles plus petits permettent aux entreprises de définir des paramètres hautement spécialisés et d'obtenir des résultats très précis.

Les grands modèles de langage se rapprochent de plus en plus d'une compréhension contextuelle complète de la communication. Bien que la surveillance reste un élément essentiel de l'utilisation des LLM, ces modèles permettent de combler le fossé entre les connaissances humaines et les opérations informatiques en nous permettant de parler le même langage.

Maintenant que vous avez une meilleure compréhension de l'IA et des LLM, vous pouvez découvrir Agentforce. Avec Agentforce, vous pouvez créer des agents IA autonomes à l'aide du LLM de votre choix, ce qui aide votre entreprise à être plus productive et à améliorer son retour sur investissement et sa productivité.