Wat zijn LLM's (Large Language Models)?

Wanneer je generatieve AI gebruikt om een rapport samen te vatten of een bericht voor social media op te stellen, maak je gebruik van grote taalmodellen (LLM's). LLM's vormen de onderliggende technologie die generatieve AI aandrijft. En naarmate ze meer data gebruiken, kunnen ze nauwkeurigere outputs genereren. Dit is essentieel voor bedrijven, die LLM's kunnen gebruiken om klanten meer relevante, gepersonaliseerde content te bieden.

Door de vooruitgang in kunstmatige intelligentie (AI), mogelijk gemaakt door LLM's, kunnen bedrijven ook AI-agents creëren en inzetten. Na prompts van klanten of medewerkers zijn deze intelligente systemen in staat om complexe problemen op te lossen met behulp van geheugen, sequentieel redeneren en zelfreflectie.

Laten we eens kijken wat een LLM precies is, hoe deze modellen werken en hoe je bedrijf ervan kan profiteren.

Het volgende komt aan bod:

• Wat zijn LLM's?
• Hoe werken grote taalmodellen?
• Hoe worden grote taalmodellen getraind?
• Waar worden LLM's voor gebruikt?
• Moet je je eigen LLM bouwen?
• Wat zijn de voor- en nadelen van LLM's?
• Profiteer van de kracht van LLM's met Agentforce

Grote taalmodellen (LLM's) zijn de motoren die generatieve AI aandrijven. LLM's kunnen vragen begrijpen en beantwoorden in natuurlijke taal, omdat ze zijn getraind op enorme hoeveelheden tekstdata. Deze modellen worden nu gebruikt om tekst en visuele content te maken, samenvattingen te maken en nieuwe code te schrijven.

Gebruikers communiceren met LLM's via prompts. Dit zijn vragen en context die in natuurlijke taal zijn geschreven en naar het model worden gestuurd. Je kunt bijvoorbeeld een generatief AI-model vragen om een samenvatting van dit artikel te maken. Eerst stuur je de tekst van het artikel naar je AI-tool, die deze leest en analyseert. Vervolgens schrijf je de prompt waarin je aangeeft wat je precies wilt. De LLM produceert vervolgens een hoogwaardige samenvatting. Hoe meer data wordt gebruikt om het model te trainen, hoe vollediger en nauwkeuriger de resultaten zijn.

Met de juiste data kunnen bedrijven op heel veel manieren LLM's gebruiken. Zo kun je je salesteam AI laten gebruiken voor taken als het genereren van pitches, op basis van relevante klantdata die pijnpunten en voorkeuren omvat.

Voordat je serieus aan de slag gaat met je generatieve AI-strategie, moet je weten hoe deze technologie je van prompt naar output brengt. Grote taalmodellen zijn afhankelijk van drie componenten: machine learning en diep leren, neurale netwerken en transformermodellen.

Machine learning (ML)-algoritmen instrueren LLM's hoe ze data moeten verzamelen, verbanden moeten vinden en gemeenschappelijke kenmerken kunnen identificeren.

Diep leren is een subset van ML waarmee LLM's kunnen leren met minder menselijke tussenkomst en een probabilistische benadering gebruiken om de nauwkeurigheid te verbeteren. Stel je voor dat je een LLM hebt die 1000 Engelstalige zinnen analyseert. Tools voor diep leren stellen vast dat de letters E, T, A en O het vaakst voorkomen. Op basis daarvan concludeert het model (correct) dat deze tot de meest gebruikte letters in het Engels behoren.

Neurale netwerken, ook wel artificial neural networks (ANN's) genoemd, zijn groepen verbonden knooppunten die met elkaar kunnen communiceren. Deze knooppunten zijn gerangschikt in lagen, zoals input, output en ten minste één middelste laag. Ze stellen LLM's in staat om snel informatie te verwerken. Deze netwerken zijn min of meer gebaseerd op de neurale netwerken van het menselijk brein, maar zijn veel minder complex.

Transformermodellen leren LLM's de taalcontext te begrijpen. Met behulp van een techniek die 'zelfaandacht' wordt genoemd, kunnen deze modellen de zinsbouw en woordkeuze analyseren om te begrijpen hoe taalelementen zich tot elkaar verhouden. Op die manier kunnen LLM's vragen van gebruikers beter begrijpen en verwerken.

Hoe LLM's tekst begrijpen, is afhankelijk van de modellen die ze gebruiken. Modellen met alleen encoders richten zich op het begrijpen van de aangeleverde tekst, terwijl modellen met alleen decoders tekst genereren op basis van een prompt. Als je ze samenvoegt tot encoder-decoder kunnen LLM's tekst begrijpen en genereren. Ze kunnen dan taalgerichte taken op zich nemen, zoals klantenservice of sales. Een LLM-gestuurde AI-chatbot kan bijvoorbeeld worden gebruikt om vragen van klanten over verzendtijden, productdetails of prijswijzigingen te beantwoorden. Daardoor hebben menselijke medewerkers meer tijd om aan meer strategische taken te werken.

Er zijn veel soorten LLM-agents. Maar welke je ook gebruikt, training verbetert de nauwkeurigheid en betrouwbaarheid van hun output. Aangezien op transformers gebaseerde neurale netwerken miljarden parameters kunnen bevatten, is training vereist om ervoor te zorgen dat de parameters correct worden gewogen en toegepast op query's. Trainingsmodellen kunnen meer of minder effectief zijn, afhankelijk van de complexiteit en het gebruik van een LLM.

Bij zero-shot learning worden LLM's in de praktijk getraind. Gebruikers stellen vragen en LLM's doorzoeken verbonden databronnen om antwoorden te vinden. Aanvankelijk is de nauwkeurigheid doorgaans laag, maar deze verbetert in de loop van de tijd.

Bij een few-shot-benadering voorzien datawetenschappers de LLM's van een kleine selectie relevante voorbeelden om ze basale verbindingen tot stand te laten brengen. Few-shot training verbetert de nauwkeurigheid op specifieke gebieden aanzienlijk.

Chain of thought (CoT)-training leidt LLM's door een eenvoudig redeneerproces. In plaats van een enkele vraag te stellen, splitst CoT deze op in meerdere onderdelen. Een voorbeeld:

Standaardprompt:

Steve heeft twintig overhemden. De helft van zijn overhemden heeft korte mouwen en de helft daarvan is blauw. Hoeveel blauwe overhemden heeft hij?

CoT-prompt:

Steve heeft twintig overhemden.

De helft van zijn overhemden heeft korte mouwen. Dit betekent dat hij tien overhemden met korte mouwen heeft.

De helft van deze overhemden is blauw, wat betekent dat hij vijf blauwe overhemden heeft.

Hoewel de prompt zelf niet bijzonder ingewikkeld is, maakt CoT een stapsgewijze benadering van probleemoplossing mogelijk. Daardoor weet een LLM hoe de vraag moet worden beantwoord. Deze aanpak kan vervolgens worden toegepast op andere vragen.

Fine-tuning en domeinspecifieke modellen bieden aanvullende contextuele informatie voor gerichte use cases. Een bedrijf dat bijvoorbeeld het sentiment op social media beter wil analyseren, kan zijn LLM gedetailleerde informatie verstrekken over hoe specifieke woorden en zinnen kunnen worden begrepen binnen de grotere context van social-mediaplatforms.

Een model van dit type kijkt niet naar de tekst zelf, maar vertaalt het deze in getallen (vectoren). Door getallen te gebruiken, kunnen computers machine learning gebruiken om gemakkelijker te analyseren hoe woorden en zinnen bij elkaar worden geplaatst. Zo worden de context en semantische betekenis inzichtelijk gemaakt om relaties tussen de woorden te identificeren.

In een multimodaal model worden LLM's getraind om meerdere data-indelingen te gebruiken voor input en output. Deze indelingen kunnen naast tekst ook audio-, video- of afbeeldingsdata bevatten.

Dankzij LLM's kunnen AI-agents in natuurlijke taal communiceren, maar dat is makkelijker gezegd dan gedaan.

Bij traditionele bots moet je natuurlijke taalmodellen handmatig trainen om ze de taal van de klant te laten begrijpen en dialogen te ontwerpen. Dit proces is uiterst tijdrovend en kostbaar voor een bedrijf, maar LLM's bieden eenvoudigere alternatieven.

Oplossingen zoals Agentforce - de agentische laag van het Salesforce-platform - maken bijvoorbeeld gebruik van vooraf ontwikkelde skills (en aangepaste low-code acties). Daardoor hoef je geen langdurig trainingsproces te doorlopen. Agentforce maakt ook gebruik van gespreks-AI, zodat agents minder robotachtig aandoen en natuurlijker overkomen.

Andere veel voorkomende use cases voor LLM's zijn:

• Tekst genereren: LLM's kunnen tekst genereren op basis van je data, waardoor deze relevanter wordt voor je klanten. Zo kunnen marketingteams een LLM gebruiken om een call-to-action voor een nieuw product op te stellen of een wervende e-mail te schrijven. Commerce-teams kunnen AI ook gebruiken om promoties te genereren.
• Samenvatten van content: Gebruikers kunnen LLM's ook vragen om grote tekstblokken samen te vatten. Ze kunnen ook het outputformaat aanpassen. Samenvattingen kunnen bestaan uit kortere alinea's, opsommingslijsten of losse zinnen.
• Antwoorden uit knowledge bases: Veel bedrijven hebben knowledge bases voor medewerkers en klanten met antwoorden op veelgestelde vragen. LLM's kunnen deze knowledge bases gebruiken om vragen van gebruikers te beantwoorden.
• Code genereren: Het is ook mogelijk om LLM's te gebruiken voor het genereren van code wanneer modellen in een specifieke taal zijn getraind. Teams kunnen bijvoorbeeld een model vragen om Python-code te genereren voor het uitvoeren van een specifieke functie.
• Gevoelsanalyse: LLM's kunnen data verzamelen en analyseren uit berichten op social media, e-mails, sms-berichten en andere databronnen. Vervolgens kunnen ze deze data analyseren om het algehele gevoel van gebruikers te bepalen. Dit is een geweldige manier om met behulp van marketing-AI klanten te identificeren die mogelijk gefrustreerd of ontevreden zijn en actie te ondernemen om het probleem op te lossen.
• Vertalingen: LLM's kunnen ook fungeren als vertaaldienst, zodat je klantenserviceteam AI kan gebruiken om te reageren op vragen in andere talen dan hun eigen taal. Gebruikers kunnen modellen vragen om zinnen of alinea's te vertalen. Omdat er online een enorme hoeveelheid data beschikbaar is, is dit een eenvoudige taak voor LLM's. De enige valkuil is dat de context van de te vertalen teksten vaak ontbreekt, dus is menselijk toezicht aan te bevelen.
• Classificatie en categorisatie: Met behulp van LLM's kunnen bedrijven het proces van dataclassificatie en -categorisatie stroomlijnen. Eerst stellen gebruikers de voorwaarden in: als data een element X of een Y-waarde bevat, hoort het thuis in categorie Z. Vervolgens krijgen LLM's de taak om alle data binnen een specifieke set te analyseren en overeenkomende waarden toe te wijzen aan een bepaalde categorie.
• AI-agents: Omdat LLM's zoveel beter zijn geworden, is nu ook het gebruik van AI-agents mogelijk. Deze autonome applicaties kunnen gespecialiseerde, on-demand ondersteuning bieden aan klanten of medewerkers. Ook kunnen ze worden aangepast om te voldoen aan specifieke zakelijke vereisten.

Het korte antwoord? Waarschijnlijk niet.

Het langere antwoord? In de meeste gevallen is het bouwen van je eigen LLM duur, tijdrovend en onnodig.

Het is duur omdat je moet investeren in de expertise en infrastructuur om een op maat gemaakt taalmodel te ontwikkelen. Het is tijdrovend omdat je een schat aan trainingsdata moet verstrekken en ervoor moet zorgen dat de training resulteert in nauwkeurige resultaten. Maar in de meeste gevallen is het niet nodig om het wiel opnieuw uit te vinden.

Het gebruik van vooraf getrainde, open-source LLM's die worden geleverd met ingebouwde beveiliging biedt vaak de beste balans tussen prestaties en bescherming. Bedrijven kunnen gebruikmaken van de kracht van modellen die zijn getraind met behulp van biljoenen datapunten, zonder dat ze zich zorgen hoeven te maken dat problemen in de code leiden tot onbedoelde compromittering. Je kunt de informatie van het LLM-model aanvullen met behulp van een RAG (Retrieval Augmented Generation), die de meest relevante en bedrijfseigen data van je bedrijf samenbrengt.

LLM's bieden organisaties allerlei voordelen. Denk aan het verminderen of elimineren van handmatige processen en het vermogen om nieuwe trends en inzichten te ontdekken met behulp van beschikbare databronnen. Om LLM's effectief te gebruiken, moeten bedrijven wel weten wanneer ze van pas komen en waarvoor ze minder geschikt zijn.

Dit is een overzicht van enkele belangrijke voordelen en de mogelijke nadelen van LLM's:

• Aanpassingsvermogen: Aangezien LLM's het transformer-architectuurmodel gebruiken in plaats van expliciete voorgeprogrammeerde regels, kan het zich aanpassen aan dynamische en onvoorspelbare prompts.
• Flexibiliteit: Je kunt LLM's op meerdere manieren gebruiken. Bedrijven kunnen deze tools aanpassen om te fungeren als AI-assistenten, copilots of autonome agents.
• Prestaties: Naarmate LLM's meer data analyseren en opnemen, verbeteren hun prestaties, waardoor ze sneller vragen kunnen beantwoorden.
• Efficiëntie: Omdat LLM's vaak zonder menselijk toezicht leren, hebben medewerkers meer tijd voor andere strategische taken.

• Ontwikkelings- en operationele kosten: Het ontwikkelingsproces kan tijdrovend en kostenintensief zijn. Onder meer het schrijven en testen van code, het vinden en integreren van datasets en LLM's correct laten reageren op trainingsdata kan veel geld kosten.
• Ethische bezwaren: Als data die wordt gebruikt om beslissingen te nemen wordt verzameld zonder toestemming van de gebruiker, kunnen bedrijven juridisch in de problemen komen. Vertekening is een ander punt van zorg. Als datasets onjuist zijn gewogen of onnauwkeurige data bevatten, kan dit leiden tot antwoorden die nauwkeurig lijken, maar bevooroordeeld zijn ten opzichte van een bepaalde groep of uitkomst.
• Verklaarbaarheid: De aard van de besluitvorming van LLM's is moeilijk uit te leggen. Dit kan het vertrouwen in de output en besluitvorming van LLM's ondermijnen. Om dit te compenseren, gebruik je een vertrouwenslaag die je inzicht geeft in hoe beslissingen tot stand zijn gekomen.
• Hallucinaties/glitch-tokens: Hallucinaties treden op wanneer gebruikers LLM's vragen om 'zich voor te stellen' dat ze acties kunnen uitvoeren die ze eigenlijk niet mogen voltooien. Een cybercrimineel kan bijvoorbeeld een LLM vragen om de contactdata van iedereen bij een bedrijf te verstrekken. De LLM weigert dit verzoek op basis van zijn beveiligingsregels. Vervolgens vraagt de crimineel het model om zich voor te stellen dat het de actie wel kan uitvoeren. Op die manier voltooit de LLM daadwerkelijk de gevraagde functie. Glitch-tokens zijn reeksen tekens die onverwachte resultaten opleveren. Zowel de tokens zelf als de outputs lijken grotendeels willekeurig, waardoor het moeilijk is om te bepalen wanneer en hoe ze tot stand komen.
• Beveiligingsrisico's: Modellen kunnen ook beveiligingsrisico's met zich meebrengen. Als zakelijke LLM's bijvoorbeeld worden getraind op openbare data en privédata, bestaat de kans dat LLM's worden gecompromitteerd of dat beveiligde data wordt blootgesteld.

Waarschijnlijk gaat het in de toekomst twee kanten op met LLM's: groter en kleiner.

Naarmate algoritmen voor diep leren beter worden en er steeds krachtigere processors komen, zullen grote taalmodellen grotere datavolumes sneller en nauwkeuriger kunnen verwerken.

Tegelijkertijd kun je de ontwikkeling van kleine taalmodellen verwachten. Deze passen hetzelfde prestatieniveau toe op kleinere, strenger gecontroleerde datasets. Met deze kleinere modellen kunnen bedrijven zeer gespecialiseerde parameters definiëren voor een uiterst nauwkeurige output.

Grote taalmodellen gaan de context van communicatie steeds beter begrijpen. Hoewel toezicht van groot belang blijft bij het gebruik van een LLM, bieden deze modellen een manier om de kloof tussen menselijk inzicht en IT-activiteiten te overbruggen, omdat beide nu dezelfde taal spreken.

Nu je een beter begrip hebt van AI en LLM's is het tijd voor een rondleiding door Agentforce. Met Agentforce kun je autonome AI-agents bouwen met de LLM van je keuze, waardoor je bedrijf meer gedaan krijgt. Dit verbetert je ROI en productiviteit.