In-context learning
In-context learning vormt een van de meest praktische eigenschappen van moderne Large Language Models (LLM’s). Vroeger moest een neuraal netwerk eerst opnieuw getraind of via fine-tuning bijgeschaafd worden zodra het een nieuwe specifieke taak moest uitvoeren. Bij in-context learning leert het model daarentegen ‘on the fly’. Door simpelweg een paar instructies of voorbeelden mee te geven in de invoer, begrijpt het model meteen wat de bedoeling is en past het zijn antwoord daarop aan.
De prompt als spiekbriefje
Het proces draait volledig om de invoer die naar het model wordt gestuurd binnen het beschikbare context window. Wanneer een gebruiker een taak omschrijft en direct enkele voorbeelden van gewenste input en output toevoegt (een methode die bekendstaat als few-shot prompting) herkent het algoritme het onderliggende patroon.
Het model herstructureert zijn interne redenering voor die specifieke sessie om het patroon voort te zetten. Sluit je de sessie af of begin je een nieuwe prompt, dan is die tijdelijke kennis weer verdwenen; de vaste gewichten van het AI-model zijn immers nooit veranderd.
Direct resultaat zonder zware rekensommen
Om de waarde van in-context learning te begrijpen, is het onderscheid met traditionele methoden cruciaal. Bij klassiek trainen of fine-tuning pas je de wiskundige parameters van het netwerk permanent aan met behulp van een specifieke dataset. Dat proces kost aanzienlijke rekenkracht, tijd en gespecialiseerde infrastructuur.
In-context learning vereist daarentegen geen enkele technische herberekening van het model. Het stelt ontwikkelaars en marketeers in staat om binnen enkele seconden een model een nieuw format, een specifieke schrijfstijl of een nicheclassificatie aan te leren, simpelweg door de context in de prompt goed op te bouwen.
Direct meedraaien zonder inwerkperiode
In de praktijk maakt in-context learning AI-toepassingen veel wendbaarder. Denk aan klantenservicesystemen die via Retrieval-Augmented Generation (RAG) actuele productinformatie uit een database halen en deze meesturen in de prompt. Het model beantwoordt vervolgens vragen op basis van die actuele context zonder ooit op die specifieke bedrijfsdata getraind te zijn.
Ook bij het analyseren van documenten, het vertalen naar een specifiek vakjargon of het coderen volgens strikte teamconventies zorgt in-context learning voor directe bruikbaarheid zonder kostbare ontwikkeltrajecten.
Veelgestelde vragen
Bij zero-shot geef je het model alleen een duidelijke taakomschrijving zonder voorbeelden, vertrouwend op de basiskennis van het model. Bij few-shot voeg je een of meerdere uitgewerkte voorbeelden toe in de prompt, waardoor het model via in-context learning veel nauwkeuriger de gewenste structuur en toon overneemt.
Nee, de parameters en gewichten van het basismodel blijven volkomen identiek. De ‘geleerde’ vaardigheid bestaat uitsluitend binnen de context van de actieve invoer en verdwijnt zodra de prompt of sessie voorbij is.
De belangrijkste beperking is de omvang van het context window; je kunt maar een beperkte hoeveelheid informatie of voorbeelden meesturen in één prompt. Bovendien kost het meesturen van veel context meer tokens en kan het model bij overvolle prompts soms minder scherp reageren op de kerninstructie.
Fine-tuning is geschikter wanneer je een model consistent een zeer specifieke taak of tone-of-voice wilt laten hanteren over miljoenen verzoeken heen, of wanneer het model structureel moet leren van enorme hoeveelheden domeinkennis die niet in één prompt passen.
