Chain-of-Thought prompting
We hebben op de basisschool allemaal geleerd dat je bij een ingewikkelde rekensom niet alleen het eindantwoord moet opschrijven, maar ook je tussenstappen moet laten zien. Doe je dat niet, dan is de kans op een slordigheidsfout gigantisch. Voor kunstmatige intelligentie geldt exact hetzelfde. Chain-of-Thought (CoT) prompting is een geavanceerde instructietechniek die een Large Language Model (LLM) dwingt om ‘op te biegen’ hoe het tot een conclusie komt. In plaats van direct naar het eindantwoord te gissen, schrijft de AI eerst zijn eigen logische denkweg (de chain of thought) uit.
Waarom ‘eerst nadenken, dan praten’ ook voor AI geldt
Om te begrijpen waarom CoT zo goed werkt, moeten we kijken naar hoe een taalmodel functioneert. Een LLM rekent in feite woord voor woord (token voor token) uit wat de meest logische volgende stap is. Als je de AI een complexe logische puzzel voorschotelt en direct om een antwoord vraagt, moet het model in één keer de sprong maken naar het eindresultaat. Dat gaat vaak mis.
Door de AI te dwingen zijn tussenstappen uit te schrijven, creëert het model zijn eigen context. Elk opgeschreven stapje helpt de rekenkracht van de AI om de volgende logische stap correct te berekenen. Het is de digitale variant van ‘denken op papier’.
Het activeren van de interne dialoog
Het mooie van Chain-of-Thought prompting is dat je geen diepe programmeerkennis nodig hebt om de nauwkeurigheid van een model te maximaliseren. Het is in de basis een psychologische hack, maar dan toegepast op een wiskundig taalmodel. Door de AI simpelweg de instructie te geven om zijn redeneerpad te tonen, dwing je het systeem om zijn ‘werkgeheugen’ efficiënter te structureren. Elke tussenstap die het model uitschrijft, fungeert als een soort ankerpunt voor de volgende berekening.
In de praktijk hoef je hiervoor niet het wiel opnieuw uit te vinden. Afhankelijk van hoe complex het probleem is en hoeveel controle je wilt behouden over de denkrichting van de AI, zijn er grofweg twee beproefde manieren om deze logische ketting in te richten:
- Zero-shot CoT (De snelle methode): Je voegt simpelweg een magische zin toe aan het einde van je prompt, zoals: “Denk stap voor stap na over dit probleem voordat je het antwoord geeft” of “Laten we dit stap voor stap aanpakken”. Dit activeert direct het logische redeneervermogen van het model.
- Few-shot CoT (De krachtige methode): Je geeft de AI in je prompt één of twee voorbeelden waarin je zelf laat zien hoe je een vergelijkbaar probleem stap voor stap oplost. Het model kopieert deze gestructureerde denkwijze vervolgens feilloos voor de nieuwe taak die je het geeft.
Eén slimme denker of een hele lopende band?
Hoewel de termen erg op elkaar lijken, is er een wezenlijk verschil tussen Chain-of-Thought en Prompt Chaining. Bij Prompt Chaining knip je de taak als ontwikkelaar vooraf technisch op in verschillende losse prompts (schakels) waarbij de computer de data tussentijds filtert. Bij Chain-of-Thought prompting laat je het denkwerk volledig over aan het AI-model zelf binnen één en dezelfde prompt. Het AI-model bepaalt zelf zijn tussenstappen en schrijft deze in één vloeiende beweging uit op je scherm.
Veelgestelde vragen
Gebruik CoT uitsluitend bij taken die vragen om logica, rekenwerk, programmeren of complexe besluitvorming. Voor simpele, creatieve taken (zoals vertalen of brainstormen) heeft het geen toegevoegde waarde.
Ja. Omdat de AI eerst al zijn tussenstappen uitschrijft, genereert het model meer output tokens. In de praktijk weegt deze minimale kostenstijging echter ruimschoots op tegen de enorme winst in betrouwbaarheid.
Ja. Je kunt de AI instrueren zijn redenering tussen specifieke XML-tags te zetten (zoals <thinking>…</thinking>). Jouw software filtert dit er vervolgens aan de achterkant uit, zodat de klant alleen het eindantwoord ziet.
De nieuwste generatie ‘reasoning models’ (zoals OpenAI’s o-modellen) hebben CoT ingebouwd in hun architectuur. Zij nemen achter de schermen automatisch bedenktijd. Bij oudere of lichtere (open-source) modellen moet je dit nog wel handmatig stimuleren via je prompt.