Metrics
Metrics (evaluatiemetrieken) zijn de harde, meetbare waarden die worden gebruikt om te bepalen hoe goed een AI-model presteert. Een model kan op papier uitstekend lijken te werken, maar zonder de juiste metrics is het onmogelijk om objectief vast te stellen of het systeem betrouwbare uitkomsten levert. Binnen Machine Learning vormen deze cijfers de basis voor het testen, vergelijken en optimaliseren van algoritmes.
Sturen op nauwkeurigheid en foutmarges
De keuze voor specifieke metrics hangt nauw samen met het type taak dat de AI uitvoert. Bij een classificatie-model kijken ontwikkelaars naar waarden zoals accuracy (het percentage correcte voorspellingen), precision en recall. Bij het trainen van een model sturen ontwikkelaars daarentegen strak op de loss-waarde: de foutmarge tussen de voorspelling van de AI en de werkelijke data. Hoe lager deze score, hoe beter het algoritme presteert.
Onmisbaar instrument voor de Learning Curve
Metrics spelen een sleutelrol bij het monitoren van de voortgang van een model. Door de scores tijdens elke trainingsronde (epoch) uit te zetten in een Learning Curve, wordt direct zichtbaar of het model progressie boekt. Verschillen in prestatie-metrics tussen de trainingsdata en de testset leggen daarnaast cruciale valkuilen bloot, zoals overfitting.
Kwaliteitsbewaking op het centrale AI platform
Wanneer een model live staat binnen een enterprise AI platform, blijven metrics essentieel voor continu beheer. Doordat de instroom van nieuwe gegevens in de praktijk verandert, kunnen prestaties na verloop van tijd afnemen (model drift). Door metrics geautomatiseerd te monitoren, signaleert het platform direct wanneer de betrouwbaarheid van de resultaten onder de norm zakt en een hernieuwde training van het model noodzakelijk is.
Veelgestelde vragen
Een loss function wordt door het algoritme zélf gebruikt tijdens de trainingsfase om de parameters aan te passen en fouten te verkleinen. Een metric wordt door de ontwikkelaar gebruikt om de uiteindelijke prestaties op een menselijk leesbare manier te beoordelen.
Bij onevenredige data (imbalanced datasets) kan accuracy een misleidend beeld geven. Als 99% van de e-mails geen spam is, scoort een simpel model dat alle mails als ‘geen spam’ bestempelt al 99% accuracy, terwijl het de functie totaal mist. In dat geval bieden precision en recall betere inzichten.
De F1-score is het harmonisch gemiddelde van precision en recall. Deze metric geeft één gebalanceerd getal dat de nauwkeurigheid van een model aangeeft, met name wanneer er een goede balans moet zijn tussen het voorkomen van vals-positieven en vals-negatieven.
Voor generatieve taalmodellen gebruikt men specifieke metrics zoals BLEU en ROUGE (om gegenereerde tekst te vergelijken met referentieteksten) of perplexity (een maatstaf voor hoe goed een model de volgende reeks woorden kan voorspellen).