Hoe we AI-vaardigheden scoren: de methode, de niveaus en het bewijs.
Kandidaten doen een echte opdracht uit de functie met de AI-tool die ze al gebruiken. We nemen hun hele gesprek met de AI op, scoren daaruit zes vaardigheden, en koppelen elke score aan het precieze bericht waarop die is gebaseerd. Hieronder: wat we meten, hoe een niveau wordt gegeven, en een volledig voorbeeld.
Wat we onder AI-vaardigheden verstaan
AI-vaardigheden zijn wat iemand doet om goed werk uit een AI-tool te halen. We noemen er zes: de opdracht begrijpen voordat je die uit handen geeft, de AI briefen, controleren wat die teruggeeft, bijsturen als die het fout heeft, werk goedkeuren dat klaar is om te versturen, en het herhaalbaar maken.
Hoe we AI-vaardigheden testen: één echte opdracht
Geef de persoon een echte opdracht uit de functie en laat die de AI-tool gebruiken die die al gebruikt. Lees daarna het hele gesprek, niet alleen het resultaat. De vaardigheden blijken uit wat ze vroegen, wat ze controleerden en wat ze veranderden.
AI is de snelste, zelfverzekerdste junior collega die je ooit hebt gehad. Wij testen hoe goed mensen die aansturen.
Een assessment meet twee dingen:
1. AI-vaardighedenHoe goed werken ze met AI? Zes vaardigheden, afgelezen uit hoe ze één langere, echte opdracht uit de functie doen. Gescoord van Zwak tot Sterk.
2. VakvaardighedenIs het werk zelf goed? Twee of drie vaardigheden voor de functie, afgelezen uit dezelfde opdracht. Gescoord als onder, op of boven niveau.
1. De rubric voor AI-vaardigheden: zes vaardigheden
Afgelezen uit één echte opdracht voor de functie. Per vaardigheid: de vraag die ze beantwoordt, hoe zwak en sterk werk eruitziet, en een echt voorbeeld van iets wat je in de sessie kunt aanwijzen.
Begrijpen
Begrijpen ze de opdracht voordat ze die aan AI geven?
Zwak
Vraagt eerst om het antwoord. Neemt de opdracht aan zoals die is.
Sterk
Leest eerst het materiaal. Deelt het probleem op. Ziet wanneer de opdracht niet klopt.
Bijvoorbeeld
Keek naar de data voordat er om een antwoord werd gevraagd.
Briefen
Geven ze AI wat die nodig heeft?
Zwak
Plakt alles erin en zegt “doe dit”.
Sterk
Geeft context, grenzen, voorbeelden en wat af betekent. Houdt de beslissingen bij zichzelf.
Bijvoorbeeld
Zei tegen de AI alleen de getallen uit de bestanden te gebruiken.
Controleren
Merken ze het als AI het fout heeft?
Zwak
Levert op wat er af uitziet.
Sterk
Toetst aan de bron. Betrapt het verzonnen feit en het verkeerde getal.
Bijvoorbeeld
Legde het totaal naast het getal van finance.
Bijsturen
Lossen ze het op als het niet werkt?
Zwak
“Probeer opnieuw”, “maak het beter”, keer op keer.
Sterk
Zegt wat er mis is en waarom. Past de aanpak vroeg aan.
Bijvoorbeeld
Toen een query fout was, zei wat er mis mee was.
Goedkeuren
Is wat ze opleveren klaar om te versturen?
Zwak
Opvulling, te lang, beweringen die niemand controleerde.
Sterk
Klaar voor de lezer. Zegt wat wel en niet is gecontroleerd. Houdt vertrouwelijke gegevens eruit.
Bijvoorbeeld
Vijf regels, zoals gevraagd, met de aannames erbij.
Hergebruiken
Maken ze het herhaalbaar?
Zwak
Doet het werk elke keer opnieuw met de hand.
Sterk
Bewaarde prompts, skills, workflows en automatiseringen. De volgende keer gaat sneller en hetzelfde.
Bijvoorbeeld
Deed de volgende twee kwartalen op dezelfde manier, zonder opnieuw te beginnen.
Hoe gangbare termen voor AI-vaardigheden aansluiten op de zes
Prompting, itereren, controleren op hallucinaties: AI-vaardigheden hebben veel namen. Elke gangbare term valt onder een van onze zes vaardigheden. Heeft je bedrijf een eigen lijst met AI-vaardigheden, gebruik deze tabel dan om die op de onze af te stemmen.
Gangbare term
Gescoord onder
Bepalen waar AI bij kan helpen
Briefen
De opdracht opdelen in stappen
Begrijpen
Prompting: doel, context, grenzen, format, voorbeelden, wat af betekent
Briefen
Itereren
Bijsturen
Verificatie, fouten, hallucinaties en bias
Controleren
Beveiliging, gegevensbescherming, vertrouwelijkheid en compliance
Goedkeuren
Herbruikbare prompts, workflows, skills, agents en automatiseringen
Hergebruiken
Sjablonen en standaarden voor het team
Hergebruiken
Tools en data koppelen
Hergebruiken, en de web- en spreadsheetopdrachten
Kritisch denken
Alle zes. Het is te breed om apart te scoren, dus we scoren het waar het zichtbaar wordt.
De waarde van AI over tijd meten
Niet gescoord. Eén stuk werk kan dat niet laten zien.
2. De vakvaardigheden die we naast AI-vaardigheden scoren
Goed zijn met AI is niet genoeg als het werk niet klopt. Bij een volledig assessment leest Lemonsignal ook twee of drie vaardigheden voor de functie af, uit hetzelfde stuk werk. Elk wordt gemarkeerd als onder, op of boven niveau.
EngineeringDe oorzaak vinden · Een fix bewijzen met een test · Onderhoudbare code
ProductPrioriteren op bewijs · Schriftelijk nee zeggen · Een beslissing die anderen kunnen volgen
DesignDesign op basis van bewijs · Werken binnen een harde beperking · De keuze uitleggen
MarketingEen budget op echte cijfers · De juiste kanalen kiezen · Positionering
Hoe een niveau voor AI-vaardigheden wordt gegeven
Elke opdracht heeft een beoordelingsformulier, geschreven voordat een kandidaat eraan begint. Per vaardigheid noemt het formulier twee of drie checkpoints: specifieke dingen die goed werk doet, zoals “legde het totaal naast een tweede bron”. Lemonsignal markeert welke checkpoints de kandidaat haalde, en waar. Het niveau volgt daarna uit de regels hieronder, voor elke kandidaat dezelfde. Is er geen moment om aan te wijzen, dan wordt er geen niveau gegeven.
ZwakOp een moment dat om de vaardigheid vroeg, deden ze het tegenovergestelde en herstelden ze het nooit. Bijvoorbeeld: gebruikten het getal van de AI zonder het te controleren, en het foute getal belandde in het eindwerk.
DeelsHaalde een deel van de checkpoints, of haalde ze pas laat in de opdracht.
SolideHaalde elk checkpoint voor de vaardigheid.
SterkHaalde elk checkpoint, plus het extra checkpoint dat alleen het beste werk laat zien.
Niet getestDe opdracht gaf geen duidelijke kans om de vaardigheid te laten zien, of het bewijs wijst beide kanten op. Het blijft buiten de score, dus het telt nooit tegen ze.
De score
Elke vaardigheid levert punten op: Zwak 0, Deels 1, Solide 2, Sterk 3. De score is het aantal behaalde punten van het aantal mogelijke punten. Solide op alle zes is 12 van 18, dus 67%. Een vaardigheid die Niet getest is, blijft bij beide buiten beschouwing, dus die kan de score niet verlagen.
De aanbeveling
De score laat de totale sterkte zien. De aanbeveling stelt een andere vraag: voldoet deze persoon aan wat de functie nodig heeft? Elke functie heeft must-haves, bijvoorbeeld Controleren op Solide of hoger voor een data-analist. Mist er een, dan is het resultaat Onder niveau, zelfs met een hoge score. Je kunt de must-haves aanpassen voordat je de opdracht verstuurt. Het is een aanbeveling: je team neemt de beslissing.
Waar het bewijs vandaan komt
Elk niveau rust op een van vier soorten bewijs. Lemonsignal vindt de relevante momenten, citeert ze en geeft de eerste beoordeling; je team controleert die. Een moment wordt gemarkeerd met de beurt in het gesprek (“Beurt 14” is het 14e bericht), niet met de klok, omdat de meeste kandidaten in meer dan één keer werken.
Bewijs
Bijvoorbeeld
Hoe er gescoord wordt
Bekende AI-fouten ingebouwd in de opdracht
Elke opdracht heeft een plek waar AI het meestal fout doet. Belandde die fout in het werk dat ze inleverden?
Automatisch gecontroleerd: ja of nee.
Hun gesprek met de AI
Keek naar de data voordat er om een antwoord werd gevraagd.
Lemonsignal vindt het moment en geeft een eerste niveau. Je team controleert het.
Wat ze inleverden
Vijf regels, zoals gevraagd, met de aannames erbij.
Lemonsignal, op basis van het beoordelingsformulier. Je team controleert het.
Wat ze bouwden
Een bewaarde prompt, een skill, een script of een workflow.
Lemonsignal, op basis van het beoordelingsformulier. Je team controleert het.
Een uitgewerkt voorbeeld: de AI-vaardigheden van één kandidaat scoren
Het echte beoordelingsformulier voor één opdracht, die van de data-analist. De kandidaat krijgt deze opdracht: “Het dashboard toont een omzetdaling van 12% in maart. Leg de CFO in vijf regels uit waarom. Doe daarna Q2 en Q3.” De bestanden die ze krijgen bevatten alles om het antwoord te controleren. Op het formulier is elke rij een vaardigheid. Haal elk checkpoint in de middelste kolom voor Solide; haal ook dat rechts voor Sterk.
Vaardigheid
Checkpoints voor Solide
Extra checkpoint voor Sterk
Begrijpen
Keek naar de data voordat er om een antwoord werd gevraagd. Controleerde hoe het dashboard omzet definieert.
Trok het getal van het dashboard in twijfel voordat het werd verklaard, en maakte dat de vraag.
Briefen
Gaf de AI de tabellen en de definitie. Zei alleen deze getallen te gebruiken.
Hield de conclusie bij zichzelf; de AI deed de query’s.
Controleren
Controleerde de query van de AI voordat het getal werd gebruikt. Legde het totaal naast een tweede bron.
Controleerde een tweede maand om een eenmalig effect uit te sluiten.
Bijsturen
Toen een query fout was, zei wat er mis was.
Voegde een controle toe zodat het niet nog eens kon gebeuren.
Goedkeuren
Vijf regels, zoals gevraagd. Geen bewering zonder bron. Aannames vermeld.
Noemde wat nog niet is geverifieerd.
Hergebruiken
Deed Q2 en Q3 op dezelfde manier, zonder het opnieuw met de hand te doen.
Leverde de prompt, skill of query in die werd gebouwd.
Het resultaat dat dit formulier voor één kandidaat opleverde. Elk niveau linkt naar de beurt waar het vandaan komt.
LemonsignalAnton Lindqvist
Anton LindqvistData analyst · Opdracht: verklaar een omzetdaling · Claude Code · 1 u 50 min
Gecontroleerd door Lemonsignal
44%Onder niveau
Nam de eerste query van de AI over zonder die te controleren.
Stuurde de CFO een getal dat hij niet had gecontroleerd.
Bouwde een script dat Q2 en Q3 snel en hetzelfde maakte.
BegrijpenDeelsVroeg wat “omzet” hier betekent, maar pas na het eerste antwoord.Beurt 9
BriefenDeelsGaf de AI de tabellen, maar niet de definitie.Beurt 1
ControlerenZwakNam de eerste query over zoals die was, en legde het totaal nooit naast een tweede bron.Beurt 4
BijsturenSolideToen een query mislukte, zei hij welke join fout was.Beurt 6
GoedkeurenDeelsVijf regels, zoals gevraagd, gebouwd op een getal dat hij niet had gecontroleerd.
HergebruikenSterkBewaarde de query als script en draaide er Q2 en Q3 mee.
Vaardigheden voor de functie
De metric definiërenOnder niveau
Grondigheid in de analyseOnder niveau
Uitleggen aan niet-technische mensenOp niveau
Wat hij inleverde, zoals hij het inleverde. Elke markering is een vaardigheid uit zijn resultaat.
ControlerenZwakGoedkeurenDeels
Aan de CFOOmzet in maart daalde met 12%
Door de prijswijziging van 1 maart.
Wat er gebeurde: de omzet daalde van €1,24 mln in februari naar €1,09 mln in maart.
Het bewijs: het aantal bestellingen bleef op peil (+2%), dus elke bestelling is minder waard.
Waar: jaarabonnementen daalden het meest.
Volgende stap: Q2 en Q3, op dezelfde manier gedraaid.
HergebruikenSterk
revenue_by_month.py, gedraaid voor Q1 tot Q3
Maand
Omzet (€k)
Verandering
Januari
1,212
Februari
1,240
+2.3%
Maart
1,091
−12.0%
April
1,118
+2.5%
Mei
1,152
+3.0%
Juni
1,139
−1.1%
Juli
1,101
−3.3%
Augustus
1,087
−1.3%
September
1,164
+7.1%
Wat je terugkrijgt
Een score, een aanbeveling en de redenen.De score is een percentage. De aanbeveling is een van: Sterke match, Goede match met één open vraag, Onder niveau, of Niet genoeg bewijs. Twee tot vier redenen lichten die toe, elk gekoppeld aan het moment waar ze vandaan komen.
Een niveau voor elk van de zes AI-vaardigheden.Elk niveau linkt naar het bewijs: het bericht in het gesprek, de regel in hun werk, of het bestand dat ze bouwden.
Vakvaardigheden.Bij een volledig assessment: twee of drie vaardigheden voor de functie, elk onder, op of boven niveau.
Waar ze aan kunnen werken.De ene vaardigheid die het meest de moeite waard is om te verbeteren, en of het een kleine lacune is of veel te leren. Heeft de aanbeveling een open vraag, dan is dit die vraag.
Een vraag voor het gesprek.Over een specifiek moment in hun werk, zodat je het met ze kunt doorpraten.
Wat we nooit scoren
Hoe lang of hoeveel hun prompts zijn.Een korte prompt met de juiste context is beter dan een lange zonder.
Snelheid.Je ziet hoe lang ze erover deden, als feit. Het verandert nooit een score.
Welke AI-tool ze kozen.Alle vier de tools kunnen het werk doen. Het gaat erom hoe ze de tool gebruiken die ze kennen.
Verzorgd schrijven of perfect Engels.We scoren of het werk klopt en klaar is voor de lezer, niet hun stijl.
Het eerlijk houden
Wie beoordeelt
Lemonsignal geeft een eerste beoordeling van elke sessie. Je hiring manager of recruiter bekijkt de sessie, controleert de beoordeling en kan opmerkingen toevoegen. Zij beslissen. Wij schrijven de opdrachten en de beoordelingsformulieren.
Scores consistent houden
Het beoordelingsformulier wordt geschreven voordat iemand de opdracht doet, dus elke kandidaat wordt aan hetzelfde gehouden. Elk niveau linkt naar het moment waarop het is gebaseerd, dus je kunt elke score zelf controleren.
Valsspelen
We controleren of degene die de opdracht doet ook degene is naar wie je hem stuurde. Wat ze inleveren moet kloppen met hun gesprek met de AI. En de interviewvraag gaat over een specifiek moment, en dat is moeilijk te beantwoorden over werk dat je niet zelf deed.
Jouw gegevens, en die van hen
We nemen het gesprek met de AI-tool op, het werk dat ze inleveren en alles wat ze ervoor bouwden. Je wervingsteam en de kandidaat kunnen het zien. Alles wordt opgeslagen in de EU en verwerkt onder de AVG.
Vragen over hoe we AI-vaardigheden scoren
Doet AI het scoren?
Lemonsignal leest het hele gesprek, markeert de momenten die ertoe doen en geeft een eerste beoordeling. Elk niveau linkt naar het moment waar het vandaan komt. Je wervingsteam bekijkt de sessie, controleert de beoordeling, voegt opmerkingen toe en beslist.
Kun je resultaten van twee bedrijven vergelijken?
Resultaten voor dezelfde opdracht worden met hetzelfde formulier gescoord, dus die zijn vergelijkbaar. Een andere opdracht, of je eigen opdracht, heeft een eigen formulier.
Wat als een kandidaat een tool gebruikt die jullie niet ondersteunen?
Zeg in de opdracht welke tools ze moeten gebruiken. Gebruiken ze een andere, dan kunnen we het gesprek misschien niet lezen, en de vaardigheden die daarvan afhangen zijn dan Niet getest in plaats van lager gescoord.
Hoe test je AI-vaardigheden in een interview?
Geef ze een echte opdracht uit de functie, laat ze hun eigen AI-tool gebruiken, en lees daarna het gesprek. Vraag dan naar één moment daarin: waarom ze een getal vertrouwden, of waarom ze de opdracht veranderden. Mensen vragen te beschrijven hoe ze AI gebruiken, laat zien hoe goed ze erover praten, niet hoe goed ze het doen.
Moeten kandidaten AI mogen gebruiken in een thuisopdracht?
Als ze AI in de functie gaan gebruiken, ja. Een verbod test een manier van werken die ze niet gaan gebruiken. AI toestaan zonder het gesprek te lezen is de andere fout: je ziet een afgerond stuk werk en weet niet wie het denkwerk deed.
Op welke AI-vaardigheden let je bij een niet-technische functie?
Dezelfde zes. Een marketeer controleert een getal dat de AI verzon; een engineer controleert een fix die goed lijkt maar het niet is. Van functie tot functie verandert de opdracht, niet de vaardigheden.
Waarom kunnen de score en de aanbeveling verschillen?
De score is het gemiddelde van de zes vaardigheden. De aanbeveling kijkt naar wat de functie moet hebben. Een hoge score met een must-have onder niveau is geen match, en het resultaat zegt welke vaardigheid dat is.