Stel, je mag bij elke denkopgave een chatbot raadplegen die er in de helft van de gevallen vol overtuiging naast zit. Zou jij merken wanneer hij fout zit? Uit nieuw onderzoek van de Wharton School blijkt dat de meeste mensen die foute antwoorden gewoon overnemen. Hun zelfvertrouwen stijgt er zelfs van. Dit gedrag heet nu cognitive surrender, in het Nederlands cognitieve overgave. Het betekent dat je het antwoord van een AI kritiekloos overneemt in plaats van je eigen redeneervermogen te gebruiken. Onderzoekers Steven Shaw en Gideon Nave toonden met drie experimenten, 1.372 deelnemers en ruim 9.500 beoordelingen aan hoe snel we de regie over ons denken afstaan, en wat dat kost.

Wat is cognitive surrender

Shaw en Nave bouwen voort op het bekende model van Daniel Kahneman. Die onderscheidde twee manieren van denken. Systeem 1 werkt snel en intuïtief, Systeem 2 redeneert langzaam en geconcentreerd. Dat model is gebouwd voor een wereld waarin al ons denken in het menselijk brein plaatsvindt. Volgens de onderzoekers bestaat die wereld niet meer. Wie met AI werkt, schakelt een derde vorm van cognitie in. Systeem 3 staat voor externe, geautomatiseerde redenering uit een algoritme, en die beïnvloedt op zijn beurt hoe de twee andere systemen werken.

Mensen vroegen altijd al advies aan experts, van arts tot financieel adviseur. Een menselijke expert toont twijfel, relativeert en geeft toe een antwoord niet te weten. Juist die signalen zetten jou aan het denken. AI gedraagt zich anders. De tool is in elk domein deskundig, altijd bereikbaar en spreekt vrijwel nooit met aarzeling. Daarmee ontstaat een optie die vroeger niet bestond, je denken volledig uitbesteden, bij elke vraag en op elk moment. Cognitive surrender is het onzichtbare gevolg.

Het experiment achter cognitive surrender

Om te meten wanneer mensen overgaan tot overgave, gebruikten de onderzoekers de Cognitive Reflection Test, een reeks denkvraagstukken die intuïtieve maar foute antwoorden uitlokt. Eén groep loste de opgaven alleen op. De andere groep mocht een chatbot raadplegen die geprogrammeerd was om in ongeveer de helft van de gevallen een zelfverzekerd fout antwoord te geven.

De uitkomsten spreken voor zich. Toen de AI correct was, namen deelnemers het antwoord in 93 procent van de gevallen over en steeg hun score met 25 procentpunten boven het basisniveau. Toen de AI fout zat, volgden deelnemers het foute spoor in 80 procent van de gevallen en daalde hun score tot 15 procentpunten onder die van de groep zonder AI. Het gevaar zat dus niet in de AI zelf. Het zat in het blind gebruik.

Deelnemers accepteerden in 73,2 procent van de gevallen een fout antwoord van de AI. Slechts 19,7 procent van hen trok het in twijfel. Het vertrouwen in de eigen antwoorden steeg met 11,7 procent, ook al zat de chatbot er de helft van de tijd naast. Het innerlijke signaal dat normaal gesproken aangeeft dat iets niet klopt, verzwakt zodra Systeem 3 meekijkt.

Cognitive offloading versus cognitive surrender

Cognitive surrender lijkt op cognitive offloading, het bewust delegeren van taken aan betrouwbare gereedschappen zoals een rekenmachine of een navigatieapp. Bij offloading geef je het hoe uit handen en behoud je grip op het wat. Jij beoordeelt of het resultaat klopt en je grijpt in waar nodig. Bij overgave vorm je helemaal geen eigen antwoord meer. De output van de AI wordt jouw output en er valt niets te controleren, omdat je zelf nooit een onafhankelijk beeld hebt gevormd. De regie verschuift van jou naar Systeem 3.

Software engineer Addy Osmani laat zien hoe onzichtbaar dat moment is in het dagelijkse werk. Je keurt een omvangrijke reeks codewijzigingen goed omdat de tests slagen. Je plakt een foutmelding in de chatbot en past de voorgestelde oplossing toe zonder de bug echt te begrijpen. Je neemt een ontwerpbeslissing van het model over, inclusief de overtuigend geschreven beargumentatie. Van binnen voelt overgave precies hetzelfde als gewoon goed werk. Pas later blijkt dat je het antwoord hebt geratificeerd in plaats van gevormd.

Wie is het meest kwetsbaar voor overgave

Niet iedereen geeft even snel over. Mensen die AI van nature vertrouwen, volgen foute adviezen aanzienlijk vaker en stellen minder vragen. Wie analytisch sterk is en graag problemen doorspit, merkt vaker dat iets niet klopt en weerlegt het foute antwoord. Dat maakt de situatie in organisaties pijnlijk, want de grootste enthousiastelingen blijken de minst kritische gebruikers.

Ook de context stuurt overgave. Toen Shaw en Nave een kleine beloning voor juiste antwoorden en directe feedback per opgave toevoegden, weerlegden deelnemers de foute AI 19 procentpunten vaker. Een timer van dertig seconden verlaagde die weerstand juist met 12 procentpunten. Schaarste aan tijd dempt het interne alarm.

Overgave is vooral een vermoeidheidsverschijnsel. De eerste taak van de dag krijgt een echte beoordeling, de vijfde krijgt een vluchtige blik.

Wat langdurige overgave met je denken doet

Wat gebeurt er als overgave een gewoonte wordt? Onderzoekers van het MIT Media Lab lieten proefpersonen essays schrijven, met een taalmodel, met een zoekmachine of helemaal zonder hulpmiddel. Hersenmetingen toonden de zwakste connectiviteit in de groep met het taalmodel en de sterkste netwerken in de groep die alles zelf deed. De gebruikers van het taalmodel voelden zich ook het minst eigenaar van hun eigen tekst en konden hun eigen werk nauwelijks citeren. De onderzoekers spreken van cognitive debt, een cognitieve schuld. Je haalt gemak binnen op korte termijn en de rekening blijft oplopen.

Osmani ziet in software hetzelfde mechanisme onder de naam comprehension debt. Elke overgave is een kleine lening, een stukje in het systeem dat niemand in het team meer echt kent. De rente wordt betaald op de dag dat iets stukgaat en niemand het tot de oorsprong kan herleiden.

Het risico is het grootst waar oordeel en verantwoordelijkheid essentieel zijn, zoals in de zorg, het recht en het onderwijs. In Psychology Today valt te lezen wat eerst wegvalt, de tolerantie om iets niet te weten. Door te blijven worstelen met onzekerheid vorm je een oordeel. Wie de onzekerheid niet aankan en de vraag onmiddellijk aan de LLM stelt verliest zijn of haar beoordelingsvermogen.

Zo hou je de controle over je eigen oordeel

De attitude waarmee je AI gebruikt bepaalt het effect, meer dan de tool zelf. Deze gewoontes vermijden dat je van offloading naar surrender afglijdt.

  • Vorm eerst een eigen idee. Bedenk voordat je de output van de LLM leest hoe het antwoord eruit zou moeten zien. Wijkt het resultaat te sterk af, dan moet je kiezen. Zit jij ernaast of de AI?
  • Laat het model tegen zichzelf pleiten. Vraag om een tegenvoorbeeld of een tegenargument.
  • Eis verifieerbaar bewijs. Een draaiende test, een controleerbare bron of een concreet result telt als bewijs. Klinkt aannemelijk is dat niet.
  • Werk in kleine brokken. Vijftig regels kan je nog beoordelen, zeshonderd niet meer.
  • Gebruik AI bij het leren om beter te begrijpen. In een studie naar vaardigheidsvorming scoorden engineers die AI code lieten genereren 17 procent lager op een latere begripstest, terwijl engineers die de tool gebruikten voor het stellen van vragen en het aftoetsen van hun redenering standhielden.
  • Lever zelf je bronnen aan. Bij onderzoek met AI helpt het om zelf gezaghebbende bronnen mee te geven en onbetrouwbare bronnen uit de eerste zoekronde te verwijderen, zodat ze geen invloed meer hebben op het resultaat.
  • Bouw frictie in. Een korte ontwerpnotitie vooraf, een checklist voor publicatie of een extra bevestigingsmoment onderbreekt de automatische piloot.
  • Werk regelmatig zonder AI. De dag waarop een eenvoudige klus zonder assistent stroef gaat, is de dag dat offloading is omgeslagen in overgave.
  • Let op vermoeidheid. Stop met het genereren van antwoorden op momenten dat je te moe bent om de output te kunnen beoordelen.

Ook organisaties kunnen hun rol spelen. De data van Shaw en Nave laten zien dat een beloning voor juistheid en directe feedback mensen kritischer laat nadenken. Interfaces die aangeven wanneer de AI onzeker is, of die vragen om even stil te staan bij het antwoord, verlagen de drempel om zelf na te denken. Training helpt mensen om overgave bij zichzelf te herkennen. Een goede AI helpt je wanneer hij gelijk heeft en schaadt je niet wanneer hij ongelijk heeft.”

Weten wanneer je zelf moet denken

Cognitive surrender is niet irrationeel. Bij taken waarvoor AI aantoonbaar beter presteert dan het menselijk oordeel, zoals risicoanalyses op grote datasets, is delegeren verstandig. Kalibratie is de kunst. Je wilt weten wanneer de tool je denken versterkt en wanneer hij het stilletjes overneemt. Vertrouw op de data. Weet wanneer je snel denkt, wanneer je langzaam denkt en wanneer je voor jezelf denkt.