AI gedachten | thoughts

Steeds meer menselijke taken worden door technologie overgenomen – maar wat zegt dat over ons?

De Britse antropoloog Richard Wrangham stelt dat we pas ‘mens’ konden worden toen we genoeg calorieën binnen konden krijgen om die bizar grote hersenen van energie te voorzien. Met rauw voedsel lukt dat gewoon niet, berekende hij. Dus pas toen we leerden koken, konden we ook mens worden.

Of hij daar nu helemaal gelijk in heeft of niet, veel onderdelen van het bereiden van maaltijden zijn steeds verder uitbesteed – aan andere mensen én aan technologie. Lang niet iedereen bakt nog zijn eigen brood, bijna niemand verbouwt zijn eigen graan of slacht zijn eigen varken.

De groei in de omzet van maaltijdbezorgers zet door en in de VS zijn er al appartementen zonder keuken, maar dat uitbesteden gaat niet oneindig door. Sterker nog: het aantal mensen dat zelf kookt is sinds 2003 gestegen, zelfs in de VS. Wel zo verstandig: het is aantoonbaar gezonder, het is ook vaak goedkoper en meestal smakelijker. (Het merk Maggi speelde al jaren geleden in op de schaamte voor “pakjes en zakjes” met hun reclameslogan “een beetje van mezelf en een beetje van Maggi”.)

Verhalen vertellen

Het andere wezenlijke kenmerk van mensen is taal: het kunnen spreken en luisteren. Ook die vaardigheid hebben we deels aan technologie uitbesteed. Lezen en schrijven stellen je in staat om te ‘spreken’ met mensen die niet hier zijn of die nog niet eens bestaan. Socrates was in Phaedrus niet erg positief over die vaardigheid.

Socrates: mensen worden er lui van, ze lijken wijs te zijn maar ze zijn het niet. Boeken praten niet terug.

“… jij, de vader van letters, wordt geleid door je bewondering zodat je ze een kracht toedicht die precies het tegengestelde is van wat ze werkelijk hebben. Want deze uitvinding produceert vergeetachtigheid bij degenene die ze gebruiken: ze oefenen hun geheugen niet meer. Ze vertrouwen op teksten die door anderen buiten henzelf geschreven zijn, en worden ontmoedigd om hun eigen geheugen te gebruiken. Je hebt geen toverdrank voor geheugen uitgevonden maar voor herinnering; en je geeft je leerlingen de indruk van wijsheid maar niet wijsheid zelf, want ze zullen veel dingen lezen zonder goede aanwijzingen en zullen daarom veel dingen lijken te weten, maar ze zijn vooral onwetend en lastig om mee om te gaan, want ze zijn niet wijs, ze lijken het slechts.” (historyofinformation.com, eigen vertaling)

We hoeven in zijn rant maar een paar woorden te veranderen en het leest als een hedendaagse kritiek op LLM’s. Overigens: Socrates vond dat lezen en schrijven wél nuttig was voor administratieve doelen, zoals het vastleggen van wetten of contracten. Het pleit was nog niet helemaal beslecht: het Parijse schrijversgilde heeft in 1476 de eerste drukpers vernietigd en daarna jarenlang de komst van de drukpers weten tegen te houden.

Het uitbesteden van denken

Het uitbesteden van voedsel maken, of verhalen onthouden en vertellen is nog tot daar aan toe. Maar dénken, dat komt wel heel erg dichtbij. De psychotherapie chatbot Eliza zou je nog als een ongevaarlijke (maar interessante) grap kunnen beschouwen, bij zoiets nobels als schaken zou de mens toch altijd wel superieur blijven? “Hold my beer”, zei Feng-hsiung Hsu, en maakte de schaakcomputer Deep Blue, die  in een zinderende match de toenmalige wereldkampioen schaken (Gary Kasparov) in 1997 wist te verslaan. Het nog veel moeilijker geachte spel Go werd binnen 20 jaar ook veroverd.

Fun fact: zowel Deep Blue als AlphaGo leken af en toe supermenselijk

In één van de wedstrijden kwam Deep Blue bij zet 44 een bug tegen waardoor hij in een eindeloze lus dreigde te komen. Het programma koos toen een willekeurige zet. Kasparov was hierdoor zó verrast dat hij zich afvroeg of het een vergissing was, of juist een super briljante zet die hij niet doorzag. Er wordt gezegd dat hij hierdoor zodanig uit balans was dat hij daarna verloor, alhoewel hij dat zelf ontkent. In de match met AlphaGo gebeurde iets soortgelijks: zet 78 was totaal onverwachts. Maar dit was geen bug. AlphaGo had een taktiek gevonden die niemand nog had verzonnen.

En nu hebben we Generatieve AI die het formuleren en interpreteren van tekst automatiseert. Gaan we niet te ver? Raken we ons mens-zijn niet kwijt als we dit grootschalig gaan uitbesteden?

Large Language Models, de motors in AI chatbots, kunnen rekenen met woorden: we hebben taal en rekenen bij elkaar gebracht. Rekenen hadden we al eerder uitbesteed. Toen de rekenmachine werd ingevoerd waren er vergelijkbare reacties. “Ze kunnen niet meer hoofdrekenen!” was de verzuchting van volwassenen als een jeugdige kassamedewerker moeite had met het wisselgeld.

Worden we dommer?

In de jaren 70-80 was er discussie over het gebruik van tekstverwerkers en spellchecking – dat zou het vermogen tot kritisch denken aantasten. Dat je zomaar een stuk tekst kon weghalen of verplaatsen zou leiden tot slecht gestructureerde teksten. Het is goed denkbaar dat dit inderdaad het geval is. Voor zowel lezen, schrijven als rekenen (wiskunde) is de trend namelijk helemaal niet goed.

Voor het gebruik van Generatieve AI is er het onderzoek van Cornell University, waarin ‘brain rot’ daadwerkelijk wordt gemeten en de term ‘cognitieve schuld’ wordt geïntroduceerd: je stelt het echte en diepe denken nog even uit en accepteert kritiekloos de uitkomst van een Generative AI assistent.

Of het experiment helemaal overtuigend is, kun je je afvragen. Dezelfde taak doen met automatisering is natuurlijk veel minder inspannend. Maar je kunt mét hulpmiddelen andere (moeilijkere) taken oppakken die meer denkwerk vereisen, zoals in een interessante reactie wordt aangegeven. Excel gebruiken om het wisselgeld bij de kassa te controleren is gemakzuchtig (of overdreven), maar Excel gebruiken om zelf je hypotheek na te rekenen is legitiem. Zo kun je ook betogen dat je mét hulp van AI niet hetzelfde doet (maar dan sneller), maar in plaats daarvan grotere, complexere en meer uitdagende klussen oppakt.

Maar als de taken die je mét hulpmiddelen uitvoert niet heel veel moeilijker zijn, dan leidt het gebruik ervan zeker tot een bepaald soort ‘brain rot’. Door de introductie van navigatieapps zijn we bij mijn weten niet echt moeilijkere reizen gaan ondernemen, dus echt nodig waren die apps niet. Gevolg is wel: kaartlezen en de weg vragen zijn nu toch echt uitstervende vaardigheden. En wat te denken van datingapps?

Verschuivende acceptatie

Tot in het parlement aan toe zijn er zorgen: wat als kinderen niet meer Googelen, en alleen nog maar vragen aan Chat stellen? Nou, 25 jaar geleden was de zorg dat kinderen alleen maar Googelden en hun kennis niet meer uit echte boeken haalden. En 2500 jaar geleden had Socrates over die boeken al zijn twijfels.

De grote vraag is natuurlijk of het met AI echt anders is. Is er nog redding mogelijk, nadat we broodmaken aan de bakker hebben uitbesteed, verhalen vertellen aan boeken hebben overgelaten, en rekenen door computers laten doen?

Blijf kritisch!

Er is een kans dat we met AI echt het einde van de mensheid hebben ingeluid, en er is een kans dat we juist een gouden toekomst tegemoet gaan – zelfs de slimste hoogleraren weten het niet. Het zal er wel weer tussenin liggen. Wat besteden we uit, wat niet?

We hadden er een covid-pandemie voor nodig om broodbakken weer populair te maken. Er worden meer verhalen verteld dan ooit – als je tenminste Netflix meerekent. De rekenmachine-discussie is afgerond: voor rekenen hebben we schattend rekenen ingevoerd, zodat je rare uitkomsten (als gevolg van invoerfouten) kunt herkennen.

AI-chatbots veranderen continu. Best onhandig, want elke update brengt nieuwe soorten hallucinaties (‘rekenfouten’) met zich mee die je weer moet zien te herkennen. Onze maatschappij heeft daardoor nog niet de kans gehad om goed om te leren gaan met de mogelijkheden van AI. Kritisch denken blijft essentieel, overigens ook in situaties waarin we niet met AI-gegenereerde teksten worden geconfronteerd.

Bij informatieverwerking wordt vaak onderscheid gemaakt tussen gegevens, informatie, kennis en wijsheid. We hebben het omgaan met gegevens succesvol uitbesteed (rekenmachines, boeken), nu hebben we het omgaan met informatie en kennis ook uitbesteed (internet, chatbots). Wat overblijft is de wijsheid. Die moeten we niet uitbesteden, zodat we de juiste keuzes kunnen maken. We kunnen ervoor kiezen om onze vaardigheden te onderhouden: brood bakken, een verhaal vertellen, een volledig artikel kritisch lezen. Wanneer wil je echt ergens moeite voor doen? Wanneer zet je je eigen mens-zijn in om iets te bereiken? Zo lang de keus tussen zelf doen en uitbesteden er is én we ook geleerd hebben om die keuzes met wijsheid te maken, laat dat einde van de mensheid nog wel even op zich wachten.