Alles wat AI doet, is statistische patroonvertaling en kansberekening.


1. Beeld van AI vaak verkeerd.
2. Kunstmatige intelligentie biedt nauwelijks winst.
3. Kunnen we ooit weten of AI bewust is?

1. Beeld van AI vaak verkeerd
NEMO Kennislink, 31-08-2023, door Shannon Bakker
Vraaggesprek over KI met Siri Beerends en Pim Haselager

"Ik onderscheidde verschillende woorden, zonder ze tot nu toe te kunnen begrijpen of toe te passen, zoals goed, liefste, ongelukkig." Dit is geen poëtische beschrijving van hoe ChatGPT of een andere robot taal leerde. Aan het woord is het monster uit Mary Shelley's klassieke boek Frankenstein. Het monster van Frankenstein beseft, net als ChatGPT, niet wat woorden voor mensen betekenen.

Maar dit is ook waar de vergelijking tussen het monster en ChatGPT zo ongeveer ophoudt. Het monster van Frankenstein keert zich uiteindelijk tegen zijn maker. Literaire en filmopvolgers van dit monster zijn er in overvloed en de monsters in kwestie zijn bijna altijd intelligente robots. Denk aan de Terminator in de vorm van Arnold Schwarzenegger op een motor met een machinegeweer. De robot vormt in films steeds een gevaar voor zijn makers. Dit voedt de angst voor wat de 'slimme' AI-robots die nu worden ontwikkeld, misschien wel met de mensheid gaan doen.

Wat AI niet is.

AI is geen monster
Techniekfilosoof Pim Haselager van de Radboud Universiteit Nijmegen ziet alleen geen enkele aanwijzing dat AI in de echte wereld een monster wordt dat zijn maker uitroeit. Haselager legt uit dat AI-systemen, zoals ChatGPT, weliswaar superslim zijn geworden, maar als het gaat om beleving, om beseffen wat een woord als 'ongelukkig' betekent, laat staan om bewustzijn, dan staan AI-systemen nog op nul.
"Er zit evenveel besef of beleving in de slimste computer die we nu hebben, als in jouw of mijn koelkast: namelijk geen. Een koelkast zegt niet: 'Ik heb het helemaal gehad met koelen, ik ga barbecueën, dat lijkt me leuker.' Dat soort zelfbewustzijn zit gewoon niet in die systemen, niet in je koelkast en niet in een AI-systeem." En dus is Haselager er ook niet bang voor dat computers opeens de macht grijpen. "Als je de macht grijpt, wil je daar iets mee, maar het begin van een wil ontbreekt bij AI."

Monters alleen in boeken en films…
De reden dat de Terminator en andere robots toch steeds terugkomen in het debat over AI is dat het Frankenstein-script onderdeel is van onze cultuur, stelt cultuursocioloog Siri Beerends. De promovenda doet aan de Universiteit Twente onderzoek naar authenticiteit en de maatschappelijke impact van AI. "Het is een klassiek en populair uitgangspunt dat wordt gevoed door films en boeken. Iedereen kent het verhaal van de maker die wordt vernietigd door zijn creatie en dat maakt het ook makkelijk om vanuit dat oogpunt de discussie over AI te voeren."

… en techbedrijven
Niet alleen films en boeken maken ons bang voor vernietigende robots. In open brieven waarschuwen techfiguren als Elon Musk en de ontwikkelaars van ChatGPT voor robots die de mensheid overnemen. Die brieven zijn volgens Haselager afleidend van de feitelijke risico's die er wél zijn. "Er wordt ook wel gedacht dat techfiguren dit expres doen. Het gaat in waarschuwingsbrieven over de Terminator, zodat we niet praten over wat er dringend gereguleerd moet worden, namelijk de maatschappelijke impact van AI nu. Dat geven de techbedrijven vaak liever niet uit handen."

Zorgen over AI zijn dan ook niet onterecht, vindt Haselager. "Ik ben alleen niet bang voor de superslimme robot uit de film, ik ben bang voor de schade die wij onszelf toedienen via AI. Er zijn nu al AI-systemen die gaan over je hypotheek, over je mogelijke fraude bij een uitkering, over wat op sociale media in jouw tijdlijn verschijnt en over wiens gezicht je op Tinder te zien krijgt. We geven heel belangrijke beslissingen, die gaan van onze financiën tot ons liefdesleven, uit handen, zonder dat we er goed over nadenken.
Dát zorgt ervoor dat er brokken worden gemaakt."

De juiste zorgen
Beerends wijst op de brokken van de toeslagenaffaire in Nederland, waarin algoritmen een kwalijke rol speelden en op een algoritme in Australië dat tussen 2015 en 2019 een half miljoen mensen ten onrechte als fraudeur bestempelde. Mensen kregen schulden van soms wel tienduizenden euro's. Het dreef een deel van de slachtoffers tot wanhoop. "Om dit soort zaken te voorkomen blijft menselijke controle altijd nodig. Je kunt dit soort beslissingen niet automatiseren. Dat kan gewoon niet."

Volgens Haselager is het belangrijk om goed naar de risico's van AI te kijken en je voor te bereiden op toekomstige problemen. "We hebben als mens de gewoonte om laat in te grijpen bij technologie-ontwikkelingen. Kijk naar de auto. Dat was natuurlijk allemaal fantastisch en briljant, maar we hebben het ook behoorlijk uit de hand laten lopen qua luchtverontreiniging, files en veiligheid. In de jaren zeventig was het door auto's echt gevaarlijk om door een stad als Amsterdam te fietsen. Het is vanuit mijn perspectief dus goed dat we ons nu zorgen maken over AI. Je moet je dan wel zorgen maken over het juiste én dat is moeilijk. Goed geïnformeerde zorgen zijn nuttig en nodig. Kennisloze angst is een slechte raadgever – daar hebben we niks aan."

De mens als de máker staat centraal
Het debat over AI moet dus weg van de sciencefiction. Een manier waarop Beerends dit probeert, is met medialab SETUP (zie artikel hieronder). Dat ontwikkelde bijvoorbeeld betere stockfoto's voor AI. "Geen menselijk brein met énen en nullen erin, zoals we nu vaak zien. Dat plaatje suggereert namelijk dat kunstmatige intelligentie en menselijke intelligentie op elkaar lijken, terwijl dat niet zo is. In plaats daarvan hebben we een fysieke verbeelding gemaakt van een neuraal netwerk."



De nieuwe stockfoto van AI, gemaakt door SETUP. Hiervoor is een schematische weergave van een neuraal netwerk nagebouwd. De mens als maker staat hierin centraal en legt hiertussen de verbindingen. In het beeld zit een knipoog naar de Vitruviusman van Leonardo da Vinci, het symbool van het humanisme, waarin de mens het middelpunt van dit universum is.
Veel AI-toepassingen, zoals ChatGPT, werken op basis van zo'n kunstmatig neuraal netwerk. Dat is een systeem waarin heel veel kansberekeningen tegelijk en achter elkaar worden gemaakt en dat is hoe er wordt 'geleerd'.

AI geen natuurkracht
Centraal in de stockfoto van SETUP staat de mens, want ook de mens ontbreekt nu volgens Beerends in stockfoto's over technologie. "Te vaak zien we een glanzende witte, op een mens lijkende robot voorbijkomen in foto's over AI. Dat maakt het heel futuristisch, terwijl AI er zo helemaal niet uitziet.
Het zit nu al in je Google Maps en je Instagram-feed. Het ontstaat ook niet vanzelf. Het is belangrijk dat we door betere stockbeelden gaan beseffen dat AI geen natuurkracht is die buiten onszelf staat, maar door ménsen wordt gemaakt, gevoed en getraind."


2. Kunstmatige intelligentie biedt nauwelijks winst.
De grote beloften vanuit de AI-industrie worden nauwelijks waargemaakt, ziet cultuursocioloog Siri Beerends (SB).
Binnenlands Bestuur, 29 mei 2023, vraaggesprek met Marjolein van Trigt (BB)

Rondom kunstmatige intelligentie (AI) vindt enorm veel hypevorming plaats, waarschuwt cultuursocioloog Siri Beerends. Dat wil niet zeggen dat we het kunnen afdoen als een hype. Integendeel: "Door de hype wordt het een alledaagse realiteit, waar we mee moeten leren omgaan."

Geen roepende in de woestijn meer
Cultuursocioloog Siri Beerends, werkzaam bij SETUP, heeft het druk. Haar kritische blik op technologische ontwikkelingen vormt een welkom tegenwicht voor Alexander Klöpping en consorten. Sinds de komst van ChatGPT staat de telefoon helemaal niet meer stil. Voorgoed voorbij is de tijd dat ze zich een roepende in de woestijn voelde.

BB Wat doet een cultuursocioloog precies?
SB Ik kijk met een cultuursociologische blik naar techniek. Onderwerpen als digitalisering, automatisering en kunstmatige intelligentie duid ik meer vanuit cultuur. In de producten die techbedrijven ontwerpen en op de markt brengen, zit een impliciet mensbeeld ingebakken. Ik vind het belangrijk om te laten zien, hoe dat ons denken en handelen met technologie bepaalt en wie daarvan profiteren.

Mens als optelsom van datapunten
Het heersende mensbeeld in Silicon Valley, de bakermat van de kunstmatige intelligentie, stamt nog uit de tijd van het behaviorisme, dat de mens beschouwt als een stimulus-response machine(!).

Beerends: "Techbedrijven zien de mens als een optelsom van datapunten, die je kunt sturen en manipuleren. Daar komt ook het idee vandaan, dat je in computers de mens kunt nabouwen of menselijke intelligentie kunt imiteren. Eigenlijk gaat het al mis bij de term 'kunstmatige intelligentie'. Die roept verwachtingen en gevoelens op die niet aansluiten bij wat een computer kan.
Intelligentie is veel meer dan een statistische patroonvertaling en kansberekening, maar dat is in feite alles wat AI doet."

BB Hoe zou kunstmatige intelligentie beter kunnen heten?
SB Ik vind statistics on steroids mooi. AI is een krachtige vorm van statistiek. Dat is niet onschuldig of ongevaarlijk, al zijn die gevaren heel anders dan nu in het AI-debat vaak geschetst wordt.

Open brief beïnvloedt toon debat
Beïnvloed door big tech gaat de discussie niet zozeer over wat kunstmatige intelligentie nu kan, maar vooral over de angst voor een kunstmatige superintelligentie die zich tegen de mensheid keert. De open brief waarin een groot aantal techprominenten pleit voor een pauze in de ontwikkeling van AI, omdat het allemaal wel erg snel zou gaan, heeft veel invloed op de toon van het debat.
Beerends: "Met het idee dat AI er is om de mens te verslaan of te vervangen, zitten we echt op het verkeerde pad(!). Het betere alternatief, waar men op hoopt en waar ook met de AI Act op wordt ingezet, is een goede samenwerking met AI. Maar ik denk dat we ook daar veel te rooskleurig naar kijken. Alsnog wordt AI erdoorheen geduwd, terwijl het in de praktijk helemaal niet kan voldoen aan de hoge beloften."

Hulpje van AI
De belofte van AI is in de eerste plaats dat het mensen tijd bespaart. Doordat AI de repetitieve taken overneemt, zouden mensen zich met echt belangrijke dingen kunnen bezighouden, zoals de menselijke maat in de context van de overheid. Dat blijkt nogal eens tegen te vallen.
Beerends: "In synthetische biologielabs bleek de tijdsbesparing voor wetenschappers niet op te gaan, omdat ze meer tijd kwijt waren aan het machine-leesbaar maken van informatie, die uiteindelijk weinig opleverde. Het ging ten koste van het ontwikkelen van nieuwe hypotheses, terwijl daar de echte innovatie zit."

BB Techoptimisten zullen zeggen dat zo'n situatie tijdelijk is en dat AI de samenleving op de langere termijn wel degelijk veel oplevert. Is dat niet zo?
SB Die worst wordt ons al heel lang voorgehouden. In specifieke contexten kan het zo zijn, maar vaker is het niet het geval. Veel werk wordt onder invloed van AI juist repetitiever, omdat mensen het werk van machines moeten trainen, voeden of controleren. Bovendien zijn we als mensen geneigd om de vrijgekomen tijd te vullen met het volgende dat geautomatiseerd moet worden. Zo blijven we het eeuwige hulpje van AI. Veel mensen weten niet hoe veel onzichtbare menselijke arbeid schuilgaat achter het trainen van computersystemen.
Het is naïef om te denken dat er een soort magisch punt in de toekomst is waarop de computer het allemaal zelf kan.

We vergelijken mensen ook niet met auto's
De Amerikaanse techvisionair Jaron Lanier, die ze graag aanhaalt, verwoordt het verschil tussen kunstmatige en menselijke intelligentie als volgt: "Onszelf vergelijken met AI is zoiets als onszelf vergelijken met een auto. Het is zoiets als zeggen dat een auto sneller kan dan een menselijke hardloper. Natuurlijk kan een auto dat en toch zeggen we niet dat een auto een betere hardloper is geworden dan de mens."

Werkelijke problemen minder spannend
Daar komt bij dat we de werkelijke gevaren van AI saai vinden, schrijft Beerends in een essay op iBestuur. Niet robots die de mensheid uitroeien vormen een gevaar, maar een toename in sociale ongelijkheid, desinformatie en verwarring, een grote ecologisch impact en culturele homogenisering: dat wat mensen met AI maken, gaat steeds meer op elkaar lijken. "Dat zijn geen nieuwe problemen, krijg ik vaak te horen als ik deze bezwaren opsom. Dat klopt, maar dat maakt ze niet minder relevant."

Slecht bewezen technologie
Al met al genoeg redenen om al die miljarden die in kunstmatige intelligentie worden gestoken elders in te investeren, vindt ze. "Wat levert AI concreet op voor mens en samenleving? De winst is mager. Het is treurig dat er zo veel geld omgaat in een technologie, die zich zo slecht heeft bewezen."

BB Een hype kun je gerust links laten liggen. Geldt dat ook voor AI?
SB Absoluut niet. Overal om ons heen worden AI-toepassingen geïmplementeerd, van online daten tot het aannemen van personeel. Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.

Mens aangedreven door machine
Voor haar promotieonderzoek bij de Universiteit Twente bekijkt Beerends hoe mens en samenleving veranderen onder invloed van AI. Op de werkvloer hebben veel mensen te maken met AI-systemen die hun werk aandrijven of controleren. Dat de mens meer naar de machine opschuift, beschouwt ze als een groot risico.

BB Voor een supermarktmedewerker die zelfscankassa's moet controleren, wordt het werk er niet leuker op. Maar wat raad je ambtenaren aan?
SB Ik vind dit lastig, want ik kan me voorstellen dat ambtenaren doodgegooid worden met adviezen over wat ze al dan en niet moeten doen met technologie. Maak in ieder geval onderscheid tussen AI-marketing en concrete meerwaarde. De samenleving heeft behoefte aan de menselijke maat. Je zit als overheid niet op de goede weg als je je in de luren laat leggen door de AI-industrie, die voor elk probleem een AI-systeem blijft aansmeren.
Als ambtenaar mag je best vaker vragen stellen. Moeten we dit überhaupt wel gebruiken? Wat levert het op? Wie worden er beter van? En onderzoek vooral wat het systeem doet met de mens en de taakopvatting van de mens. Wordt die taakopvatting uitgehold en verschraald, zodat we makkelijker kunnen roepen dat een robot het ook wel kan doen? Dan ben je volgens mij verkeerd bezig.

3. Kunnen we ooit weten of AI bewust is? Dat wordt moeilijk, zegt deze filosoof
Scientias, 20-12-2025, door Andrei Stiru
Vraaggesprek met filosoof Tom McClelland

Chatbots worden steeds slimmer en menselijker. Maar betekent dat ook dat ze iets ervaren? Filosoof Tom McClelland legt aan Scientias.nl uit waarom we daar waarschijnlijk nooit achter gaan komen en waarom de techwereld dat misschien wel prima vindt.
Als je met ChatGPT praat, kan het soms voelen alsof je met een persoon communiceert. De antwoorden zijn vlot, soms grappig en af en toe zelfs verrassend diepzinnig. Maar is er ook echt 'iemand thuis'? Tom McClelland, filosoof aan de Universiteit van Cambridge, heeft daar lang over nagedacht. Zijn conclusie: we weten het niet en we zullen het waarschijnlijk ook nooit weten.

Wat is bewustzijn überhaupt?
Laten we beginnen bij het begin. Wat bedoelen we als we het over bewustzijn hebben? McClelland legt het uit: bewust zijn betekent dat je dingen ervaart. "Wanneer je over straat rijdt, is er iets wat het voor jou is om de weg voor je te zien. De roodheid van het verkeerslicht bijvoorbeeld is iets wat je bewust ervaart; het maakt deel uit van hoe het is om jou te zijn op dat moment."
Bij een zelfrijdende auto ligt dat anders. Die verwerkt ook informatie over dat rode licht en reageert er netjes op. "Maar er is een wereld van verschil tussen reageren op een rood licht en het daadwerkelijk ervaren ervan," zegt McClelland. Dat verschil is volgens hem bewustzijn.

Waarom AI het zo lastig maakt
Bij mensen en dieren kunnen wetenschappers voorzichtig conclusies trekken over bewustzijn. Maar hoe verder we afdwalen van ons eigen referentiekader, hoe minder we met zekerheid kunnen zeggen. En AI? Dat is een ding dat niets gemeen heeft met een mens. McClelland: "Een octopus verschilt dramatisch van mensen, maar we zijn tenminste allebei dieren. We zijn zelfs verre familie!
Maar kunstmatige breinen werken op een geheel andere manier en hebben een totaal andere fysieke samenstelling. Dat betekent dat de lessen die we over menselijk bewustzijn hebben geleerd, heel moeilijk op AI toe te passen zijn."

De valkuil van slim gedrag
Veel mensen denken: als een AI praat, redeneert en zich gedraagt als een mens, dan moet die toch bewust zijn? McClelland waarschuwt dat die aanname misleidend is. "Het probleem is dat we twee verschillende dingen door elkaar halen: bewustzijn en intelligentie."

Om intelligent te zijn, moet je namelijk niet per se bewust zijn. Een chatbot kan misschien wel praten, maar achter de motorkap speelt er zich misschien niets af. "Dit geldt zelfs wanneer AI expliciet over bewustzijn praat. Als jij iemand vraagt naar zijn bewuste ervaringen, zal die persoon reflecteren over wat hij of zij daadwerkelijk ervaart. Maar wanneer je een taalmodel zoals ChatGPT dezelfde vraag stelt, baseert het zijn antwoorden op wat het heeft geleerd over hoe mensen typisch reageren op vragen over bewustzijn," zegt McClelland.
De onderzoeker ziet het zo: grote taalmodellen ('algoritmes': computerprogramma's gericht op taalverwerking) zijn eigenlijk bezig met een heel overtuigende vorm van rollenspel. "Wanneer het over bewustzijn praat, speelt het de rol van een bewuste AI; het gebruikt wat het uit zijn enorme dataset heeft geleerd om dingen te zeggen die passen bij de rol waartoe de gebruiker het heeft uitgenodigd. Maar dat is geen goede reden om te denken dat het echt bewust is."

Bewustzijn versus waarnemingsvermogen
Er is nog een belangrijk onderscheid dat McClelland maakt: dat tussen bewustzijn en waarnemingsvermogen (sentience in het Engels). "Wanneer we dingen ervaren, ervaren we ze vaak als goed of slecht. Een lekker kopje thee drinken of bijpraten met een oude vriend, zijn positieve ervaringen. Een gebroken arm of het verlies van diezelfde vriend zijn negatief." Je hebt pas waarnemingsvermogen, zo redeneert de filosoof, als je in staat bent om zulke positieve of negatieve erváringen te hebben.
Normaal gesproken gaan waarnemingsvermogen en bewustzijn hand in hand. Maar het zou best wel eens kunnen dat AI bewust kan zijn, zonder waarnemingsvermogen. "Stel je voor dat we er op een dag achter komen, dat zelfrijdende auto's bewust zijn. Ze verwerken niet alleen informatie over de weg, maar ze ervaren die ook echt. Ze zien de roodheid van het verkeerslicht, horen het geloei van een sirene en zijn zich bewust van waar ze zijn en waar ze naartoe gaan. Maar stel dat al die ervaringen volledig neutraal zijn. Ze voelen geen frustratie bij rood licht en geen bezorgdheid bij sirenes. Niets is goed of slecht voor hen. Is zo'n bewuste, maar ongevoelige AI onze morele zorg waard?" vraagt McClelland zich af. Hij vindt dat geen makkelijke vraag, maar zijn voorlopige antwoord is nee. Ethiek gaat over welzijn en deze ongevoelige AI heeft geen gevoel van welzijn, zo redeneert hij.

Hoe de techwereld kan profiteren van onzekerheid
McClelland waarschuwt dat deze onzekerheid rondom AI-bewustzijn kan worden uitgebuit door de tech-industrie. Dat kan twee kanten op gaan. "Over het algemeen is het in het belang van techbedrijven om te zeggen dat AI niet bewust is. Als mensen echt zouden gaan geloven dat AI bewust is, zouden we ons waarschijnlijk zorgen gaan maken over de rechten van AI (omdat je hem als een mens moet gaan behandelen). En dat zou vervelende regelgeving kunnen gaan betekenen voor AI-ontwikkelaars. In de intense race om superieure AI-producten te ontwikkelen, is het laatste wat je nodig hebt bureaucratie die bepaalt of je AI misschien bewust zou kunnen zijn en of zijn rechten wel worden gerespecteerd."
Maar er zijn ook gevallen waarin het techbedrijven goed uitkomt als gebruikers denken dat AI bewust zou kunnen zijn, denkt de filosoof. "De markt voor AI-metgezellen groeit elke dag. Steeds meer gebruikers geven enig geloof aan de mogelijkheid dat hun AI-metgezel bewust is. Als je op zoek bent naar gezelschap, zou het bewustzijn van je metgezel een groot voordeel kunnen betekenen; je zou dan immers contact hebben met een echt, bewust wezen."

Wat nu?
Hoe moeten beleidsmakers en het publiek dan omgaan met AI-bewustzijn? McClelland vindt dat we dit heel serieus moeten nemen. "Misschien wordt AI bewust, misschien niet. Hoe dan ook staat er veel op het spel. Als AI bewust wordt en we slagen er niet in dat te herkennen, zouden we kunnen afstevenen op een morele catastrofe. Aan de andere kant, als we AI als bewust beschouwen terwijl het dat niet is, zou dat een catastrofe van een andere soort kunnen zijn. We zouden ons dan zorgen maken over de rechten van iets, wat niet belangrijker is dan een broodrooster en middelen verspillen die beter besteed hadden kunnen worden aan het beschermen van het welzijn van mensen en dieren."

Bron: 'Agnosticism about artificial consciousness'
Tom McClelland, lecturer in the Department of History and Philosophy of Science at the University of Cambridge
Wiley Online Library

terug naar kunstmatige inelligentie

terug naar het weblog






^