Alles wat AI doet, is statistische patroonvertaling en kansberekening.


1. Beeld van AI vaak verkeerd.
2. Kunstmatige intelligentie biedt nauwelijks winst.

1. Beeld van AI vaak verkeerd
NEMO Kennislink, 31-08-2023, door Shannon Bakker
Vraaggesprek over KI met Siri Beerends en Pim Haselager

"Ik onderscheidde verschillende woorden, zonder ze tot nu toe te kunnen begrijpen of toe te passen, zoals goed, liefste, ongelukkig." Dit is geen poëtische beschrijving van hoe ChatGPT of een andere robot taal leerde. Aan het woord is het monster uit Mary Shelley's klassieke boek Frankenstein. Het monster van Frankenstein beseft, net als ChatGPT, niet wat woorden voor mensen betekenen.

Maar dit is ook waar de vergelijking tussen het monster en ChatGPT zo ongeveer ophoudt. Het monster van Frankenstein keert zich uiteindelijk tegen zijn maker. Literaire en filmopvolgers van dit monster zijn er in overvloed en de monsters in kwestie zijn bijna altijd intelligente robots. Denk aan de Terminator in de vorm van Arnold Schwarzenegger op een motor met een machinegeweer. De robot vormt in films steeds een gevaar voor zijn makers. Dit voedt de angst voor wat de 'slimme' AI-robots die nu worden ontwikkeld, misschien wel met de mensheid gaan doen.

Wat AI niet is.

AI is geen monster
Techniekfilosoof Pim Haselager van de Radboud Universiteit Nijmegen ziet alleen geen enkele aanwijzing dat AI in de echte wereld een monster wordt dat zijn maker uitroeit. Haselager legt uit dat AI-systemen, zoals ChatGPT, weliswaar superslim zijn geworden, maar als het gaat om beleving, om beseffen wat een woord als 'ongelukkig' betekent, laat staan om bewustzijn, dan staan AI-systemen nog op nul.
"Er zit evenveel besef of beleving in de slimste computer die we nu hebben, als in jouw of mijn koelkast: namelijk geen. Een koelkast zegt niet: 'Ik heb het helemaal gehad met koelen, ik ga barbecueën, dat lijkt me leuker.' Dat soort zelfbewustzijn zit gewoon niet in die systemen, niet in je koelkast en niet in een AI-systeem." En dus is Haselager er ook niet bang voor dat computers opeens de macht grijpen. "Als je de macht grijpt, wil je daar iets mee, maar het begin van een wil ontbreekt bij AI."

Monters alleen in boeken en films…
De reden dat de Terminator en andere robots toch steeds terugkomen in het debat over AI is dat het Frankenstein-script onderdeel is van onze cultuur, stelt cultuursocioloog Siri Beerends. De promovenda doet aan de Universiteit Twente onderzoek naar authenticiteit en de maatschappelijke impact van AI. "Het is een klassiek en populair uitgangspunt dat wordt gevoed door films en boeken. Iedereen kent het verhaal van de maker die wordt vernietigd door zijn creatie en dat maakt het ook makkelijk om vanuit dat oogpunt de discussie over AI te voeren."

… en techbedrijven
Niet alleen films en boeken maken ons bang voor vernietigende robots. In open brieven waarschuwen techfiguren als Elon Musk en de ontwikkelaars van ChatGPT voor robots die de mensheid overnemen. Die brieven zijn volgens Haselager afleidend van de feitelijke risico's die er wél zijn. "Er wordt ook wel gedacht dat techfiguren dit expres doen. Het gaat in waarschuwingsbrieven over de Terminator, zodat we niet praten over wat er dringend gereguleerd moet worden, namelijk de maatschappelijke impact van AI nu. Dat geven de techbedrijven vaak liever niet uit handen."

Zorgen over AI zijn dan ook niet onterecht, vindt Haselager. "Ik ben alleen niet bang voor de superslimme robot uit de film, ik ben bang voor de schade die wij onszelf toedienen via AI. Er zijn nu al AI-systemen die gaan over je hypotheek, over je mogelijke fraude bij een uitkering, over wat op sociale media in jouw tijdlijn verschijnt en over wiens gezicht je op Tinder te zien krijgt. We geven heel belangrijke beslissingen, die gaan van onze financiën tot ons liefdesleven, uit handen, zonder dat we er goed over nadenken.
Dát zorgt ervoor dat er brokken worden gemaakt."

De juiste zorgen
Beerends wijst op de brokken van de toeslagenaffaire in Nederland, waarin algoritmen een kwalijke rol speelden en op een algoritme in Australië dat tussen 2015 en 2019 een half miljoen mensen ten onrechte als fraudeur bestempelde. Mensen kregen schulden van soms wel tienduizenden euro's. Het dreef een deel van de slachtoffers tot wanhoop. "Om dit soort zaken te voorkomen blijft menselijke controle altijd nodig. Je kunt dit soort beslissingen niet automatiseren. Dat kan gewoon niet."

Volgens Haselager is het belangrijk om goed naar de risico's van AI te kijken en je voor te bereiden op toekomstige problemen. "We hebben als mens de gewoonte om laat in te grijpen bij technologie-ontwikkelingen. Kijk naar de auto. Dat was natuurlijk allemaal fantastisch en briljant, maar we hebben het ook behoorlijk uit de hand laten lopen qua luchtverontreiniging, files en veiligheid. In de jaren zeventig was het door auto's echt gevaarlijk om door een stad als Amsterdam te fietsen. Het is vanuit mijn perspectief dus goed dat we ons nu zorgen maken over AI. Je moet je dan wel zorgen maken over het juiste én dat is moeilijk. Goed geïnformeerde zorgen zijn nuttig en nodig. Kennisloze angst is een slechte raadgever – daar hebben we niks aan."

De mens als de máker staat centraal
Het debat over AI moet dus weg van de sciencefiction. Een manier waarop Beerends dit probeert, is met medialab SETUP (zie artikel hieronder). Dat ontwikkelde bijvoorbeeld betere stockfoto's voor AI. "Geen menselijk brein met énen en nullen erin, zoals we nu vaak zien. Dat plaatje suggereert namelijk dat kunstmatige intelligentie en menselijke intelligentie op elkaar lijken, terwijl dat niet zo is. In plaats daarvan hebben we een fysieke verbeelding gemaakt van een neuraal netwerk."



De nieuwe stockfoto van AI, gemaakt door SETUP. Hiervoor is een schematische weergave van een neuraal netwerk nagebouwd. De mens als maker staat hierin centraal en legt hiertussen de verbindingen. In het beeld zit een knipoog naar de Vitruviusman van Leonardo da Vinci, het symbool van het humanisme, waarin de mens het middelpunt van dit universum is.
Veel AI-toepassingen, zoals ChatGPT, werken op basis van zo'n kunstmatig neuraal netwerk. Dat is een systeem waarin heel veel kansberekeningen tegelijk en achter elkaar worden gemaakt en dat is hoe er wordt 'geleerd'.

AI geen natuurkracht
Centraal in de stockfoto van SETUP staat de mens, want ook de mens ontbreekt nu volgens Beerends in stockfoto's over technologie. "Te vaak zien we een glanzende witte, op een mens lijkende robot voorbijkomen in foto's over AI. Dat maakt het heel futuristisch, terwijl AI er zo helemaal niet uitziet.
Het zit nu al in je Google Maps en je Instagram-feed. Het ontstaat ook niet vanzelf. Het is belangrijk dat we door betere stockbeelden gaan beseffen dat AI geen natuurkracht is die buiten onszelf staat, maar door ménsen wordt gemaakt, gevoed en getraind."


2. Kunstmatige intelligentie biedt nauwelijks winst.
De grote beloften vanuit de AI-industrie worden nauwelijks waargemaakt, ziet cultuursocioloog Siri Beerends (SB).
Binnenlands Bestuur, 29 mei 2023, vraaggesprek met Marjolein van Trigt (BB)

Rondom kunstmatige intelligentie (AI) vindt enorm veel hypevorming plaats, waarschuwt cultuursocioloog Siri Beerends. Dat wil niet zeggen dat we het kunnen afdoen als een hype. Integendeel: "Door de hype wordt het een alledaagse realiteit, waar we mee moeten leren omgaan."

Geen roepende in de woestijn meer
Cultuursocioloog Siri Beerends, werkzaam bij SETUP, heeft het druk. Haar kritische blik op technologische ontwikkelingen vormt een welkom tegenwicht voor Alexander Klöpping en consorten. Sinds de komst van ChatGPT staat de telefoon helemaal niet meer stil. Voorgoed voorbij is de tijd dat ze zich een roepende in de woestijn voelde.

BB Wat doet een cultuursocioloog precies?
SB Ik kijk met een cultuursociologische blik naar techniek. Onderwerpen als digitalisering, automatisering en kunstmatige intelligentie duid ik meer vanuit cultuur. In de producten die techbedrijven ontwerpen en op de markt brengen, zit een impliciet mensbeeld ingebakken. Ik vind het belangrijk om te laten zien, hoe dat ons denken en handelen met technologie bepaalt en wie daarvan profiteren.

Mens als optelsom van datapunten
Het heersende mensbeeld in Silicon Valley, de bakermat van de kunstmatige intelligentie, stamt nog uit de tijd van het behaviorisme, dat de mens beschouwt als een stimulus-response machine(!).

Beerends: "Techbedrijven zien de mens als een optelsom van datapunten, die je kunt sturen en manipuleren. Daar komt ook het idee vandaan, dat je in computers de mens kunt nabouwen of menselijke intelligentie kunt imiteren. Eigenlijk gaat het al mis bij de term 'kunstmatige intelligentie'. Die roept verwachtingen en gevoelens op die niet aansluiten bij wat een computer kan.
Intelligentie is veel meer dan een statistische patroonvertaling en kansberekening, maar dat is in feite alles wat AI doet."

BB Hoe zou kunstmatige intelligentie beter kunnen heten?
SB Ik vind statistics on steroids mooi. AI is een krachtige vorm van statistiek. Dat is niet onschuldig of ongevaarlijk, al zijn die gevaren heel anders dan nu in het AI-debat vaak geschetst wordt.

Open brief beïnvloedt toon debat
Beïnvloed door big tech gaat de discussie niet zozeer over wat kunstmatige intelligentie nu kan, maar vooral over de angst voor een kunstmatige superintelligentie die zich tegen de mensheid keert. De open brief waarin een groot aantal techprominenten pleit voor een pauze in de ontwikkeling van AI, omdat het allemaal wel erg snel zou gaan, heeft veel invloed op de toon van het debat.
Beerends: "Met het idee dat AI er is om de mens te verslaan of te vervangen, zitten we echt op het verkeerde pad(!). Het betere alternatief, waar men op hoopt en waar ook met de AI Act op wordt ingezet, is een goede samenwerking met AI. Maar ik denk dat we ook daar veel te rooskleurig naar kijken. Alsnog wordt AI erdoorheen geduwd, terwijl het in de praktijk helemaal niet kan voldoen aan de hoge beloften."

Hulpje van AI
De belofte van AI is in de eerste plaats dat het mensen tijd bespaart. Doordat AI de repetitieve taken overneemt, zouden mensen zich met echt belangrijke dingen kunnen bezighouden, zoals de menselijke maat in de context van de overheid. Dat blijkt nogal eens tegen te vallen.
Beerends: "In synthetische biologielabs bleek de tijdsbesparing voor wetenschappers niet op te gaan, omdat ze meer tijd kwijt waren aan het machine-leesbaar maken van informatie, die uiteindelijk weinig opleverde. Het ging ten koste van het ontwikkelen van nieuwe hypotheses, terwijl daar de echte innovatie zit."

BB Techoptimisten zullen zeggen dat zo'n situatie tijdelijk is en dat AI de samenleving op de langere termijn wel degelijk veel oplevert. Is dat niet zo?
SB Die worst wordt ons al heel lang voorgehouden. In specifieke contexten kan het zo zijn, maar vaker is het niet het geval. Veel werk wordt onder invloed van AI juist repetitiever, omdat mensen het werk van machines moeten trainen, voeden of controleren. Bovendien zijn we als mensen geneigd om de vrijgekomen tijd te vullen met het volgende dat geautomatiseerd moet worden. Zo blijven we het eeuwige hulpje van AI. Veel mensen weten niet hoe veel onzichtbare menselijke arbeid schuilgaat achter het trainen van computersystemen.
Het is naïef om te denken dat er een soort magisch punt in de toekomst is waarop de computer het allemaal zelf kan.

We vergelijken mensen ook niet met auto's
De Amerikaanse techvisionair Jaron Lanier, die ze graag aanhaalt, verwoordt het verschil tussen kunstmatige en menselijke intelligentie als volgt: "Onszelf vergelijken met AI is zoiets als onszelf vergelijken met een auto. Het is zoiets als zeggen dat een auto sneller kan dan een menselijke hardloper. Natuurlijk kan een auto dat en toch zeggen we niet dat een auto een betere hardloper is geworden dan de mens."

Werkelijke problemen minder spannend
Daar komt bij dat we de werkelijke gevaren van AI saai vinden, schrijft Beerends in een essay op iBestuur. Niet robots die de mensheid uitroeien vormen een gevaar, maar een toename in sociale ongelijkheid, desinformatie en verwarring, een grote ecologisch impact en culturele homogenisering: dat wat mensen met AI maken, gaat steeds meer op elkaar lijken. "Dat zijn geen nieuwe problemen, krijg ik vaak te horen als ik deze bezwaren opsom. Dat klopt, maar dat maakt ze niet minder relevant."

Slecht bewezen technologie
Al met al genoeg redenen om al die miljarden die in kunstmatige intelligentie worden gestoken elders in te investeren, vindt ze. "Wat levert AI concreet op voor mens en samenleving? De winst is mager. Het is treurig dat er zo veel geld omgaat in een technologie, die zich zo slecht heeft bewezen."

BB Een hype kun je gerust links laten liggen. Geldt dat ook voor AI?
SB Absoluut niet. Overal om ons heen worden AI-toepassingen geïmplementeerd, van online daten tot het aannemen van personeel. Door de hype wordt het een alledaagse realiteit waar we mee moeten dealen.

Mens aangedreven door machine
Voor haar promotieonderzoek bij de Universiteit Twente bekijkt Beerends hoe mens en samenleving veranderen onder invloed van AI. Op de werkvloer hebben veel mensen te maken met AI-systemen die hun werk aandrijven of controleren. Dat de mens meer naar de machine opschuift, beschouwt ze als een groot risico.

BB Voor een supermarktmedewerker die zelfscankassa's moet controleren, wordt het werk er niet leuker op. Maar wat raad je ambtenaren aan?
SB Ik vind dit lastig, want ik kan me voorstellen dat ambtenaren doodgegooid worden met adviezen over wat ze al dan en niet moeten doen met technologie. Maak in ieder geval onderscheid tussen AI-marketing en concrete meerwaarde. De samenleving heeft behoefte aan de menselijke maat. Je zit als overheid niet op de goede weg als je je in de luren laat leggen door de AI-industrie, die voor elk probleem een AI-systeem blijft aansmeren.
Als ambtenaar mag je best vaker vragen stellen. Moeten we dit überhaupt wel gebruiken? Wat levert het op? Wie worden er beter van? En onderzoek vooral wat het systeem doet met de mens en de taakopvatting van de mens. Wordt die taakopvatting uitgehold en verschraald, zodat we makkelijker kunnen roepen dat een robot het ook wel kan doen? Dan ben je volgens mij verkeerd bezig.

terug naar kunstmatige inelligentie

terug naar het weblog






^