De antropomorfisering van computerprogramma’s
Tom Grosfeld
Schrijft voor Vrij Nederland over hoe we leven
Bron: LinkedIn
De hype omtrent ChatGPT is nog steeds niet gaan liggen. Met als laatste dieptepunt de open brief met daarin het voorstel tot een AI-Pauze, ondertekend door grote techvertegenwoordigers als Elon Musk en Yuval Noah Harari. Ook in mijn omgeving is ChatGPT een gespreksonderwerp. Telkens beginnen mensen over hoe bizar en eng ze het vinden. Het loopt nu helemaal uit de hand. Technologie die zelf kan denken, die ons 'outsmart'.
Cultuursocioloog Siri Beerends (Cultural Sociologist, Tech-ethics Researcher, Writer SETUP Media Lab) schreef voor SETUP een heel helder en belangrijk stuk over hoe deze zogenaamde 'intelligentie-explosie' ons op het verkeerde been zet. Een kleine greep:
“Dat AI steeds krachtiger wordt heeft niet te maken met een toename aan computerintelligentie, maar met een toename aan toepassingen [applications] die op de markt komen en het enthousiasme waarmee wij die toepassingen voeden met onze teksten, beelden en kunstwerken [data]. We verwarren meer data en parameters, met meer intelligentie.
Ook het nieuwste GPT-model heeft meer met woordvoorspelling te maken dan met intelligentie. Het begrijpt en beredeneert niets, en voorspelt slechts het meest waarschijnlijke woord in een zin op basis van kansberekening. Dat GPT-4 hoog scoort op verschillende tests, komt doordat het getraind is op data die aansluit bij de tests. Zelfs de CEO van OpenAI erkent inmiddels dat grotere taalmodellen met meer parameters (GPT-5, GPT-6) niet tot fundamentele AI-doorbraken zullen leiden.
In de brief wordt AI voorgesteld als een 'natuurkracht' die buiten onszelf staat. Maar AI wordt gemaakt, getraind en geïnterpreteerd door ménsen. Dat in dat proces dingen gebeuren die wij niet begrijpen, geldt voor heel veel technologieën die wij dagelijks gebruiken. Denk bijvoorbeeld aan paracetamol, de auto of je telefoon.
Wanneer we niet precies begrijpen wat er binnenin die technologieën gebeurt, betekent dat niet dat we te maken hebben met een losgeslagen entiteit die plotseling bewustzijn heeft ontwikkeld en vanuit een eigen ideeënwereld beslissingen neemt. Het betekent alleen dat in de interactie tussen technologie, mens en samenleving, complexe dingen gebeuren die we niet altijd tot in detail begrijpen.
Die begripsgaten vinden we lastig. Daarom vullen we ze op met antropomorfisering. Als AI iets onbegrijpelijks doet, dan moet dat wel vanuit een ‘mind’ gebeurd zijn die het onbegrijpelijke proces moet verklaren. Steeds meer AI-experts verzetten zich tegen deze misleidende antropomorfisering.
Ten eerste omdat de vergelijking tussen AI en menselijke intelligentie verkeerde verwachtingen schept. Mensen leren anders dan computers, en produceren en interpreteren taal op een heel andere manier. Peuters kunnen bijvoorbeeld een woord begrijpen nadat ze het één keer hebben gehoord, omdat ze het kunnen koppelen aan een concept dat ze al kennen. AI-modellen hebben miljoenen woorden of afbeeldingen nodig om hetzelfde te doen, en zijn daardoor extreem energie-inefficiënt.”
terug naar kunstmatige intelligentie
terug naar het weblog
^