Blog archives

Technologie en de rechtsstaat: het gevaar van oververtrouwen

📷 HK / Stable Diffusion

Ik las vorige week een interview met en een opiniestuk van Maxim Februari over zijn essay “Doe zelf normaal“, waarin hij bespreekt hoe technologie de democratische rechtsstaat verandert. Februari schrijft dat het best vreemd is dat er zo veel geschreven wordt over de toestand van de wereld, maar zo weinig over de invloed van kunstmatige intelligentie, het internet en algoritmes daarop.

Volgens hem wordt wat ‘normaal’ is steeds meer bepaald door statistiek. Door wat algoritmes uit behavorial data halen. Overheden en beleidsmakers lijken een blind vertrouwen in die data te hebben en schuiven democratische basisprincipes opzij. Data is niet neutraal, en zou geen basis moeten vormen voor wetten en regels. Om te bepalen waar de grenzen van een wet ligt moet je ‘m namelijk overtreden. Februari verwijst naar Rosa Parks, die tijdens de Jim Crow-periode van segregatie in de VS weigerde als zwarte vrouw haar stoel in een bus af te staan aan een witte man. Als niemand ooit de regels overtreedt, worden ze nooit afgeschaft of aangepast.

Big data

Een ander voorbeeld van hoe mensen te veel vertrouwen hebben (mag ik hier het woord ‘oververtrouwen’ munten?) in technologie vond ik in een stuk van Jordan Tigani over big data. Tigani was in het begin van het vorige decennium een van de ontwikkelaars van BigQuery, een technologie van Google waarmee je makkelijk door enorme bergen data kunt zoeken. Big data was destijds echt een modewoord. Bedrijven zouden zoveel data verzamelen dat ze het niet meer met traditonele technologiën konden doorzoeken. Dus werden er data lakes opgezet en ontwikkelaars ingehuurd om al die nieuwe technologiën te implementeren.

Maar wat constateert Tigani tien jaar later? De meeste bedrijven hadden BigQuery helemaal niet nodig. De overgrote meerderheid had minder dan een terabyte aan data. Inderdaad, net zoveel als die externe harde schijf die u ergens in een kast hebt slingeren en waar u hopelijk af en toe een backup op maakt. En al die nieuwe software die nodig was om big data te beheren? Er is nu juist weer een beweging terug naar traditionele relationele databases zoals PostgreSQL, SQLite en MySQL, gecombineerd met cloudoplossingen die goedkoop en snel zijn (een server met een terabyte aan opslag heb je tegenwoordig al voor €100 per maand). Saai en traditioneel is blijkbaar goed genoeg.

S-curve

Misschien zitten we met de huidige digitale technologie wel op het einde van een zogenaamde sigmoïde-curve. De theorie is dat technologie zich traag ontwikkelt, maar dan opeens in korte tijd razendsnel groeit, tot het plafond wordt bereikt in wat mogelijk is. YouTuber Tom Scott publiceerde afgelopen week een videoessay over hoe ChatGPT een stukje code schreef om zijn e-mails te fixen. Die code bleek prima te werken, puur op basis van een paar regels (Engelse) tekst die hij invoerde. Hij vraagt zich af waar we op die S-curve staan met AI. Aan het begin, en moeten de echt grote innovaties nog komen? Of blijven ChatGPT en vrienden een handigheidje? Hoe dan ook ziet hij het als het einde van een tijdperk waarin hij (en ik zelf ook, we zijn van dezelfde generatie) opgroeiden met ‘dit’ internet. Met als belangrijk ijkpunt de introductie van Napster in 1999 (lees vooral dit boek daarover). Dat gooide niet alleen de muziekindustrie overhoop, maar bleek ook een sjabloon voor verandering in heel veel andere sectoren.

De angst die de muziekindustrie had voor Napster zie je nu bij de bedrijven die de afgelopen 25 jaar groot zijn geworden. Google is een goed voorbeeld. Logisch, want de kwaliteit van de zoekmachine is enorm achteruit gegaan. Ik was de afgelopen week bezig een site te ontwikkelen met behulp van WordPress. Een hoop van de “hoe moet dit”-vragen die je als ontwikkelaar constant hebt waren makkelijker te beantwoorden met ChatGPT dan met Google. Bij ChatGPT krijg je direct een antwoord, terwijl je bij Google vaak wordt overspoeld door clickbaity websites die hoog willen scoren. Hoewel die websites niet van Google zijn, vormen ze zich wel naar het Google-algoritme. Je moet je eerst door twintig alinea’s met zinloos gebrabbel worstelen voordat je antwoord krijgt op je vraag. Wellicht een kwestie van tijd voordat ChatGPT-antwoorden ook volzitten met troep, maar ik denk dat dit nog wel even zal duren. Op het moment is Microsoft vooral bezig om te voorkomen dat diens implementatie van ChatGPT in zoekmachine Bing mensen adviseert om te scheiden en te trouwen met een chatbot of gebruikers gaslight dat ze nog in 2022 leven.

Sokken met sandalen

Hoe gaat dit zich allemaal ontwikkelen? Hoe ziet de wereld er over 25 jaar uit, als beleidsmakers en leiders AI gebruiken om delen van onze wetten en regels te genereren? Maximum Februari haalt hoogleraar Mireille Hildbrandt in zijn essay aan, die beargumenteert dat “je de democratie niet kunt computeriseren, maar dat het toch zal gebeuren, omdat te veel mensen denken dat het wel kan.” Ik denk dat zij daar helaas gelijk in heeft.

Natuurlijk vroeg ik ChatGPT ook nog naar welke wetten die zou bedenken. Daar kwam een wet uit die het verbiedt om sokken met sandalen te dragen (“sommige mensen vinden dat onsmakelijk of onmodieus”). Of een regel die voorschrijft dat je je pizza voortaan met mes en vork moet eten.

Ik kijk er alvast naar uit.

Dit stuk verscheen eerder in editie #177 van De Circulaire.

Add a comment