Sinds 2015 publiceer ik om de twee weken mijn nieuwsbrief, De Circulaire. Een vast onderdeel van die nieuwsbrief zijn de kattengifjes, die verzameld worden door mijn trouwe Chef Kattengifjes. Het vinden van die gifjes is echter de laatste tijd steeds moeilijker geworden omdat zo ontzettend veel gifjes met AI worden gemaakt. Van mijn Chef Kattengifjes kreeg ik daarom een brief met een vraag:

Lieve hoofdredacteur,

Je weet hoe graag ik jou en je lezers verblijd met de beste katten- en dierengifjes. Maar ik merk dat de lol van het zoeken hiernaar me is vergaan. Steeds meer van deze filmpjes zijn gegenereerd met AI.

Voor mij zit de lol van de gekke capriolen van katten erin dat ze iets doen wat past in een van deze categorieën (kattegorieën?):

• Typisch kattig.
• Ze reageren net als een mens.
• Er gebeurt iets waardoor ze gek reageren.

En het is juist leuk als bovenstaande gebeurt met échte beesten. Anders kan ik net zo goed clipjes uit animatiefilms halen. Ook mooi, maar vind ik niet zo grappig.

De laatste maanden heeft AI-video een enorme sprong gemaakt. Ik werd steeds achterdochtiger. Maar de druppel die mijn emmer deed overlopen was toen ik een video had geselecteerd, en toevallig door een short van AI-video expert Jeremy Carrasco erachter kwam dat ‘ie nep was en hoe je dat kunt zien.

Ik wil geen AI-detective zijn en ieder geinig gifje onder een digitaal vergrootglas leggen. Maar hoe moet het dan met De Circulaire?! En vinden andere mensen het eigenlijk wel net zo erg als ik? Dat simpel vermaak nep is? Wat moeten we doen?

Liefs,
C.K.

Lieve C.K., het probleem dat je beschrijft komt me bekend voor, en het baart me ook zorgen. De filmpjes die je tegenkomt, en ook het materiaal dat je elders op het internet ziet dat wordt gemaakt door AI wordt ook wel slop genoemd. Dat is Engels voor “rotzooi” of “rommel”, of het eten dat je in een trog aan de varkens voert. Het is een verzamelnaam voor een overdaad aan AI-content van lage kwaliteit. Zoals de idiote plaatjes van shrimp Jesus.

Slop neemt het internet over. Ik noem dat versloppificatie, in navolging van de term enshittification van Cory Doctorow (ook wel “platformverval” of “verkuttificatie” in het Nederlands).

De afgelopen jaren hebben we inderdaad een enorme toename aan slop gezien. Dat generatieve AI zoals ChatGPT gemeengoed is geworden heeft hiervoor gezorgd. De afgelopen maanden is dat in een stroomversnelling gekomen omdat AI-videomodellen steeds beter en toegankelijker zijn geworden. Een kleine maand geleden kwam in de VS en Canada versie 2 van Sora uit. Een AI-model van OpenAI dat het heel makkelijk maakt om realistische video’s te genereren.

Algoritmische feeds

De ontwikkeling van AI-slop gaat hand in hand met een andere ontwikkeling: de alomtegenwoordigheid van algoritmisch gecureerde feeds binnen sociale media. Sociale media als Twitter (nu X), Facebook en Instagram hadden tot een jaar of tien geleden een traditionele feed. Je cureert zelf wat je wilt zien en de posts van die kanalen komen in omgekeerd chronologische volgorde je tijdlijn binnen (dus de nieuwste eerst). Alle grote spelers zijn de afgelopen jaren omgeschakeld naar een model waarin de feed niet meer standaard chronologisch is, maar via een algoritme wordt aangestuurd. TikTok is daar groot mee geworden: de zogenaamde for you page. Andere sociale media hebben dit model gekopieerd.

Die ontwikkeling heeft een duidelijke oorzaak: het optimaliseren van engagement (kliks, views en andere interacties op de posts) en daarmee het verhogen van de omzet van de bedrijven die de sociale media ontwikkelen. Dat wordt verkocht als ‘de beste ervaring aanbieden aan de gebruikers van onze platforms’. In werkelijkheid is dat natuurlijk flauwekul: het gaat gewoon om geld.

De platforms zijn erachter gekomen dat content promoten die zoveel mogelijk ophef veroorzaakt de beste manier is om die engagement te verhogen. In de praktijk betekent dat: er moet iets raars of iets geks gebeuren, en mensen moeten daar een emotionele reactie op hebben. Negatieve emoties werken het beste. Het moet verontwaardiging oproepen, outrage in het Engels. Niet zo gek dat radicaal-rechtse politici het zo goed doen op de sociale media. En dat zelfs respectabele media clickbait-koppen schrijven zodat mensen op hun artikelen klikken.

Het creëren van verontwaardiging is een belangrijk verdienmodel geworden. Van een economie die draait om het verkrijgen van geld, grond of grondstoffen zijn we naar een economie aan het verschuiven waarin we handelen in aandacht. En in een aandachtseconomie is alles entertainment en iedereen een entertainer.

Hersentijd verkopen aan Coca-Cola

De Amerikaanse mediafilosoof Neil Postman had dit in de jaren tachtig al door toen hij schreef over televisie. In zijn boek Amusing Ourselves to Death (1985) schreef hij dat televisie ervoor heeft gezorgd dat entertainment het natuurlijke formaat is geworden als representatie van alle vormen van ervaring. Sociale media zijn hier een logisch vervolg op: alles op sociale media is entertainment, en entertainment is de enige vorm geworden hoe we media consumeren.

De eigenaren van mediabedrijven hebben dit maar al te goed door. Patrick Le Lay, een voormalige directeur van de Franse mediagroep TF1, merkte in 2004 op dat het doel van zijn bedrijf is om “beschikbare menselijke hersentijd te verkopen aan Coca-Cola“. Ik betwijfel dat techbazen als Mark Zuckerberg, Sundar Pichai en Elon Musk er anders over denken.

Het succes van slop

Sorry voor dit zijpaadje. Laten we teruggaan naar de versloppificatie van jouw kattenfilmpjes, lieve C.K. Wat mij vooral beangstigt is dat versloppificatie lijkt te werken. Een van mijn favoriete YouTubers, Alec Watson van Technology Connections, maakt meestal video’s over hoe vaatwassers en oude beamers werken (het is altijd leuker dan het klinkt). Maar een paar maanden geleden had hij opeens een video over iets heel anders: hoe mensen zijn video’s vinden. Op YouTube heb je, net zoals op veel andere sociale media, een traditionele chronologische feed van video’s (dat noemen ze daar subscriptions) én de algoritmische for you page, die op de homepage staat. Zelf gebruik ik YouTube alleen op die eerste manier: ik wil zelf graag cureren wat ik zie. Alec deelde statistieken over hoeveel mensen zijn video’s vonden via die subscriptions-feed.

Dat bleek 2%. Twee procent.

En dat is niet alleen zijn kanaal. Subscriptions gebruiken om video’s te kijken op YouTube is niet populair. In het algemeen willen gebruikers dus helemaal niet hun eigen feeds cureren. Ze willen gewoon gevoerd krijgen wat het algoritme ze aanbiedt. Algorithmic complacency noemt Alec dat. Algoritmische inschikkelijkheid. Het wel prima vinden dat een algoritme bepaalt wat jij allemaal ziet.

En daar zit een gevaar in. Want die algoritmes zijn niet joúw smaak en interesses. Die algoritmes zijn geoptimaliseerd om jouw hersentijd te verkopen aan Coca-Cola. Om ophef te veroorzaken en je boos of verdrietig te maken.

En ja, als het enige doel is om hersentijd te verkopen aan Coca-Cola is het wel zo makkelijk om een AI-model dan maar gelijk te laten produceren wat jouw hersentijd kan vullen. Dat is een stuk minder werk dan zelf grappige filmpjes maken of zoeken van katten.

Sociale media is niet te repareren

Er zijn alternatieven voor de algoritmisch gedreven feeds van de grote techbedrijven. Bluesky en de applicaties van de fediverse zoals Mastodon beloven dat je zelf weer de controle en curatie krijgt over je feed. Mede om die reden ben ik daar veel actiever geworden. Maar toch wringt het daar ook. Want ook op die ‘goede’ platforms zie ik heel veel posts die bedoeld lijken te zijn om engagement te halen. Ook als ze door mensen zijn geschreven die ik ken en waarvan ik weet dat het geen bots zijn. Het mechanisme van de social-mediafeed lokt dit blijkbaar uit.

Een recent paper van onderzoekers van de Universiteit van Amsterdam (dat in Nederlandse media nauwelijks aandacht heeft gehad) toont aan dat er eigenlijk geen manier is om dit probleem te verhelpen. In een onderzoek simuleerden ze een sociaal netwerk na (met, ironisch genoeg, AI-modellen) en pasten ze langzaam de parameters aan (zoals de sortering van de feed of het verbergen van het aantal likes). De verrassende conclusie: het maakt heel weinig uit. De hardste schreeuwers kwamen toch naar boven. Sociale media is niet te repareren.

Kattenfilmpjes

Sorry, weer een zijpaadje. Wat moeten we nou met jouw kattenfilmpjes C.K? Het simpele antwoord is dat ik het niet zo goed weet. Misschien moeten we accepteren dat kattenfilmpjes voortaan met AI worden gemaakt en dat het niet uitmaakt? Misschien moeten we alleen filmpjes gaan zoeken van voordat AI goed genoeg was om ze te produceren? Van voor, zeg, 2023? Moeten we alle filmpjes heel nauwkeurig gaan checken of ze met AI zijn gemaakt? Of moeten we er gewoon helemaal mee stoppen?

De versloppificatie van kattengifjes is klein bier vergeleken met de rest van de wereldproblematiek, maar het staat wel degelijk voor iets groters.

Dit stuk verscheen eerder in editie #235 van De Circulaire, mijn nieuwsbrief.

Add a comment