Vragen over artificiële intelligentie en journalistiek? Laurens Vreekamp weet raad

Hi Laurens,

Ik zag op internet een nep­afbeelding van een copieus dinerende Frans Timmermans in een privéjet, ik las over de gekloonde stem van Joe Biden die kiezers adviseerde niet te gaan stemmen en onlangs was er die nepporno video van Taylor Swift. Kunnen journalisten een vuist maken tegen deepfakes?

Groetjes, Victor Alsenaam

We liegen wat af, tegen onszelf en elkaar. Liegen is functioneel. We creëren er een betere versie van onszelf mee. ‘Faken’ levert respect op; kijk maar naar je Linked­in-feed. Maar wanneer liegen meer kost dan het oplevert, kiezen de meeste mensen voor de waarheid.

Op het internet werkt dat anders. Anno 2024 kun je moeilijk beweren dat het web een paradijs is waar iedereen ongehinderd kan ‘zijn’. Sociale media zijn toxisch, Marktplaats zit vol fraudeurs en zoekmachines tonen steeds minder relevante resultaten. Allemaal dankzij SEO-spam en AI-generated nonsense, zo bleek uit recent Duits onderzoek.

Om het gevaar te duiden, moet je weten hoe AI-technologie in de basis wordt ontwikkeld: veelal witte, machtige techbro’s uit Silicon Valley schrapen zoveel mogelijk data van het web via onderaannemers die - op hun beurt - onderbetaalde clickworkers opdracht geven die (illegaal verkregen) data op te schonen.

Vervolgens commanderen bedrijven als OpenAI hun machines: leer van dat materiaal! Zo staat ‘het internet’ model voor ‘hoe de wereld werkt’. We noemen dat dan ‘intelligentie’.

Tel bij deze wankele kennisbasis de feiten uit divers onderzoek op en je begrijpt hoe we in de huidige webshitshow zijn beland: - 95 procent van alle deepfakes is porno. - In vrijwel alle gevallen is het onvrijwillige slachtoffer hiervan een vrouw. - Het zijn mannen die deepfakes maken en verspreiden via online fora en chatgroepen.

Slachtoffers van deepfakes krijgen vanaf 2027 speciale EU-wetgeving aan hun zijde. Ondertussen ontwikkelt de techsector zelf oplossingen zoals watermerktechnologie om authenticiteit te waarborgen en software om afbeeldingen onklaar te maken voor AI. Maar wie digitale platformen verantwoordelijk houdt voor zowel probleem als oplossing, is kortzichtig, zegt social tech onderzoeker danah boyd. We moeten niet verwachten en niet willen dat Big Tech onze maatschappij repareert.

Het grotere probleem is dat degenen die echt verschil kunnen maken het laten afweten. Uit overtuiging, machtsbehoud of commerciële desinteresse. Want zolang a) mannen geen slachtoffer zijn van deepfakes; b) contentmoderatie op 4Chan, Telegram en X tekortschiet of ontbreekt; c) aanbevelingssystemen ophef promoten; d) techbedrijven onbesuisd AI-software aanbieden; e) andere mannen het gesprek niet aangaan met jongens die bedenkelijke nepinhoud maken en delen, gaan we het web niet bevrijden van deepfakes.

Vrouwen weten dit allang. Generatieve AI is onze wake-up call. Dankzij de wijdverbreidheid van synthetische lasterporno groeit bij mannen het ongemakkelijke besef dat niet ons internet of technologie stuk is, maar onze samenleving.

Moderne, inclusieve journalistiek is daarom keihard nodig, onder gezond leiderschap. Zo voegen we minder stereotype, rolbevestigende of vrouwonvriendelijke verhalen toe aan het web. Waardoor we het kwalijke materiaal overstemmen en we twee vliegen in één klap slaan: betere beeldvorming over vrouwen om zowel AI als mannen mee te trainen.

Blijf ondertussen deepfakes ontmaskeren, Victor. Voel je daarbij gesteund door de Vlaamse journalist Jan Jagers. Hij vertelde me dat factcheckers er niet zijn om mis­informeerders te overtuigen. Nee, ze zijn er om de rest - de meeste mensen - gerust te stellen.

Succes en groet, Laurens