Musea: ‘sociale media moeten harder optreden tegen door AI gemaakte Holocaust-beelden’

De ondertekenaars schrijven: “Als instituten die zich met historische en politieke opvoeding bezighouden, bezien we deze ontwikkeling met grote zorg. We pleiten voor een digitale publieke ruimte waar de overlevenden van nazi-vervolging en hun nazaten beschermd worden tegen exploitatie van hun levensverhaal door vreemden, uit winstbejag. Historische bronnen en wetenschappelijk onderzoek mag niet worden vervangen door massaal geproduceerde AI-inhoud. We willen dat echte stemmen en diverse perspectieven worden gehoord.”

De makers van zogeheten ai slop exploiteren de emotionele impact van Holocaust-verhalen, om maximaal bereik te realiseren met een minimale inspanning, constateren de ondertekenaars. Sociale media geven dit soort ‘emotioneel geladen’ nieuws bovendien hoge prioriteit, ongeacht of het waar is.

Onder de ondertekenaars bevinden zich beheerders van beruchte vernietigingskampen als Buchenwald, Dachau, Ravensbrück en Sachsenhausen. Ze wijzen op AI-beelden waarin kampgevangenen en bevrijders elkaar treffen of huilende kinderen achter prikkeldraad. Sociale media moeten lijden niet trivialiseren voor emotionele fictie, schrijven ze.

Twee jaar geleden waarschuwde digitaal kunstenaar Marina Amaral voor het toenemende aanbod van vals geschiedenisbeeld. Ze schreef toen: “Ik heb het niet over de nepbeelden die zijn gemaakt met humor of sarcasme. Als je Napoleon een TED Talk ziet geven of Mata Hari een iPhone-selfie ziet nemen, zul je niet snel denken dat het om een historische foto gaat. Het echte gevaar ligt in die beelden die expliciet zijn bedoeld om mensen te misleiden, de beelden die zo overtuigend realistisch zijn dat ze voor authentieke historische foto’s kunnen doorgaan.”

Sociale media-platformen moeten samen met Holocaust-instanties en gedenkplaatsen samenwerken om detectie van desinformatie te verbeteren. AI-beelden moeten duidelijk herkenbaar worden met een label en als die wordt misbruikt (of niet gebruikt) dient het materiaal te worden verwijderd.

Indien nog niet mogelijk, moet het voor gebruikers mogelijk worden om deze vorm van desinformatie te rapporteren. Ook dienen de platformen proactief tegen dit soort geschiedvervalsende AI-inhoud op te treden - niet enkel nadat gebruikers daarover hebben geklaagd. Verder moet de financiële prikkel worden weggenomen: wie vervalste informatie plaatst, moet daar geen inkomsten uit kunnen halen. Meer bij Arolsen Archives, International Center on Nazi Persecution