ZDF door het stof om AI-beelden in Heute-journaal
De Duitse zender ZDF heeft vorige week in het Heute-journaal videobeelden getoond die door AI waren gemaakt. In de video was zogenaamd een actie van immigratiedienst ICE te zien, waarbij een moeder en kinderen door agenten hardhandig werden afgevoerd. De video was nep. Hoofdredacteur Anne Gellinek bood kijkers dinsdag excuses aan voor de fout.
Het zou gaan om een menselijke fout, aldus Gellinek: “Deze bijdrage weerspiegelde niet onze hoge standaarden. Opmerkelijk is dat de getoonde video was gemaakt met behulp van OpenAI’s Sora, dat in video’s - juist bedoeld om herkenbaarheid als AI te vergroten - een watermerk invoegt.
Nieuwlezer Stefan Leifert benadrukte in de uitzending dat het gebruik van AI-beeld tegen de regels van de zender ingaat. “Het gebruik van AI-gegenereerd beeld van mensen, gebeurtenissen en in een politieke context is binnen onze nieuwsproductie niet toegestaan”, aldus Leifert.
Per ongeluk een AI-gegenereerde foto in het NOS Journaal: ‘Dit incident heeft ons op scherp gezet’ | Villamedia
Het clipje werd weer vertoond, ditmaal met extra aandacht voor het Sora-watermerk, bericht nieuwssite Welt.
Volgens de zender was het wel degelijk de bedoeling om de nepvideo te tonen, maar vooral als illustratie hoe AI wordt ingezet om angst aan te wakkeren rondom migranten en het uitzettingsbeleid. “We betreuren dat onvoldoende duidelijk was welke beelden echt en welke nep waren”, aldus ZDF in een verklaring aan Welt.
ZDF moest nog een tweede fout toegeven, rondom een reportage waarin een video van een arrestatie in 2022 werd gekoppeld aan een actuele inzet van ICE. Leifert stelde dat verificatie die ZDF hanteert voor beelden die van sociale media afkomstig zijn in dit geval gefaald heeft.
Praat mee