Ook Ierse waakhond start onderzoek naar Grok om uitkleedfunctie

Het onderzoek is de nieuwste stap in een internationale tegenreactie tegen Grok.

Het zal “de vermeende creatie en publicatie op X onderzoeken van potentieel schadelijke, niet-consensuele intieme of geseksualiseerde beelden waarbij Europeanen betrokken zijn, waaronder kinderen”, die met behulp van Grok zijn gegenereerd, aldus de Ierse Data Protection Commission (DPC).

De DPC is de leidende Europese toezichthouder voor X omdat het Europese hoofdkwartier in Ierland gevestigd is.

Meerdere landen hebben onderzoeken naar Grok aangekondigd, de chatbot beperkingen opgelegd of zelfs volledig geblokkeerd vanwege de uitkleedfunctie.

Duizenden afbeeldingen per uur
De chatbot kwam in opspraak omdat deze per uur duizenden afbeeldingen maakte van mensen die zonder hun toestemming werden ontkleed en verspreid via X. Daarbij gaat het met name om afbeeldingen van vrouwen, maar ook kinderen werden door de chatbot ontkleed en geseksualiseerd.

Onder de Europese Digital Services Act (DSA) is X een zogenoemd groot onlineplatform, dat daarmee extra verantwoordelijkheid heeft om de verspreiding van illegale beelden tegen te gaan. Ook moet het platform de fundamentele rechten van minderjarigen beschermen.

“Seksuele deepfakes van vrouwen en kinderen zonder toestemming zijn een gewelddadige en onaanvaardbare vorm van vernedering”, stelde Eurocommissaris Henna Virkkunen (Technologische Soevereiniteit) eerder.

“Met dit onderzoek zullen we vaststellen of X aan zijn wettelijke verplichtingen onder de Digital Services Act (DSA) heeft voldaan. Of dat het de rechten van Europese burgers, waaronder die van vrouwen en kinderen, heeft geschonden als nevenschade van zijn dienstverlening.”

ACM doet oproep
De Autoriteit Consument & Markt (ACM) laat weten dat Nederlandse gebruikers van X en Grok die problemen ondervinden met het melden van illegale inhoud bij platforms, dit ook bij de toezichthouder kunnen doen.

De ACM deelt deze informatie dan met andere nationale toezichthouders en de Europese Commissie.

“Zij kunnen daardoor effectief optreden”, stelt de waakhond.

Spanje onderzoekt X, Meta en TikTok om AI-kindermisbruikmateriaal
De Spaanse regering heeft ondertussen aanklagers opgedragen een onderzoek te beginnen naar socialmediaplatforms X, Meta en TikTok. Op die platforms zouden met kunstmatige intelligentie gegenereerde beelden van seksueel misbruik van kinderen worden verspreid. Dat schreef premier Pedro Sánchez dinsdag op zijn X-account.

Het onderzoek maakt onderdeel uit van verschillende maatregelen die de Spaanse regering wil treffen om onlinemisbruik van kinderen in te dammen. Zo stelde Sánchez eerder deze maand een verbod op toegang tot sociale mediaplatforms voor jongeren onder de 16 jaar voor.

“Deze platforms ondermijnen de mentale gezondheid, waardigheid en rechten van onze kinderen. De staat kan dit niet toestaan. De straffeloosheid van deze giganten moet eindigen”, aldus Sánchez via X.