Ook afgezwakt voorstel Europese chatcontrole blijft een enorme inbreuk op privacy, stellen experts

De scan van gesprekken zou op alle geschikte apparatuur verlopen via digitale vingerafdrukken van honderdduizenden bekende beelden van seksueel kindermisbruik. Het gaat daarbij niet om de daadwerkelijke foto’s maar om een unieke code waar zo’n foto aan valt te herkennen.

De experts schrijven in een open brief [.pdf] aan leden van de Europese Raad dat zelfs bij ‘vrijwillige controle’ er een groot risico blijft bestaan van false positives - kortom, fouten waarbij het systeem aanslaat op onschuldige beelden.

“Die zijn onvermijdelijk, zowel door de ingebouwde beperkingen van AI-technologie en omdat het gedrag waar de wetgeving zich op richt ambigue en sterk context-gevoelig is”, aldus de achttien experts, waaronder professor Jaap-Henk Hoepman van de Radboud Universiteit.

‘Geen rol voor AI’
Het voorstel legt ook geen beperkingen op wat precies gescand kan worden en houdt de deur zelfs op een kier, stellen de experts: “Het voorstel herintroduceert de optie om meer te scannen dan alleen beeld. Ook webadressen, tekst en en video en eventueel nieuw, nog onbekend misbruikmateriaal.”

Dat laatste - waarvan dus geen vingerafdruk beschikbaar is - kan alleen via kunstmatige intelligentie. De experts wijzen op een brandbrief van collega’s (ook van buiten de Europese Unie) die al in 2023 waarschuwden dat AI-technologie ongeschikt is om de vereiste accuratesse te garanderen. Het verbreden van parameters waarop gescand wordt is verder een inbreuk van privacy en vergoot het risico dat rechercheurs worden overspoeld met valse aantijgingen, die toch onderzocht moeten worden.

Apple onder vuur om plannen voor het doorspitten van privéfoto’s naar strafbaar materiaal | Villamedia

Een ander element in het Chat Control-voorstel is de wens tot leeftijdcontrole. De experts stellen dat het onmogelijk is die vast te stellen zonder inbreuk te maken op privacy als daarbij gebruik wordt gemaakt van biometrische gegevens, gedrag of contextuele informatie zoals de browsergeschiedenis. De experts stellen dat zo’n verplichting het aanleggen en uitbuiten van dataprofielen juist aanjaagt - óók die van kinderen.

Bijvoorbeeld het moeten tonen van een paspoort is volgens de experts buitenproportioneel en riskant, omdat het veel meer informatie deelt dan strikt nodig is. En wie geen documenten heeft of hun leeftijd niet op een andere manier kan verifiëren, wordt uitgesloten.

“Dit is geen technisch probleem, en daarom kan technologie dit niet op een bevredigende manier oplossen”, stellen de experts onomwonden.

Europarlementariër Patrick Breyer (Piratenparij) zegt dat de voorstellen voor leeftijdcontrole en vrijwillige scans nog altijd het recht op privacy en anonimiteit schenden. “Het gevecht gaat volgend jaar door!”, schrijft Meyer.

Gerelateerd beloofde de Europese Commissie afgelopen zomer dat het volgend jaar duidelijk zal maken hoe politiediensten toegang krijgen tot versleutelde gegevens, zonder daarbij fundamentele grondrechten van burgers en digitale veiligheid geweld aan te doen.

Ook die opdracht is intern met zichzelf in conflict, stelden maar tachtig privacy-experts en burgerrechtenbewegingen dit jaar in een open brief aan de Europese Commissie. “Het is technisch onmogelijk om de voorgestelde toegang aan te bieden, zonder daarbij encryptie te verzwakken. Elke ‘buitengewone toegang’ introduceert zwakheden die kunnen worden uitgebuit door kwaadwillenden en autoritaire regimes”, waarschuwen de ondertekenaars.

Ook de risico’s voor journalisten, zoals bronbescherming en garanties voor veilige communicatie zijn nog nauwelijks aan bod gekomen.