Watermerk voor ChatGPT-teksten technisch klaar; OpenAI huiverig voor invoering

ChatGPT wordt intussen regelmatig door studenten ingezet om in seconden essays en research papers te schrijven, wat volgens Wired een kleine wapenwedloop rondom AI-detectie heeft uitgelokt. Docenten zeggen te snakken naar een methode om AI-teksten te kunnen detecteren.

Volgens WSJ zou OpenAI zich zorgen maken over ‘buitenproportionele’ gevolgen voor niet-Engelssprekende gebruikers, zonder te duiden waarom precies.

Het watermerk zou echter al ruim een jaar geleden technisch zijn afgerond en enkel nog op implementatie wachten. “Het is één druk op de knop”, aldus een ontwikkelaar tegenover WSJ. De herkenning zou zijn gebaseerd op het systeem waarmee ChatGPT nu al tekst genereert, waarbij wordt voorspeld welke woorden elkaar het meest waarschijnlijk opvolgen.

Het aanzetten van dit watermerk bleek de kwaliteit van de geproduceerde teksten niet te verslechteren. “Het gebrek aan tekst-watermerken is met die kennis niet goed te verdedigen”, aldus interne documenten waaruit WSJ citeert.

Mensen zouden de watermerk-patronen niet kunnen herkennen, aldus OpenAI. Voor tekst afkomstig uit ChatGPT zou die detectie 99,9 procent van de gevallen correct identificeren. Vertaling en terugvertaling kan detectie ondergraven, net als het toevoegen en verwijderen van emoji’s, aldus een OpenAI-werknemer. Meer bij Wall Street Journal