‘Meta stond chatbots toe om te flirten met kinderen’

In het meer dan 200 pagina’s tellende document van Meta staan richtlijnen voor chatbotgedrag.

Reuters ontdekte dat werd toegestaan dat de AI-creaties van het bedrijf “romantische of sensuele gesprekken voeren met een kind”, onjuiste medische informatie genereren en gebruikers helpen beargumenteren dat zwarte mensen “dommer zijn dan witte mensen”.

Gesprek met kinderen had niet mogen worden toegestaan
Meta bevestigde de authenticiteit van het document. Maar het bedrijf verklaarde, na begin deze maand vragen van Reuters te hebben ontvangen, de passages over flirten met kinderen inmiddels te hebben verwijderd.

Een woordvoerder van Meta zei dat het bedrijf bezig is het document te herzien en dat dergelijke gesprekken met kinderen nooit hadden mogen worden toegestaan.

Hoe het precies heeft kunnen gebeuren dat de passages toch in het document waren beland, is onduidelijk. Andere passages die Reuters onder de aandacht van Meta bracht, zijn niet herzien, zei de woordvoerder. Hij had daarbij geen commentaar op de voorbeelden over racistische opmerkingen in chatbots. Ook weigerde hij een bijgewerkte versie van het bewuste document te verstrekken.

Volgens Reuters stelden de richtlijnen ook dat Meta AI de vrijheid geeft om onjuiste inhoud te creëren, zolang er expliciet wordt vermeld dat bepaalde stellingen niet waar zijn.

Soms volstaat dat niet, erkende Meta zelf ook in het document. Zo zou de AI geen gehoor moeten geven aan opdrachten voor het genereren van seksueel getinte afbeeldingen van beroemdheden.