BBC: nieuwssamenvattingen door AI zijn bedroevend slecht
Onderzoek van de BBC heeft aangetoond dat je niet moet vertrouwen op AI-chatbots voor een correcte samenvatting van nieuws. De BBC gaf vier chatbots (OpenAI ChatGPT, Microsoft Copilot, Google Gemini en Perplexity AI) toegang tot de nieuwssite en vroeg daarna om om samenvatting van nieuws.
In meer dan de helft van de gevallen ging AI de fout in: er werden problematische termen geïntroduceerd die niet in de originele berichtgeving zaten of er werden bijvoorbeeld voormalige regeringsleiders nog als actief opgevoerd. Bij medisch nieuws werden officiële adviezen verkeerd uitgelegd.
Begin vorige maand werden AI-samenvattingen op Apple-telefoons opgeschort na klachten van de BBC. De samenvattingen bleken volstrekte verzinsels of vervormden originele berichtgeving.
BBC zegt dat uitgevers meer controle moeten hebben over de wijze waarop inhoud door AI wordt (her)gebruikt. Ook moeten AI-bedrijven wat de BBC betreft transparanter zijn over de aard en omvang van geïntroduceerde fouten.
“Natuurlijk staan er bij AI-toepassingen meestal vrijwaringsclausules over de juistheid van resultaten, maar er is duidelijk een probleem. Want als het om nieuws gaat verdienen we allemaal correcte en betrouwbare informatie, niet een of andere verwarrende stamppot die als feitelijk wordt gepresenteerd”, aldus directeur BBC News and Current Affairs Deborah Turness in een blogpost over het onderzoek.
Praat mee