Duitse journalist valselijk beschuldigd van kindermisbruik door AI-chatbot

Gepubliceerd op 23/08/2024 17:00 in Buitenland

Een Duitse journalist, Martin Bernklau, is onterecht beschuldigd van kindermisbruik door de AI-chatbot Copilot. Bernklau, een voormalig rechtbankverslaggever uit Tübingen, ontdekte deze valse beschuldigingen toen hij Copilot vroeg hoe zijn artikelen werden ontvangen.

De chatbot omschreef hem als een veroordeelde kindermisbruiker, een psychiatrische vluchteling en een oplichter. Copilot beweerde zelfs dat Bernklau misdaden had gepleegd zoals fraude, diefstal en illegaal wapenbezit. Het lijkt erop dat de chatbot per ongeluk de journalist verantwoordelijk hield voor misdaden uit de rechtszaken waarover hij had geschreven.

Deskundigen, waaronder Laurens Naudts van het AI, Media & Democracy Lab, benadrukken dat AI-chatbots zoals Copilot associaties kunnen maken op basis van data en niet op zoek gaan naar de waarheid. Dit kan leiden tot vooroordelen en desinformatie.

Bernklau besloot naar de rechtbank te stappen wegens smaad, maar zijn klacht werd afgewezen omdat er geen echt persoon kon worden aangewezen als dader. Zelfs Microsoft aanvaardt geen aansprakelijkheid voor dergelijke fouten en stelt dat gebruikers akkoord gaan met de algemene voorwaarden waarin staat dat zij niet verantwoordelijk zijn voor de antwoorden van de chatbot.

Er is nog onduidelijkheid over wat burgers kunnen doen als een chatbot verkeerde informatie verspreidt. Corien Prins, hoogleraar Recht en Informatisering, oppert dat het recht op vergetelheid mogelijk kan worden ingezet. Dit houdt in dat mensen het recht hebben om bepaalde gegevens te laten verwijderen.

Per 1 augustus is de AI-wet in Europa van kracht gegaan, die meer transparantie en regels oplegt aan AI-chatbots. Hoe dit zal uitpakken voor zaken zoals die van Bernklau, blijft onzeker.

Bernklau laat zich echter niet ontmoedigen en beschouwt de uitspraken van de chatbot als karaktermoord. Hij blijft strijden tegen kunstmatige intelligentie. Naudts waarschuwt ondertussen dat mensen voorzichtig moeten zijn met het gebruik van AI-chatbots als zoekmachine en zich bewust moeten zijn van de risico's die eraan verbonden zijn.