Voorlopig akkoord over Europese regels voor kunstmatige intelligentie: wat houdt het in?

Gepubliceerd op 11/12/2023 22:00 in Economie

Na dagen van intensieve onderhandelingen is er afgelopen vrijdag een voorlopig akkoord bereikt over Europese regels voor kunstmatige intelligentie (AI). Hoewel veel details nog onduidelijk zijn en het nog even duurt voordat de regels van kracht worden, zal de wet grote gevolgen hebben voor AI in Europa. In dit artikel beantwoorden we vier vragen over wat er is afgesproken.

Wat wordt er verboden?

Het verbod op bepaalde aspecten van AI was een zeer omstreden onderdeel van de wet en heeft veel discussie veroorzaakt. GroenLinks-Europarlementariër Van Sparrentak, die betrokken was bij de onderhandelingen, legt uit: "We wisten dat het verbieden van realtime gezichtsherkenning op afstand niet haalbaar zou zijn. Daar hebben we compromissen over bereikt."

Het wordt onder andere verboden om ongericht data van gezichten te verzamelen van het internet of van beveiligingscamera's om zo een gezichtsherkenningsdatabase te creëren. Ook mag AI niet worden ingezet voor 'predictive policing', waarbij op basis van data wordt geprobeerd om misdaden te voorspellen. Van Sparrentak benadrukt dat de technische aspecten die hebben bijgedragen aan het toeslagenschandaal nu verboden zijn. Er zijn echter enkele uitzonderingen gemaakt waarbij opsporingsdiensten onder bepaalde voorwaarden gezichtsherkenning mogen gebruiken, zoals bij levensbedreigende situaties, directe dreiging van bijvoorbeeld een aanslag, en bij bepaalde misdaden waarbij al een verdachte in beeld is. Toestemming van een rechter, een mensenrechtentoets en het zoeken naar een specifiek persoon zijn vereist.

Komen er strenge regels voor chatbots?

Chatbots vallen onder de noemer 'general purpose AI', oftewel AI-systemen zonder specifiek doel die voor verschillende doeleinden kunnen worden ingezet. De strengheid van de regels hangt af van hun impact. Voor alle systemen geldt dat duidelijk moet zijn hoe ze werken, op basis van welke data ze zijn getraind en of ze geen auteursrechten schenden. Ook moet er transparantie zijn over hun energieverbruik.

De strengste regels zullen alleen gelden voor de 'meest geavanceerde' modellen, zo meldt een bron bij de Europese Commissie. Het is echter nog onbekend welke bedrijven hiermee te maken zullen krijgen. Bedrijven in deze categorie moeten testen uitvoeren om de nauwkeurigheid en beveiliging van hun modellen te waarborgen. Ook moeten zij onderzoeken welke risico's zij lopen en deze aanpakken. Van Sparrentak geeft aan dat ChatGPT-maker OpenAI heeft erkend dat zij al deze maatregelen nemen, maar dat zij dit niet wettelijk willen laten vastleggen. Vermoedelijk zal de meest geavanceerde versie van ChatGPT, GPT4, hieronder vallen, evenals de nieuwste technologie van Google, Gemini Ultra.

Gelden de regels ook voor Europese bedrijven?

Ja, de regels zijn ook van toepassing op Europese bedrijven. Dit betekent echter niet dat alle bedrijven even strenge regels krijgen opgelegd. Volgens de Spaanse minister voor Digitalisering en AI, die de lidstaten vertegenwoordigde tijdens de onderhandelingen, krijgen alle "Europese bedrijven zeer lichte verplichtingen". Tijdens de lobby voorafgaand aan de onderhandelingen werden twee Europese bedrijven, Mistral AI en Aleph Alpha, vaak genoemd. Van Sparrentak merkt op dat zij nog niet onder de strenge regels vallen omdat ze momenteel te klein zijn en nog niet genoeg impact hebben.

Wat betekent deze wet voor consumenten?

Allereerst hebben bedrijven en overheden de komende één tot twee jaar de tijd om te beoordelen of zij aanpassingen moeten doen bij het gebruik van AI. Voor consumenten moet het duidelijk zijn wanneer zij te maken hebben met een