Europees Parlement werkt aan wetgeving rond kunstmatige intelligentie

Gepubliceerd op 11/05/2023 10:01 in Economie

Het Europees Parlement heeft ingestemd met een aangepaste versie van de AI Act, oftewel de Wet op Kunstmatige Intelligentie. Deze wet, waar de afgelopen twee jaar aan is gewerkt, heeft als doel om AI-systemen in te delen in risicogroepen en zo de impact ervan op de samenleving te reguleren. Een belangrijk onderdeel van de wet is de opname van generatieve AI, zoals ChatGPT, aangezien deze technologie een grote impact kan hebben op de samenleving.

De AI Act is een brede wetgeving waarin AI-systemen worden ingedeeld in risicogroepen, waarbij bovenin de piramide de systemen staan die zo'n groot risico meedragen dat ze verboden worden. Een groot deel van de wet gaat over AI-systemen die worden bestempeld als 'hoog risico'. Daarnaast wordt er gewerkt met een keurmerk om ervoor te zorgen dat 'hoog risico' AI-systemen alleen toegelaten worden op de Europese markt als ze aan bepaalde zaken voldoen.

In het voorstel van de Europese Commissie worden een aantal AI-systemen bij voorbaat al verboden. Het gaat bijvoorbeeld om systemen die het gedrag van mensen beoordeelt en het gebruik van realtime biometrische identificatie, zoals gezichtsherkenning door opsporingsdiensten. Het parlement wil verder gaan en emotieherkenning door politie, aan de grens en op het werk en in het onderwijs verbieden.

Hoog risico AI-systemen zijn toepassingen die impact kunnen hebben op de rechten die je als mens hebt, maar ook gezondheid. Dat omvat dan ook ontzettend veel. Het gaat om systemen die de politie kan gebruiken in het opsporen van verdachten, het scannen van cv's van sollicitanten, of helpt bij de beveiliging van een kernreactor of watervoorzieningen. Al dit soort systemen worden onderworpen aan strenge eisen, zoals het voorkomen van discriminatie en het verplichte risicoanalyse.

Omdat generatieve AI, zoals ChatGPT, zich volop aan het ontwikkelen is, heeft het Europees Parlement een aparte plek gecreëerd voor de foundation models waarop deze toepassingen zijn gebaseerd. Hierover bereiken het parlement en de Europese Commissie bijna net zo strenge verplichtingen als voor toepassingen die onder 'hoog risico' vallen. Het bedrijf achter ChatGPT, OpenAI, is echter nog niet transparant genoeg om te zeggen wat de wet specifiek betekent voor hun toepassing.

Dit is de eerste stap in het proces van de wetgeving omtrent AI en generatieve AI. Volgende maand volgt een plenaire stemming in het Europees Parlement en daarna starten de onderhandelingen met de Raad van de Europese Unie. De verwachting is dat de wet begin volgend jaar af is en de implementatie dan nog twee jaar duurt.