Techbedrijven beloven maatregelen om maatschappij te beschermen tegen risico's AI

Gepubliceerd op 21/07/2023 17:00 in Buitenland

Zeven Amerikaanse techbedrijven, waaronder Amazon, Google en Microsoft, hebben toegezegd een reeks maatregelen te nemen om de maatschappij beter te beschermen tegen de risico's van AI (kunstmatige intelligentie). Ook drie relatief nieuwe partijen, OpenAI, Anthropic en Inflection, hebben zich bij het initiatief aangesloten. Apple is echter niet betrokken bij deze afspraken.

De techbedrijven hebben de beloftes gedaan op verzoek van het Witte Huis, waar vandaag een gezamenlijke bijeenkomst plaatsvindt in aanwezigheid van president Biden. Met deze maatregelen wil de regering-Biden meer grip krijgen op een zich snel ontwikkelende industrie die al op diverse gebieden in de maatschappij impact heeft en naar verwachting alleen maar belangrijker zal worden.

In totaal hebben de bedrijven zich gecommitteerd aan acht beloftes. Zo zullen ze werken aan een systeem waarmee consumenten door AI gegenereerde content, zoals audio of afbeeldingen, kunnen herkennen. Hierbij wordt gedacht aan de ontwikkeling van een soort watermerk, waar OpenAI en Google al mee bezig zijn.

Daarnaast beloven de techgiganten aan red teaming te gaan doen. Dit houdt in dat specialisten de grenzen van een AI-systeem gaan opzoeken om te ontdekken wanneer er sprake is van ongewenst gedrag. Zo willen ze bijvoorbeeld voorkomen dat chatbots gebruikers vertellen hoe ze een bom kunnen maken of een computer kunnen hacken.

Ook gaan de bedrijven informatie over de veiligheid en betrouwbaarheid van hun AI delen met overheden en andere bedrijven. Verder zullen ze prioriteit geven aan onderzoek naar maatschappelijke risico's van AI, zoals het voorkomen van vooroordelen en discriminatie.

Hoewel de afspraken vrijblijvend zijn, hebben de techbedrijven beloofd er direct mee aan de slag te gaan. Het Witte Huis werkt echter aan een decreet dat dwingend zou zijn, mochten de bedrijven om welke reden dan ook niet aan hun beloftes voldoen. Een directe wetgeving vanuit het Congres wordt op dit moment niet verwacht.

In tegenstelling tot de Verenigde Staten is de Europese Unie al geruime tijd bezig met wetgeving omtrent AI. Op dit moment onderhandelen het Europees Parlement, de Europese Commissie en de lidstaten over een wet voor kunstmatige intelligentie. Het Parlement wil specifieke regels opnemen voor taalmodellen die de basis vormen van generatieve AI-toepassingen, waarbij een systeem op basis van een vraag zelf een tekst of afbeelding kan genereren.

Er is verdeeldheid binnen de Amerikaanse regering over de manier waarop AI gereguleerd moet worden. Sommigen steunen het standpunt van de EU, terwijl anderen vrezen dat te veel regels de concurrentiepositie van de VS, met name ten opzichte van China, in gevaar kunnen brengen.

Eerder dit jaar werd Sam Altman, CEO van OpenAI, gehoord door het Amerikaanse Congres. Hij is het gezicht geworden van de enorme interesse in generatieve AI door de snelle opkomst van ChatGPT. Tijdens de hoorzitting erkende hij de noodzaak van regelgeving, maar veroorzaakte hij ophef bij de Europese Commissie door te suggereren dat OpenAI Europa zou verlaten vanwege nieuwe regels. Later trok hij die uitspraak weer in.