Richtingenstrijd bij OpenAI onthult interne conflicten over de ontwikkeling van AI

Gepubliceerd op 03/12/2023 15:00 in Economie

OpenAI, het bedrijf dat streeft naar de ontwikkeling van Artificial General Intelligence (AGI), vierde deze week de eerste verjaardag van ChatGPT. Maar vorige maand stond de toekomst van het bedrijf op het spel door een grote crisis. Het onthulde een interne richtingenstrijd waarvan het laatste woord nog niet is gezegd.

De strijd draait om het tempo van de ontwikkeling van kunstmatige intelligentie (AI). Sommigen geloven dat snellere ontwikkeling de sleutel is tot het oplossen van grote problemen, terwijl anderen pleiten voor een meer voorzichtige benadering. Wim Nuijten, directeur van het AI-instituut van de TU Eindhoven, bekritiseert de gang van zaken bij OpenAI en stelt dat winstbejag lijkt te prevaleren boven verantwoorde implementatie van technologie met grote impact.

Het uiteindelijke doel van OpenAI is het bereiken van AGI, computers die slimmer zijn dan mensen. Dit zou de samenleving ingrijpend kunnen veranderen en zorgen oproepen over de mogelijkheid dat AI bepaalt wat het beste is voor de mensheid, zelfs tot het punt van uitroeiing. Antske Fokkens, hoogleraar Taaltechnologie aan de Vrije Universiteit, maakt zich echter meer zorgen over de huidige gevaren, zoals de verspreiding van misinformatie.

De ontslagen CEO van OpenAI, Sam Altman, gelooft dat de positieve effecten groter zullen zijn dan de negatieve. Maar niet iedereen binnen OpenAI deelt deze visie. Ilya Sutskever, een van de mede-oprichters van het bedrijf en een prominente AI-onderzoeker, is steeds meer overtuigd van de kracht van de technologie, maar ook van de potentiële gevaren ervan. Hij nam het besluit om Altman te ontslaan, maar kreeg daar later spijt van.

Jelle Zuidema, universitair hoofddocent explainable AI aan de Universiteit van Amsterdam, benadrukt dat er ook een groep is die zich wel zorgen maakt over de huidige effecten van AI, maar niet zoveel waarde hecht aan het existentiële gevaar.

Er wordt gespeculeerd dat OpenAI dit jaar een technologische doorbraak heeft bereikt, genaamd "Q*". Dit zou de systemen nog krachtiger maken en mogelijk ongerustheid onder medewerkers hebben veroorzaakt over de veiligheidswaarborgen. Onderzoekers zouden het bestuur hierover hebben gewaarschuwd, wat zou hebben bijgedragen aan het ontslag van Altman. Technieuwsbrief Platformer meldde echter dat het bestuur nooit zo'n brief heeft ontvangen.

Volgens Nuijten zou Q* een doorbraak betekenen in hoe AI redeneert. Het blijft echter onduidelijk of OpenAI deze mijlpaal daadwerkelijk heeft bereikt. Zuidema merkt op dat berichtgeving over technologische doorbraken ook bedoeld kan zijn om de concurrentie ervan te overtuigen dat OpenAI voorloopt.

Naast de interne richtingenstrijd, is er ook een strijd gaande over nieuwe regels voor AI. Deskundigen zijn het erover eens dat techbedrijven niet zonder toezicht AI kunnen ontwikkelen en pleiten voor regelgeving. In Europa wordt hieraan gewerkt, maar er is ook tegengestelde belangen tussen landen. Europarlementariër Kim van Sparrentak (GroenLinks) neemt deel aan de onderhandelingen en merkt op dat er stevig wordt gelobbyd door techbedrijven, waaronder OpenAI.