Google pauzeert AI-afbeeldinggenerator Gemini na kritiek op inaccurate resultaten

Gepubliceerd op 22/02/2024 23:00 in Tech

Google heeft besloten om tijdelijk te stoppen met het aanbieden van de mogelijkheid om afbeeldingen van mensen te genereren met behulp van de AI-technologie Gemini. Dit besluit volgt op kritiek van gebruikers die vonden dat de dienst onnauwkeurige resultaten opleverde.

Met Gemini konden gebruikers kunstmatige afbeeldingen genereren op basis van tekstuele beschrijvingen. Dit lijkt op technologieën van concurrenten, zoals de afbeeldinggenerator DALL-E.

Recent onderzoek heeft aangetoond dat dergelijke technologieën stereotypes kunnen versterken. Zo worden er bijvoorbeeld vaak afbeeldingen van mannen getoond wanneer er om een 'leider' wordt gevraagd, terwijl het verzoek om 'gevangenen' voornamelijk afbeeldingen van zwarte mensen oplevert.

Google beloofde aanvankelijk om met Gemini iets te doen aan deze stereotypes, maar al snel na de introductie werden er voorbeelden gedeeld van historisch onnauwkeurige resultaten. Zo toonde het systeem voornamelijk afbeeldingen van zwarte of Aziatische personen wanneer er om afbeeldingen van 'vikingen' of 'Nazi-soldaten' werd gevraagd.

Het besluit om de afbeeldinggenerator tijdelijk stop te zetten komt minder dan 24 uur nadat Google zijn excuses aanbood voor de onjuiste weergave van bepaalde historische figuren. Het bedrijf erkent dat Gemini een breed scala aan mensen genereert, maar dat dit in dit geval het doel heeft gemist.

Het offline halen van de functionaliteit is een tegenslag voor Google, dat graag voorop loopt in de ontwikkelingen rond kunstmatige intelligentie. Eerder werd het bedrijf verrast door de snelle opkomst van de concurrent OpenAI met ChatGPT. Als antwoord hierop lanceerde Google vorig jaar de AI-assistent Bard, die later werd omgedoopt tot Gemini met verschillende nieuwe functionaliteiten, waaronder de afbeeldinggenerator.

Google heeft aangekondigd dat het op korte termijn een 'verbeterde versie' van Gemini zal introduceren om tegemoet te komen aan de kritiek op de inaccurate resultaten.