Google schort tijdelijk het genereren van afbeeldingen in Gemini op na zorgen over vooringenomenheid

De afgelopen week is de conversatie-AI van Google, Gemini, onder de loep genomen omdat deze vooroordelen vertoont in zijn vermogen om afbeeldingen van mensen te genereren. Gebruikers meldden dat wanneer ze Gemini vroegen om mensen in historische contexten of fictieve scenario’s te illustreren, de AI eerder figuren met donkerdere huidtinten zou weergeven. Dit leidde tot legitieme zorgen over mogelijke vooringenomenheid in het systeem.

In een verklaring erkende Google dat Gemini niet goed presteerde als het ging om het op een evenwichtige en inclusieve manier vertegenwoordigen van mensen met verschillende etniciteiten en achtergronden. Het bedrijf heeft besloten de mogelijkheid van zijn AI-chatbot om afbeeldingen voor mensen te genereren tijdelijk uit te schakelen.

Google stelde dat inclusiviteit en diversiteit uiterst belangrijke principes zijn. Het bedrijf wilde niet dat zijn technologieën zich op enigerlei wijze zouden verspreiden of vatbaar zouden zijn voor vooroordelen uit de echte wereld.

We werken al aan het oplossen van recente problemen met de functie voor het genereren van afbeeldingen van Gemini. Terwijl we dit doen, gaan we het genereren van afbeeldingen van mensen onderbreken en zullen we binnenkort een verbeterde versie opnieuw uitbrengen. https://t.co/SLxYPGoqOZ

— Google Communications (@Google_Comms) 22 februari 2024

Wanneer gebruikers Gemini nu vragen om een ​​afbeelding te maken, ontvangen ze een bericht waarin wordt uitgelegd dat de functie momenteel niet beschikbaar is, maar zal terugkeren zodra de bias-problemen adequaat zijn aangepakt.

Experts hebben (via AP News ) gezegd dat AI-beeldgeneratoren worstelen met diversiteit vanwege vooroordelen in hun trainingsgegevens, waarin vaak geen representaties van mensen van alle achtergronden voorkomen. Google lijkt vastbesloten deze beperkingen in Gemini aan te pakken voordat de functie opnieuw wordt ingeschakeld. Het wil ervoor zorgen dat het systeem alle soorten mensen op een objectieve en evenwichtige manier kan vertegenwoordigen.

Deze stap wordt gezien als een proactieve stap in de richting van het eerlijk en inclusief maken van AI-technologieën . Als onderdeel van deze beweging heeft de Amerikaanse regering in februari stappen ondernomen om de veilige ontwikkeling van generatieve AI te bevorderen. Apple, OpenAI en Microsoft sloten zich aan bij het allereerste consortium dat zich bezighield met protocollen rond AI.