Google zegt dat er twee dingen zijn gebeurd die de problemen met de Gemini AI-beeldgenerator van deze week hebben veroorzaakt

Eerder deze week begonnen mensen te melden dat de functie voor het genereren van afbeeldingen in de Gemini-chatbot (voorheen Bard) van Google kunstwerken maakte die ongepast waren. Meer specifiek beeldde het systeem mensen met een donkere huidskleur af in historische of fictieve rollen die niet geschikt waren voor die personages.

Nadat de kunst was gerapporteerd, kondigde Google aan dat het Gemini’s mogelijkheid om kunstwerken van mensen te maken met zijn beeldgenerator tijdelijk zou stopzetten . Vrijdag laat gaf het bedrijf in een blogpost uitleg over wat er met Gemini was gebeurd .

Ook wilde het niet dat de chatbot afbeeldingen zou maken van echte mensen.

Tegelijkertijd wilde Google Gemini ook toestaan ​​een reeks etniciteiten weer te geven als iemand de chatbot om meer algemene afbeeldingen vroeg, zoals mensen uit een voetbalteam. Als iemand een bepaald type persoon afgebeeld wil hebben, zoals een blanke dokter of een zwarte leraar, dan zou Gemini dat kunstwerk ook moeten kunnen maken.

Raghavan schreef vervolgens dat twee specifieke dingen in de tekstprompt vangrails van Gemini ervoor zorgden dat de ongepaste afbeeldingen van deze week konden worden gemaakt:

Ten eerste heeft onze afstemming om ervoor te zorgen dat Gemini een reeks mensen liet zien, geen rekening gehouden met gevallen die duidelijk geen reeks zouden moeten laten zien. En ten tweede werd het model in de loop van de tijd veel voorzichtiger dan we hadden bedoeld en weigerde het om bepaalde aanwijzingen volledig te beantwoorden – waarbij sommige zeer ongebruikelijke aanwijzingen ten onrechte als gevoelig werden geïnterpreteerd.

Deze twee dingen leidden ertoe dat het model in sommige gevallen overcompenseerde en in andere gevallen overconservatief was, wat leidde tot beelden die beschamend en verkeerd waren.

Er is geen woord over hoe lang Google zal nodig hebben om de vangrails te repareren, zodat het maken van kunst met mensen in de Gemini-afbeeldingsgenerator weer wordt ingeschakeld. Raghavan verklaarde wel dat hoewel hij niet kan beloven dat Gemini nooit aanstootgevende kunstwerken zal maken, Google “actie zal blijven ondernemen wanneer we een probleem identificeren.”