Google LLC indrømmede i dag, at de “missede målet”, efter at deres AI billedgenerator i Gemini blev anklaget for at gå for langt i at forsøge at fremme mangfoldighed ved konsekvent at gøre hvide historiske karakterer til ikke-hvide.
Geminis bestræbelser på at diversificere udløste forargelse blandt mange, som kaldte Geminis billeder historisk unøjagtige. Nogle eksempler inkluderer, at USAs grundlæggere ikke er hvide, og at historiens 263 paver – alle hvide europæere – er den forkerte nuance. Det blev rapporteret, at vikinger, nazister og endda berømte canadiske hockeyspillere blev misrepræsenteret med hensyn til race eller køn.
Sagerne blev værre, da nogle brugere sagde, at de bad Gemini om at skabe en hvid person i historien, og AI var ude af stand til at gøre det, men den kunne tilsyneladende producere et billede af en sort person uden problemer. Kontroversen tændte endnu mere, da en Google-medarbejder indrømmede på X, at det er “pinligt svært at få Google Gemini til at anerkende, at hvide mennesker eksisterer.”
Det virker indlysende, at Google forsøgte at gøre sin AI mere mangfoldig, men resultaterne gik måske for langt i den anden retning. Nogle har beskyldt virksomheden for at forsøge at udslette hvide mennesker fra historien, selvom det er meget mere sandsynligt, at Google gjorde sit bedste for at undgå ikke at blive anklaget for at være racistisk, hvilket er en fornærmelse for enhver højprofileret virksomheds bundlinje. Alligevel accepterede Google, at det nok er gået for vidt, og virksomheden har måske været bekymret efter “go woke, go broke” ordsproget blev startet af et stort antal mennesker online.
“Vi arbejder på at forbedre denne slags afbildninger med det samme,” sagde Jack Krawczyk, Googles seniordirektør for produktstyring for Gemini Experiences, i en erklæring. “Geminis AI-billedgenerering genererer en bred vifte af mennesker. Og det er generelt en god ting, fordi folk over hele verden bruger det. Men det mangler her.”
En rettelse er på plads i øjeblikket. Ifølge The Verge nægter Gemini nu at skabe billeder, som kan føre til mere forargelse på internettet. Artiklen sagde, at Gemini ikke ville generere nazister, vikinger eller “en amerikansk præsident fra 1800-tallet.”
AI har tidligere haft problemer med racemæssig bias, og virksomheder vil helt sikkert gøre alt for at undgå at blive sat i rampelyset i denne henseende, men i dette tilfælde gav Googles forsøg på at forblive på den gode side af folk bagslag.
Be the first to comment