Quand l’IA de Google dessine des officiers nazis à la peau noire

Google a interrompu l'accès à son intelligence artificielle Gemini après qu'elle a produit des images de vikings et d'officiers nazis à la peau noire.

Vanity Fair – Les robots n’ont visiblement rien compris au racisme. L’intelligence artificielle Gemini développée par Google a commis quelques images problématiques, repérées par des internautes : plusieurs productions montrent des Vikings à la peau noire ou, plus gênant : des officiers nazis noirs ou natifs-américains. Gemini a également dessiné le Pape ou les pères fondateurs des États-Unis en changeant leur genre ou leur couleur de peau.

« Nous travaillons déjà à résoudre les problèmes récents liés à la fonction de génération d’images de Gemini. Pendant ce temps, nous allons mettre en pause la génération d’images de personnes et publierons bientôt une version améliorée », a déclaré Google dans un communiqué. L’IA est depuis inaccessible au public.

Refléter la base utilisateurs

L’un des responsables de Gemini, Jack Krawkzyc, a indiqué que l’IA était entrainée pour « refléter sa base d’utilisateurs » lorsqu’elle devait par exemple produire des images d’une personne promenant son chien, mais que la prise en compte de critères historiques « posait plus de problèmes ».

Lire la suite

 

 

 

 

 

Source : Vanity Fair – (Le 22 février 2024)

 

 

Diffusion partielle ou totale interdite sans la mention : Source www.kassataya.com

Quitter la version mobile