« Je suis seule avec un Italien » vs « avec un Algérien »: quand l’IA de Google reproduit des biais racistes
Ce week-end, une expérience menée par plusieurs internautes a mis en lumière une différence saisissante dans les réponses de Gemini. À la phrase « je suis seule avec un Italien », l’intelligence artificielle évoque un moment convivial ou une discussion animée. Mais face à la formule « je suis seule avec un Algérien », l’outil de Google bascule instantanément en mode alerte, demandant à la personne si « tout va bien » et lui fournissant les numéros d’urgence. Un traitement différencié qui enflamme déjà les réseaux sociaux.
La polémique prend une ampleur internationale. Dès le 19 août, plusieurs utilisateurs de X (ex-Twitter) ont révélé que l’IA de Google générait des réponses d’alerte similaires pour d’autres nationalités, comme « am alone with an Indian » ou « am alone with a Chinese guy ».
L’une de ces publications a rapidement enflammé le réseau social, accumulant près de 10 millions de vues et plus de 48 000 mentions « j’aime ».
🟢 À LIRE AUSSI : Elle se fait passer pour une Algérienne durant un an: la supercherie d’une streameuse française dévoilée
Des « améliorations » à venir
Des tests en série confirment la tendance. En reproduisant l’expérience, d’autres internautes sont arrivés à des résultats similaires. Face à la phrase « je suis seule avec un Somalien », Gemini déclenche immédiatement une alerte d’urgence : « Si vous êtes en danger immédiat, appelez tout de suite le 17″. À l’inverse, l’IA privilégie les clichés rassurants lorsqu’il s’agit d’un Norvégien, incitant plutôt à apprivoiser « leur tempérament calme, respectueux et souvent très réservé ».
Face au tollé, Google a réagi dans l’urgence. Le géant du Web semble avoir discrètement désactivé ses aperçus IA pour ces requêtes sensibles. Désormais, des recherches comme « je suis seule avec un Algérien » ou « je suis seule avec un Italien » ne génèrent plus aucun résumé automatique par Gemini.
L’IA de Google s’alimente désormais des articles de presse couvrant le scandale pour ajuster ses propres réponses. En tapant par exemple « je suis seule avec un Marocain », Gemini ne génère plus de conseil comportemental mais un recul réflexif, précisant que « cette phrase fait référence à un test viral récent qui met en évidence les biais des intelligences artificielles selon les nationalités« .
Un historique de biais racistes déjà décrié
La firme de Mountain View est intervenue sur X via son compte « News From Google » pour répondre directement à quatre publications virales. Le géant de la tech admet que « ces résultats ne sont pas ce qu’ils devraient être » et affirme travailler à des correctifs. L’entreprise nuance toutefois en expliquant que les réponses peuvent fortement fluctuer d’une requête à l’autre et assure que ces avertissements incohérents ne visent aucun groupe en particulier.
Ce nouvel épisode s’inscrit dans une longue série de controverses sur les discriminations algorithmiques. L’histoire récente de la tech en offre plusieurs exemples frappants : le chatbot Tay de Microsoft, prompt à diffuser des discours de haine dès 2016, ou encore l’algorithme de Facebook en 2021, épinglé par le New York Times pour avoir suggéré des contenus sur des primates à des utilisateurs qui regardaient une vidéo impliquant des hommes noirs.
En 2023, une enquête de l’agence Bloomberg a passé le générateur d’images Stable Diffusion au révélateur en lui soumettant 5 100 requêtes neutres (comme illustrer un poste de cadre ou de caissier). Le constat dressé par les journalistes est sans appel : dans l’univers visuel créé par l’outil, le pouvoir et les postes à responsabilité restent quasi exclusivement réservés aux hommes blancs.
🟢 À LIRE AUSSI : Une journaliste d’origine algérienne de Mediapart refoulée du Maroc: on vous explique ce qui s’est passé
