Le 11 mai 1997, un programme informatique, « Deep Blue », battait le maître absolu des échecs Garry Kasparov. Un duel qui a marqué un tournant dans l’Histoire de la confrontation entre l’Homme et la machine. Pour la première fois, la suprématie de l’intelligence humaine a été remise en cause par les capacités d’un ordinateur, même si celui-ci a suscité une controverse quant aux capacités réelles du supercalculateur d’IBM. Près de vingt ans plus tard, c’est Google Alpha Go qui réédite l’exploit. Dès 2015, le programme qui s’appuie sur le Deep learning bat plusieurs champions du jeu de Go, un jeu de stratégie chinois, bien plus complexe que les échecs, grâce à ses 10170 combinaisons possibles. Un évènement historique. On prend dès lors conscience du pouvoir de l’intelligence artificielle. La machine ne reproduit plus des comportements préprogrammés, elle apprend par elle-même. Bref elle réfléchit. C’est une capacité cognitive qui n’était jusque-là réservée qu’aux êtres humains. L’intelligence artificielle et ses possibilités suscitent d’ailleurs l’enthousiasme des Gafa (Google, Amazone, Facebook, Apple). Le Deep learning assis sur un réseau de neurones artificiels est-il pour autant capable de rivaliser avec le cortex humain ? Rien n’est moins sûr. Les polémiques se multiplient quant aux dérives de l’exploitation de la Big Data et de l’intelligence artificielle. En 2015, ce sont les algorithmes de Google destinés à cibler la publicité affichée sur le web, selon les catégories d’internautes qui suscitent le scandale. L’introduction de noms de Noirs sur les moteurs de recherches induisait automatiquement des publicités associées aux questions de justice et de criminalité. Quelques mois plus tard, c’est le système de reconnaissance d’image de Google qui provoque l’indignation, car confondant les images de Noirs avec celles de gorilles. La réputation raciste de l’IA de Google était faite. En 2016, c’est le Chatbot (agent conversationnel), Tay lancé par Microsoft sur la plateforme Twitter qui fini par tenir des propos jugés racistes et sexistes au bout de 24 heures. En 2017, le recruteur virtuel d’Amazone finit par écarter toutes les candidatures féminines pour le recrutement au sein du géant du e-commerce. Le fait est que l’intelligence artificielle ne possède pas de conscience et encore moins de morale, la machine ne fait qu’apprendre des comportements introduits au fur et mesure et qu’elle reproduit, selon des critères qu’elle met à jour au fur et à mesure de l’exploitation de la Big Data. Ses seuls moteurs sont les modèles statistiques et prédictifs. Un état de fait qui risque d’induire d’autres dérives. Qui n’a pas été agacé par l’algorithme de Facebook, qui n’affiche que les actualités de 25 amis sur les centaines de personnes que l’on a sur son réseau, car partant du principe que les élus correspondent plus au profil ? Une situation qui risque de se répéter à l’infini. Un diagnostic médical établi sur la base de la race, ou de la zone géographique, n’est dans ce sens pas à écarter.
IDÉOLOGIE LIBERTAIRE
L’Intelligence artificielle et l’exploitation de la Big Data et des données personnelles sont aujourd’hui présentées comme l’outil pouvant résoudre les problèmes sociétaux. Mais il est clair qu’elles risquent aussi d’approfondir la fracture sociale, en sus du fossé numérique. A la promesse de produits sur mesure qui nous seront demain offerts, la technologie oppose la catégorisation des consommateurs. Dans le domaine de l’assurance par exemple, un souscripteur risque de se heurter à un refus de couverture, car ne répondant pas à des critères qui ne prennent pas en compte la dimension humaine. La catégorisation risque ainsi de déboucher sur une forme de conditionnement. Il ne s’agit pas là de promouvoir un scénario dystopique à la Big Brother, ni de s’opposer à la marche du monde, mais de prendre conscience que les nouvelles technologies, nées aux États-Unis, sont fortement empreintes d’idéologies libertaires, qui glorifient l’individu et la liberté individuelle au détriment de l’intérêt collectif et du lien social. Les dérives de ces technologies ne sont que le reflet des travers de leurs créateurs. L’intelligence artificielle gagnerait en ce sens dans la diversité de l’innovation, et des peuples qui non seulement y ont accès, mais aussi qui la maîtrisent.
