Tribune · Publié le

Tribune : « Pas d’IA éthique sans débat civique »

Dans Usbek & Rica, Carine Sit plaide pour que le citoyen prenne enfin part au débat sur l’intelligence artificielle, et présente le premier festival IAgora.

Des participants assis écoutent une présentation dans une salle décorée de fanions, lors du premier festival IAgora en 2024.

Le 7 mai 2024, quelques semaines avant le premier festival IAgora, le magazine Usbek & Rica publiait une tribune de Carine Sit, alors fondatrice et présidente de l’association Civilian.

Le grand absent du débat sur l’IA : le citoyen

L’intelligence artificielle est largement discutée dans les cercles économiques, politiques et juridiques. Pourtant, ce sont les vies de millions de personnes qu’elle transforme déjà, dans la santé, l’éducation, le travail, l’information ou le service public.

La tribune rappelle plusieurs dérives : l’algorithme de détection de fraude aux Pays-Bas qui a injustement endetté des milliers de familles, les outils d’évaluation du risque de récidive aux États-Unis au biais raciste démontré, ou encore l’algorithme de notation de la CAF, discriminatoire envers les mères célibataires et les personnes en situation de handicap.

Des arbitrages qui nous concernent toutes et tous

Au-delà de la fiabilité des systèmes, il faut questionner la pertinence même d’y recourir, au regard de leur coût environnemental et social. Ces choix collectifs ne peuvent rester l’affaire d’experts : ils doivent entrer dans le débat public, au plus près des citoyens. Cela passe par la formation du plus grand nombre et par des espaces où chacun peut dessiner les futurs qu’il juge désirables.

IAgora, pour dépasser les fantasmes

Parmi les initiatives citées, la convention citoyenne sur l’IA de la Métropole de Montpellier et le premier festival IAgora, organisé le 1er juin 2024 à la Maison de la Conversation : des ateliers, des tables rondes et des démonstrations pour aller au-delà d’une vision fantasmée ou manichéenne de l’IA, et permettre à chacun de se faire son propre avis.