«Dès qu’on essaie de définir l’intelligence artificielle, il devient évident qu’il s’agit d’un objet social», selon Anna Jobin. La chercheuse et maître-assistante à l’Institut Human-IST de l’Unifr s’explique: «Actuellement, il n’y a pas de définition de l’IA qui fasse consensus; cela déclenche forcément une petite alerte dans la tête de la chercheuse en sciences sociales que je suis…» Depuis le milieu des années 1950 et le célèbre atelier «Dartmouth Summer Research Project on Artificial Intelligence» – qu’on considère généralement comme l’évènement fondateur de l’IA en tant que domaine de recherche sous ce nom –, les contours de la discipline n’ont cessé d’évoluer. «Le débat sur la question de la définition reste ouvert, que ce soit dans les milieux de l’informatique, de la politique, de l’économie ou encore des médias». Car justement, l’une des particularités de l’IA, c’est qu’elle englobe de plus en plus de pans de la société.

Mais comment est-on passé de l’intelligence artificielle en tant que phénomène essentiellement technologique à l’IA en tant que phénomène social (et politique)? C’est l’une des questions qu’aborde «Shaping AI», un projet de recherche multinational et multidisciplinaire auquel participe Anna Jobin, qui examine l’évolution du discours public sur l’intelligence artificielle dans quatre pays (Allemagne, Royaume-Uni, Canada et France) sur la période 2012–2021. «L’étude n’est pas encore terminée, mais on peut déjà dégager quelques pistes», relève la Docteure en sciences sociales qui, parallèlement à ses activités à l’Unifr, exerce la fonction de chercheuse senior auprès de l’Alexander von Humboldt Institute for Internet and Society, à Berlin.

Des discriminations perpétuées

Au nombre des éléments qui ont contribué à faire basculer l’IA dans la grande famille des thèmes de société figurent plusieurs scandales et controverses récents. «Aux Etats-Unis, un dossier journalistique publié par ProPublica, et intitulé ‹Machine Bias›, a montré à quel point certains
programmes informatiques – basés sur l’IA – utilisés dans le système judiciaire et policier américain pour identifier de potentiels criminels peuvent être discriminatoires, voire arbitraires», relève Anna Jobin. Un autre projet américain baptisé «Gender Shades», mené par le MIT Media Lab, est pour sa part parvenu à la conclusion que certaines technologies de reconnaissance faciale sont drastiquement moins fiables dans le cas de femmes à la peau foncée que d’hommes à la peau claire. Ce n’est pas qu’une question de données de formation. «Loin de repartir à zéro, de nombreux logiciels basés sur l’IA reprennent les calibrages utilisés précédemment avec les technologies analogiques, ce qui contribue à perpétuer les discriminations.»

L’équipe de «Shaping AI» a par ailleurs constaté une évolution du traitement médiatique de l’intelligence artificielle ces dix dernières années. «Elle a de plus en plus tendance à être abordée d’un point de vue social et à migrer des rubriques technologiques vers d’autres rubriques, notamment société, politique ou encore économie.» A titre personnel aussi, Anna Jobin observe un déplacement de l’IA d’un objet purement technologique vers un objet social. «Prenons l’exemple de mes études universitaires: il y a une vingtaine d’années, j’ai dû obtenir une dérogation pour étudier simultanément la sociologie et l’informatique. Désormais, le numérique est partout; je suis invitée à présenter certaines thématiques liées à l’IA dans des cours de sociologie, de droit ou de sciences politiques.»

La gouvernance au centre

Logiquement, lorsqu’on aborde l’intelligence artificielle par le prisme de ses composantes sociales, le focus n’est pas le même que dans une approche purement technologique. «Actuellement, la question de la gouvernance est l’une des thématiques les plus saillantes en lien avec l’IA», constate la chercheuse. Après une prolifération de réglementations non contraignantes, telles que des directives et des principes éthiques, un changement s’opère. Côté législation, l’Union européenne finalise une loi sur l’IA, qui sera la première régulation internationale du genre au monde. Priorité affichée du Parlement européen: veiller à ce que les systèmes d’IA utilisés dans l’UE soient sûrs, transparents, traçables et non-discriminatoires. Quant au Conseil de l’Europe, il s’est doté d’un comité sur l’IA. Présidé actuellement par le Suisse Thomas Schneider, il est chargé d’établir une convention cadre sur l’intelligence artificielle, les droits de l’homme, la démocratie et l’Etat de droit. «Ces règlementations auront un impact concret sur le terrain, notamment au niveau des pratiques économiques.»

«Du point de vue des sciences sociales, il est pertinent de se demander qui a le pouvoir de dicter sa vision du monde.» Est-il possible de prévenir et/ou de contrer de nouvelles inégalités, qui viendront se greffer sur les inégalités existantes? Anna Jobin rappelle notamment que «pour les petites entreprises de nombreux secteurs économiques, il devient compliqué de rester compétitives face aux grandes qui sont en mesure d’amasser d’énormes quantités de données et d’exploiter ces dernières grâce à l’IA». Selon l’observatrice, la gouvernance en matière d’intelligence artificielle est confrontée à plusieurs pièges. «Un premier risque est de se perdre dans des nuances technologiques dont on n’a pas forcément besoin pour mieux gouverner notre société.» Un autre risque, c’est que les intérêts particuliers d’acteurs·trices individuel·le·s – plutôt que les intérêts généraux de la société – guident les réflexions.

Pas si verte que ça

Au-delà des questions de régulation, l’explosion du recours à l’IA en pose de nombreuses autres, dont plusieurs de nature éthique. La question des ressources est l’une d’entre elles. «On assiste à une véritable ‹AI race›, ou course à l’IA, entre les plus importantes nations industrialisées, telles que la Chine et les Etats-Unis; plus on est grand, plus on a accès aux data centers, etc.» Or, du côté des pays à la taille plus modeste, on se demande comment rester compétitif face à ces mastodontes de la technologie. «Récemment, j’étais en déplacement professionnel en Indonésie, où j’ai constaté que cette crainte était bien réelle, comme en Suisse d’ailleurs», rapporte l’observatrice. Avant d’ajouter que «s’il s’agit vraiment d’une course, personne ne la gagnera jamais puisqu’il n’y a pas de ligne d’arrivée».

Un autre aspect de l’IA qui fait couler de plus en plus d’encre est son impact environnemental. «Selon une étude dont les résultats n’ont pas encore été évalués par les pairs, il faut près d’un demi-litre d’eau pour refroidir un centre de données lors d’une conversation aller-retour avec ChatGPT, ce qui constitue une empreinte écologique assez effrayante!» Une pesée des intérêts – consistant à se demander dans quels cas l’utilisation de l’intelligence artificielle constitue vraiment une valeur ajoutée – doit donc absolument être opérée afin de limiter la casse. Il y a quelques années, une recherche conduite par une équipe de l’EPFZ – dont faisait partie Anna Jobin – a consisté à analyser des dizaines de chartes éthiques émanant d’organisations diverses et portant sur l’IA. Alors que des principes comme la transparence et la sphère privée, ou encore la justice et la non-discrimination, étaient présents dans la plupart des documents, «nous avons été surpris de constater que d’autres principes fondamentaux en étaient quasiment absents, notamment la durabilité et l’impact sur l’environnement».

Rares aussi étaient les chartes évoquant les conséquences de l’IA sur les systèmes de protection sociale ou la solidarité. Or, «la fracture Nord-Sud est bien là dans le domaine de l’intelligence artificielle, et pas seulement au niveau des matières premières». Et la chercheuse de citer le cas de celles et ceux qu’on nomme les «travailleurs du clic», ces personnes qui passent leurs jours (et souvent leurs nuits) derrière un ordinateur, à effectuer des tâches répétitives telles qu’identifier des motifs sur des images ou à mettre en ordre des données, ce pour un salaire souvent dérisoire. Il existe donc un décalage entre la vision euphorique des nouvelles technologies en général – et de l’IA en particulier – comme parfaitement vertes et égalitaires et la réalité, plus nuancée, constate Anna Jobin.

«On en revient à l’importance d’une gouvernance conçue de sorte à ce que l’IA soit utilisée pour le bien public, sans excès ni déséquilibres», conclut la docteure en sciences sociales. Encadrer et prévenir les dommages, voilà la clé. Le hic? «Certains de ces dommages sont invisibles dans l’immédiat, car ils concernent des questions plus larges, portant sur le long terme. Quelles sont les conséquences pour la démocratie et la cohésion sociale lorsqu’il est possible de diffuser massivement – et en quelques clics – des informations erronées? Comment un système de santé est-il impacté par la possibilité d’un triage automatisé selon des critères économiques? Notre confiance dans l’Etat de droit est-elle garantie si l’on confie à l’IA la gestion de domaines tels que la jurisprudence?»