Débat : Communs, Algorithmes et IA, à la recherche de l’éthique dans un climat tendu

Débat IMSIC et CREIS-TERMINAL le 17 janvier 2024 17h30-19h

« Communs, Algorithmes et IA, à la recherche de l’éthique dans un climat tendu »

Creis-Terminal (CT) et les Rendez-vous de l’IMSIC ont organisé un débat en ligne et en présentiel à l’IUT d’Aix (Site Gaston Berger), animé, par Anne Gagnebien, (MCF en sciences de l’information et de la communication et membre du conseil d’administration de Creis-Terminal)et Alexandra Salou (IMSIC).

L’événement vise à explorer les défis éthiques liés à la convergence des communs, des algorithmes et de l’IA, offrant une opportunité pour mieux comprendre grâce aux intervenants comment concilier innovation technologique et valeurs éthiques dans un monde en constante évolution.

Les discussions aborderont des thèmes cruciaux tels que la propriété des ressources partagées, les biais algorithmiques, la transparence, la responsabilité, et la manière de garantir une utilisation éthique de l’IA. Ce débat en ligne se positionne comme une occasion pour les participants d’engager une réflexion collective sur la manière dont la société peut naviguer à travers les enjeux éthiques complexes découlant des avancées technologiques, tout en cherchant des solutions éthiques et équitables pour l’avenir du numérique.

Compte-rendu du débat

Anne Gagnebien, Alexandra Salou animent et accueillent :

Intervenants : David Chavalarias (Directeur de recherche au CNRS et de l’ISCPIF), Antoine Henry (MCF en Science de l’information et de la communication à Lille et chercheur au laboratoire GERIICO), et Alexis Kaufmann (Fondateur de l’association Framasoft).

Discutants : Cédric Gossart (UPSaclay, CREIS-TERMINAL), Dominique Desbois (INRAE, CREIS-TERMINAL), avec Alexandra Salou (IMSIC), Nicolas Rochet (DataForGood).  

Organisation : Anne Gagnebien (Maîtresse de conférences en sciences de l’information et de la communication).

Présentation de Creis – Terminal

Fondée en 2010, l’association CREIS-Terminal résulte de la fusion de Creis et de CIII-Terminal. Elle regroupe majoritairement des chercheurs, des enseignants-chercheurs et des professionnels issus de divers domaines (droit, économie, gestion, informatique, psychologie, sociologie, etc.). Son objectif est de conduire et partager des études sur les interactions entre la société et les TIC. Elle s’efforce d’organiser différentes initiatives pour alerter sur les impacts possibles de l’informatisation sur la société. Elle diffuse ses travaux via des journées d’étude, son site web, la publication Terminal et des conférences. La revue Terminal, lancée en 1980 et devenue trimestrielle en 1993, offre des analyses critiques sur les transformations, les défis culturels et sociaux engendrés par l’informatisation de la société.

Présentation des intervenants

David Chavalarias est un chercheur français spécialisé dans les domaines de la modélisation mathématique et de la simulation des systèmes complexes, ainsi que dans l’étude des dynamiques sociales et des phénomènes de propagation sur Internet et sur les réseaux socionumériques. Il travaille à l’intersection de l’informatique, des sciences sociales, et de la théorie des graphes, avec un intérêt particulier pour l’analyse des dynamiques d’opinion (Politoscope et Climatoscope), la diffusion de l’information, et l’émergence des innovations. Il est directeur de recherche au Centre National de la Recherche Scientifique (CNRS) et à l’Institut des Systèmes Complexes de Paris Île-de-France (ISC-PIF), où il a contribué à développer des outils et des méthodes pour analyser les grandes masses de données générées par les activités humaines sur le web et sur les réseaux socionumériques.

Alexis Kaufmann est le cofondateur de l’association Framasoft qui promeut le logiciel libre et collaboratif. Il a joué un rôle important dans le développement et la promotion de Framasoft contribuant ainsi à sa croissance et à son expansion dans l’espace francophone. Outre son implication chez Framasoft, Alexis Kaufmann est reconnu pour son engagement en faveur du libre accès à la connaissance et de la culture libre, participant à diverses initiatives et projets qui visent à promouvoir ces principes sur Internet et dans le domaine de l’éducation. En 2021, il rejoint la Direction du Numérique pour l’Éducation au ministère de l’Éducation nationale en tant que chef de projet logiciel libre et ressources éducatives.

Antoine Henry est maître de conférences en sciences de l’information et de la communication à l’Université de Lille. Il contribue activement au sein de l’axe 4 du GERIICO, centré sur les dynamiques de circulation de l’information et l’organisation des savoirs. Ses recherches se focalisent sur les enjeux liés au numérique (intelligence artificielle, communs numériques, éthique des algorithmes), la métamorphose organisationnelle et le développement de l’intelligence collective. Il est également administrateur au sein du conseil de l’ISKO France et participant actif dans le collectif de recherche du Centre Internet et Société (CNRS UPR 2000), où il co-dirige le groupe dédié à l’intelligence artificielle, l’art et la créativité.

Présentation du débat

Le débat avait pour ambition de plonger au cœur des questionnements éthiques soulevés par l’interconnexion croissante entre les communs du numérique, les algorithmes et l’intelligence artificielle. En rassemblant un panel diversifié d’experts, de chercheurs et de praticiens du domaine, cette rencontre offrait une excellente opportunité d’explorer en profondeur comment les technologies émergentes pouvaient s’harmoniser avec les principes éthiques fondamentaux dans un paysage global en mutation rapide et dans un climat tendu. Les discussions visaient à déchiffrer les complexités inhérentes à la fusion des progrès technologiques avec les impératifs de justice sociale, de transparence et de responsabilité sociale et écologique. Par le biais d’échanges pluridisciplinaires et de cas d’étude, les participants étaient encouragés à réfléchir sur les meilleures pratiques pour intégrer respectueusement l’innovation dans le tissu social, tout en préservant l’intégrité et les valeurs éthiques dans le développement et l’application de l’IA et des algorithmes. Cette initiative aspirait à éclairer les voies vers une coexistence bénéfique entre avancée technologique et respect des droits humains, posant les fondations pour une future collaboration éthique dans le domaine numérique.

En amont de ce débat, les intervenants avaient participé à une conférence intitulée : IA, algorithmes et Communs du Numérique à destination des étudiants du Bachelor Universitaire Technologique en Informatique. L’objectif était que les étudiants qui sont les développeurs de demain vont être amenés à développer les futurs logiciels, les sites Internet, l’intelligence artificielle. Il est donc pertinent de les initier à l’éthique dans le développement d’une application informatique, à l’impact des nouvelles technologies sur les usages et les pratiques professionnelles actuelles et futures.

Questions discutées

Q1 – Réseaux sociaux et communs numériques

Dominique Desbois pose la question du rapport entre communs et espaces publics de communication. David Chavalarias prend le cas des enjeux climat et de Twitter, citant le rapport dont il est co-auteur, et qui a notamment analysé les dynamiques des débats biaisés par la plateforme (contributeurs sceptiques, d’autres qui se réfèrent au GIEC)1. Cette analyse des traces numériques souligne les biais introduits par des militants très actifs dans les débats ayant lieu sur des réseaux sociaux numériques, qui sont des espaces d’échanges publics mais hébergés par une plateforme privée. Celle-ci joue donc un rôle important dans la société mais elle introduit des biais, qui pourraient être limités par le développement de communs numériques, dont la gouvernance et la gestion échapperait à toute logique commerciale.

Q2 – Plateformisation et responsabilité

Cédric Gossart souligne la responsabilité des plateformes dans la construction d’un système sociotechnique numérique responsable (ou non), et le fait que les sources de responsabilité (et d’irresponsabilité) sont distribuées2. Il pose alors la question du rôle des métaorganisations dans la construction d’un système sociotechnique responsable, comme le GPAI (partenariat mondial sur l’IA) pour l’intelligence artificielle, ou dans le libre la fondation Mozilla. Celles-ci sont sources de normes (droit mou) et ont une influence sur le droit dur (législations).

Alexis Kaufmann mentionne le rôle joué par le mouvement des Licoornes, ces coopératives pour la transition qui tentent de rebattre les cartes de systèmes sociotechniques dominants, mais qui restent malgré tout dominées par les GAFAM dans le secteur numérique, où semble pratiquée une « informatique de l’asservissement ». Il y a de la place pour l’établissement de protocoles communs en pratiquant une forme de « coopétition » et en mettant en place une gouvernance partagée des communs numériques3.

Antoine Henry avance que la réflexion sur les coopératives est d’ordre politique : quelle société voulons-nous ? C’est l’affaire d’un ensemble de parties-prenantes et fort est de constater qu’il y a un effort à faire en matière de responsabilisation dans des systèmes qui ont tendance à déresponsabiliser les acteurs, face à des GAFAM qui s’agitent au niveau politique y compris dans l’Union, et de citoyens qui ne sont pas seulement des consommateurs mais des acteurs dotés d’une capacité d’action politique. Des organismes intermédiaires peuvent certes jouer un rôle en proposant des protocoles communs interopérables, aux codes ouverts et dotés d’une gouvernance partagée de la ressource pour produire des communs. Aujourd’hui la valeur du Libre est captée par des prédateurs et on assiste à une véritable « tragédie des communs numériques », y compris en matière d’infrastructures (les câbles sous-marins sont gérés par des acteurs privés).

Q3 – Fractures numériques

Un participant (Valérian) demande dans le tchat, si l’on veut parler d’infrastructures numériques, qu’il faut rappeler que le déploiement de la fibre a été laissé au privé dans les zones denses (grosses villes) et confié aux départements dans les zones moins denses. On s’éloigne de l’IA, mais l’État délaisse son rôle en termes de production d’infrastructure. Plusieurs éléments de réponse ont été apportés et sont résumés ci-dessous.

En matière de coût de régulation et de protection des communs, si l’on suit Elinor Ostrom la régulation dépend aussi du coût de la régulation par rapport à la valeur de l’usage des communs. Le risque est que, avec l’accroissement de l’engagement d’acteurs privés à but lucratif, l’on ait de plus en plus de contenus toxiques avec une régulation faible des contenus, car une régulation forte coûte cher. Les métriques de mesure d’audience peuvent jouer un rôle dans la prolifération de contenus toxiques. On n’a pas ce problème dans les réseaux sociaux Libres (e.g. Mastodon) où chacun peut développer, d’où une diversité d’algorithmes favorisant une éthique des contenus et une modération distribuée.

Par ailleurs certains débats dits publics sont fortement contraints comme dans le cas du grand débat national, il y a eu un débat sur des données dont on connaissait mal la méthode de production qui manquait de rigueur scientifique, système fermé par crainte de critique de la part des chercheurs ? Ce verrouillage de l’expression démocratique a poussé le débat dans la rue avec le mouvement des Gilets jaunes. Cédric Gossart précise dans le tchat qu’il a collaboré avec la plateforme citoyenne POLITIZR où les débats étaient complètement libres.

Dominique Desbois insiste sur la nécessité de conduire des recherches épistémologiques sur le statut de la preuve au sein des différentes communautés d’intérêt, car il est différent selon les communautés au fil de leurs échanges et dans les espaces publics de discussion ou « communs communicationnels », comme les nomme David Chavalarias.

Q4 – Numérique libre et impacts écologiques

Cédric Gossart pose une dernière question sur les enjeux écologiques : dans quelle mesure le numérique libre est-il plus écologique que ses alternatives propriétaires ?

Antoine Henry avance plusieurs éléments de réponse, à commencer par la sobriété du Libre, où il y une mutualisation des moyens mais aussi dont l’ouverture fait qu’ils sont distribués et donc moins faciles à noyauter. Il y a une diversité en matière d’ergonomie, la modération est distribuée et peut donc être corrigée, il y a moins la pression de la lucrativité, et les données ouvertes favorisent la création de communs et la participation de toutes et tous (science ouverte). Il faut toutefois faire attention au « commons washing », car les communs deviennent à la mode et de nombreux acteurs peuvent s’en revendiquer4

Au sujet de l’impact écologique du numérique, l’ARCEP et l’ADEME ont publié un rapport, mais sans grande transparence en matière méthodologique (des acteurs privés ont réalisé des évaluations pour l’ARCEP…), tout devrait être ouvert y compris dans un souci de reproductibilité des résultats.

Cédric Gossart insiste sur le fait que la question de la gouvernance partagée est essentielle, y compris pour améliorer l’évaluation des impacts écologiques du numérique (notamment les effets indirects), ainsi que la transformation d’un système sociotechnique dans son ensemble. Voir par exemple les actions de BOAVIZTA, qui développe des ressources sous licences libres dédiées à l’évaluation de ces impacts.

1 Voir David Chavalarias, Paul Bouchaud, Victor Chomel, Maziyar Panahi (2023). Les nouveaux fronts du dénialisme et du climato-scepticisme : Deux années d’échanges Twitter passées aux macroscopes. Rapport Climatoscope.

2 Voir Gossart & Srnec (2024). Responsible innovation and digital platforms: The case of online food delivery. Journal of Innovation Economics & Management, 43, 215-246. https://doi.org/10.3917/jie.pr1.0155

3 Voir à ce sujet le n°130 de Terminal, ainsi que l’ouvrage « Les Communs. Des jardins partagés à Wikipédia », recensé par Dominique Desbois dans le n°129 de Terminal.

4 Sur l’État et les communs, voir https://www.numerique.gouv.fr/actualites/etat-et-communs-numeriques-une-cooperation-fructueuse/ ; https://www.diplomatie.gouv.fr/fr/politique-etrangere-de-la-france/diplomatie-numerique/actualites-et-evenements/article/le-rapport-sur-les-communs-numeriques-un-levier-essentiel-pour-la-souverainete.