Déc 16 2023

Débat : Communs, Algorithmes et IA, à la recherche de l’éthique dans un climat tendu

Débat IMSIC et CREIS-TERMINAL le 17 janvier 2024 17h30-19h

Creis-Terminal (CT) et les Rendez-vous de l’IMSIC organisent un débat en ligne et en présentiel le  à l’IUT d’Aix (Site Gaston Berger), animé, par Anne Gagnebien, (MCF en sciences de l’information et de la communication et membre du conseil d’administration de Creis-Terminal), avec comme intervenant David Chavalarias, (Directeur de recherche au CNRS et de l’ISCPIF), Antoine Henry, (MCF en Science de l’information et de la communication à Lille et chercheur au laboratoire GERIICO) et Alexis Kaufmann, (Fondateur de l’association Framasoft ). Il y aura également quatre discutants dont trois de Creis Terminal, Dominique Carré (LabSic, CT), Cédric Gossart (LITEM, CT), Dominique Desbois (INRAE, CT),  plus Alexandra Salou (IMSIC) lors de ce débat.  

L’événement vise à explorer les défis éthiques liés à la convergence des communs, des algorithmes et de l’IA, offrant une opportunité pour mieux comprendre grâce aux intervenants comment concilier innovation technologique et valeurs éthiques dans un monde en constante évolution.

Les discussions aborderont des thèmes cruciaux tels que la propriété des ressources partagées, les biais algorithmiques, la transparence, la responsabilité, et la manière de garantir une utilisation éthique de l’IA. Ce débat en ligne se positionne comme une occasion pour les participants d’engager une réflexion collective sur la manière dont la société peut naviguer à travers les enjeux éthiques complexes découlant des avancées technologiques, tout en cherchant des solutions éthiques et équitables pour l’avenir du numérique.

Lien zoom : https://us06web.zoom.us/j/8381649351?pwd=MjJTMW94ajd0dU54RDNZMjBkY3BOZz0

Merci de bien vous nommer lors de votre arrivée.

Nov 23 2023

Censure de la surveillance par mouchard : l’OLN ne crie pas victoire

Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 23 novembre 2023.

Le 16 novembre 2023, le Conseil constitutionnel a rendu sa décision sur la loi de programmation de la justice en censurant une disposition relative à l’activation à distance des objets électroniques. Pour les organisations de l’Observatoire des libertés et du numérique (OLN) qui s’étaient fortement opposées à cette mesure, cette décision est plus que bienvenue. Pour autant, elle ne saurait constituer une victoire criante.

Il faut se souvenir des récentes décisions de ce même Conseil constitutionnel faisant peu cas du respect des libertés : validation de la vidéosurveillance algorithmique dans la loi JOP 2024, légalisation des drones, blanc-seing à l’assouplissement de la procédure pénale dans la LOPMI au nom d’une « efficacité opérationnelle »… Si l’on peut saluer le sursaut de la décision de la semaine dernière, il est difficile d’y déceler une volonté de mettre fin à la fuite en avant sécuritaire, tant cette institution l’a accompagnée ces dernières années. Pour caractériser une atteinte au droit à la vie privée, le Conseil retient qu’il existe un risque pour les tierces personnes étant dans le champ d’une éventuelle captation déclenchée par cette activation à distance du micro ou de la caméra. Si nous saluons l’établissement d’une telle limite, qui pourra servir d’argument pour d’autres types de surveillance, nous regrettons que le Conseil ne prenne jamais en compte le changement de paradigme philosophique et politique qu’implique la possibilité de transformation de tout objet numérique en mouchard de la police.

Cette absence dans le raisonnement s’illustre par la validation pure et simple de l’activation à distance des fonctions de géolocalisation de téléphone et autres objets connectés (voiture, balises airtag, montre etc) qui repose exactement sur le même procédé technique que le dispositif censuré : la compromission d’un périphérique, en y accédant directement ou par l’intermédiaire d’un logiciel espion pour en prendre le contrôle à distance. Or, une telle possibilité soulève de graves problèmes en termes de vie privée, de sécurité et d’intégrité des preuves. On le comprend, le caractère intrusif de cette technique, pourtant au cœur des scandales Pegasus et Predator Files, n’intéresse pas le Conseil.

Pour justifier cette nouvelle forme de surveillance, le gouvernement et ses soutiens ont répété que les services de renseignement seraient déjà autorisés à activer à distance les micros ou caméras de terminaux. Pourtant, la lecture de l’article L. 853-2 du code de la sécurité intérieure montre précisément l’inverse : ne peuvent être mis en œuvre par les services de renseignement que des dispositifs qui permettent d’accéder à des données qui « s’affichent sur un écran », telles qu’une personne les « introduit par saisie de caractère » ou « telles qu’elles sont reçues et émises par des périphériques. » Autrement dit, le droit actuel ne permet aux services de renseignement que d’enregistrer l’activité d’une personne sur un téléphone ou un ordinateur, mais en aucun cas d’activer à son insu une fonctionnalité supplémentaire comme un micro ou une caméra. Cette pratique, pourtant avancée pour justifier le bien-fondé de la mesure, semble donc illégale et doit être sérieusement questionnée.

De façon générale, on assiste à un essor toujours plus important des technologies de surveillance et à une banalisation de leurs usages par les services de police et de renseignement alors que, souvent, elles ne répondent à aucun cadre. Ces pratiques illégales se généralisent aussi bien dans les ministères que sur le terrain, et la licéité de ces outils n’est jamais une préoccupation de ceux qui les utilisent. Qu’il s’agisse de logiciels illégaux de surveillance algorithmique et reconnaissance faciale, de fichage sauvage ou ou encore d’exploitation de téléphone en garde à vue, l’impunité se répand, l’illégalité se banalise. Dans ce contexte et avec ces tendances lourdes, la décision du Conseil constitutionnel est salutaire mais nous apparaît malheureusement trop peu engageante pour y voir un avertissement fort contre la surveillance.

Organisations signataires membres de l’OLN : Globenet, Creis-Terminal, la Ligue des droits de l’Homme (LDH), Le Syndicat des Avocats de France (SAF), le Syndicat de la Magistrature (SM), La Quadrature du Net (LQDN).

Nov 16 2023

N° 137 Terminal : Varia

Juil 18 2023

Journée d’étude : « Enjeux et perspectives d’une société en cours de plateformisation »

Cettejournée d’étude organisée par CREIS-TERMINAL en partenariat avec le LabSIC

s’est tenue le Jeudi 7 décembre 2023 à la MSH Paris Nord et en distanciel

Les plateformes numériques sont devenues une interface incontournable pour accéder, proposer ou évaluer une activité, un service, organiser le travail ou encore engager une procédure de recrutement, effectuer du télétravail, développer la vie démocratique, avoir ou créer une activité culturelle … Les cas d’usage des plateformes concernent tous les secteurs d’activités et toutes les interactions sociales. Ainsi, recourir à une plateforme semble aisé pour regarder un film (Netflix, Amazon Prime, Disney +…), écouter de la musique (Spotify ou Weezer…), commander un plat à emporter (Ubereats…), un taxi (G7) et VTC (Bolt, Uber…) ou rencontrer un partenaire (GrindR, Tinder, Bumble…) ou bien déclarer ses impôts en ligne (administration électronique). Les perspectives d’usage semblent infinies.

Bien qu’elle semble désormais banalisée pour ceux qui ont accès aux technologies numériques, la « plateformisation » est une « logique organisatrice » dans la vie sociale, économique et politique. Une telle mise en plateforme suppose la captation et l’exploitation massive de données numérique (« dataification ») sans précédent. Ce phénomène est générateur de nouvelles pratiques, de nouvelles interactions, de nouvelles normes, de plusieurs impératifs organisationnels  tels la sécurisation des données des utilisateurs ou la conformité au règlement européen de protection des données personnelles (RGPD) ; ce qui ne manque pas de menacer la sécurité des usages, l’équilibre économique, le fonctionnement des institutions ou encore la souveraineté numérique des États. .

Ce mouvement de « plateformisation » suscite un intérêt pour les chercheur-e-s de différentes disciplines et des praticiens de domaines variés.

L’économie numérique régie majoritairement par des entreprises américaines ou chinoises (même si des entreprises européennes y ont leur place) impose des logiques processuelles centralisées. Or, si celles-ci peuvent s’avérer efficaces car elles accélèrent les moyens de production, de communication et de coopération dans certains contextes, leur manque de transparence algorithmique et de régulation place les usagers, les travailleurs, les entreprises, les institutions et les États dans une position de fragilité (risques voire menaces).

L’Europe, pour sa part, essaie de produire un cadre normatif visant à réguler ces opérateurs de plateformes bien que la portée ainsi que l’efficacité de ce cadre reste encore à démontrer. 

Les ramifications organisationnelles, professionnelles, sociales, économiques, techniques, juridiques et politiques qu’emporte la «plateformisation » croissante des sociétés illustrent sa complexité, ses enjeux et ses perspectives notamment à l’aune du déploiement de l’intelligence artificielle. 

C’est dans ce contexte que la journée d’étude pluri-disciplinaire (sociologie, économie, droit, politique, communication, informatique) CREIS-TERMINAL en partenariat avec le LabSIC  étudiera la « plateformisation » et posera les questions fondamentales suivantes : quelle(s) définition(s) ? Quelle(s) évolution(s) ? Quelle(s) régulation(s) ? Quelle(s) alternative(s) ? 

Un grand merci aux intervenants et discutants dont voici laListe

Les résumés des présentations sont accessibles en cliquant sur leur titre.

Accueil et ouverture de la journée d’étude par Geneviève Vidal, présidente de CREIS-TERMINAL

Matin : intermédiation&normes ; Données&Libertés ; Santé

Conférence introductive : Danièle Bourcier, Directrice de recherche au CNRS (CERSA/ Université Paris2), Responsable Creative Commons France :

Les plateformes numériques : Vers une organisation du monde sans intermédiation ?

Plateformes et santé : discutante Sarah Sandré, CREIS-TERMINAL

Isabelle Mantz, Juriste au sein du service des sanctions de la CNIL :

Contrôle de l’accès aux données de santé par les organismes de presse : le cas du palmarès du Point 

Fiora Capo, Doctorante en Philosophie à l’Institut d’Histoire et de Philosophie des Sciences et des Techniques (IHPST) de l’Université Paris 1 Panthéon-Sorbonne, Chargée d’études en évaluation éthique :

Ethique et épistémologie de l’expérience patient numérique

Après-midi : travail, culture, démocratie

Plateformes et travail: discutants Kieran Van Der Bergh, CREIS-TERMINAL et Salma El Bourkadi Maître de conférences en Sciences de l’information et de la communication

Corinne Vercher-Chaptal , Professeure des Universités en Sciences de gestion à l’Université Sorbonne Paris Nord, Chargée de mission recherche en SHS Campus Condorcet :

Vers une économie numérique substantive : plateformes, communs et transition

Brahim Ben Ali, Secrétaire général du syndicat INV (Intersyndicale Nationale VTC), fondateur et président de la plateforme coopérative de chauffeurs VTC Maze :

Travail, mutation du travail, lien avec intelligence artificielle, enjeux juridiques

Emmanuelle Mazuyer, Directrice de recherche au CNRS, Membre du bureau de direction du CERCRID, UMR CNRS 5137, Université Lyon 2

Ce que le capitalisme de plateforme fait au droit et au travail

Plateformes et culture : discutant Valérian Guillier, Université Paris VIII Vincennes – St-Denis

Éric George, Professeur titulaire École des médias Faculté de communication UQAM, Directeur du Centre de recherche interuniversitaire sur la communication, l’information et la société (CRICIS), membre de CREIS-TERMINAL

L’emploi des algorithmes par Netflix et autres plateformes audiovisuelles : au service de la demande souveraine des abonné.e.s ? à l’origine de nouvelles formes de servitude volontaire ? ou facteur d’aliénation ?

Plateformes et vie démocratique : discutant Cédric Gossart, Revue Terminal

Guido Fabrizio Li Vigni, sociologue du numérique, CIS-CNRS

Regards critiques sur la plateformisation de la politique