Débat : Big data, IA et algorithmes : quels rôles dans les transformations des industries audiovisuelles ? Quels enseignements en matière de capitalisme de surveillance ? 

9 mars 18h-19h30, lieu et lien à venir

Intervenant : Eric George, Professeur titulaire, École des médias, Faculté de communication, UQAM, Directeur, Centre de recherche interuniversitaire sur la communication, l’information et la société (CRICIS), Coéditeur, revue tic&société, Coresponsable, CR 33 Sociologie de la communication, AISLF, Chercheur associé, MSH de Paris-Nord et Membre de CREIS-TERMINAL

Animation et discutant : David Fayon, Responsable Ecosystème Innovation à La Poste, auteur d’ouvrages sur le numérique, Membre du Conseil d’Administation de CREIS-TERMINAL

Dans le cadre d’un projet de recherche financé par le Conseil de recherches en sciences humaines (CRSH), nous étudions la place et les rôles pris par plusieurs plateformes dans le secteur audiovisuel : quatre plateformes majeures à dimension internationale, Netflix, Amazon, Disney et Apple, ainsi que quatre plateformes issues de trois entreprises de tailles plus modestes dont les activités se déploient à l’échelle canadienne, soit Bell (avec son service Crave en anglais et en français), Québecor (avec son service en français Club Illico) et Radio-Canada (avec les services Tou.tv en français et Gem en anglais). Dans le cadre de cette présentation, nous proposons de nous interroger sur les usages du big data (ou mégadonnées), de « l’intelligence artificielle » et des algorithmes par ces plateformes audiovisuelles. Pour ce faire, nous avons privilégié une analyse contrastive en mettant en évidence plusieurs éléments qui, à propos de l’« intelligence artificielle » renvoient à penser qu’en termes de culture et de médias, nous sommes toujours entre continuités et émergences, sans oublier d’éventuelles ruptures. Dans le cadre de ce webinaire, nous nous focaliserons outre les opportunités offertes par les plateformes sur les risques liées à l’exploitation des données personnelles.

N° Terminal : Militants face à la « souverainisation » numérique

Le numéro 134-135 de Terminal est  en ligne et directement consultable ici.

Ce numéro est centré sur un dossier consacré à la souverainisation de l’Internet, c’est à dire à sa prise de  contrôle progressif  par le pouvoir politique dans les pays post-soviétiques. Ce dossier a été coordonné par l’équipe du projet ANR ResisTIC :

« Militants face à la « souverainisation » numérique. Réactions et nouvelles mobilisations dans l’ex-bloc socialiste (Russie, Ukraine, Cuba) »

Des extraits de l’article introductif du dossier :

« En Russie et dans les pays post-soviétiques, la notion de souveraineté a subi des mutations à la suite du démantèlement de l’URSS. Depuis l’avènement de Vladimir Poutine au pouvoir en Russie en 2000, on assiste à une présidentialisation accrue et à un renforcement du pouvoir central, qualifiés parfois de processus de souverainisation, contrariant les velléités d’autonomie de certaines régions et visant à recréer une sphère d’influence russe sur les ex-républiques soviétiques.

L’espace numérique, initialement administré en dehors des modèles classiques de régulation nationale, est lui aussi concerné par un mouvement de souverainisation. La notion de « souveraineté numérique » fait désormais partie des discours de divers acteurs publics et privés impliqués dans le développement du numérique …
Dans ce numéro, nous proposons donc de brosser un tableau de la question de la souveraineté numérique dans trois pays de l’ex-bloc socialiste, et notamment d’explorer les façons dont certains militants réagissent aux dynamiques engendrées par cette souverainisation. »

A signaler également dans la rubrique Varia l’article de Claude Poulain sur le projet SAFARI de 1970 à 1974

Examen de la LOPMI : Refusons les policiers programmés

Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 28 octobre 2022.

La loi d’orientation et de programmation du ministère de l’Intérieur (la « LOPMI ») a été adoptée au Sénat et sera débattue à l’Assemblée nationale dans les prochaines semaines. Ce texte soulève de sérieuses inquiétudes pour les sujets touchant aux libertés fondamentales dans l’environnement numérique.

L’Observatoire des libertés et du numérique appelle les député·es à rejeter massivement ce texte.

1. Un rapport programmatique inquiétant promouvant une police cyborg

S’agissant d’une loi de programmation, est annexé au projet de texte un rapport sans valeur législative pour décrire les ambitions gouvernementales sur le long terme et même, selon Gérald Darmanin, fixer le cap du « réarmement du ministère de l’Intérieur ». Déjà, en soi, le recours à une sémantique tirée du registre militaire a de quoi inquiéter.  Véritable manifeste politique, ce rapport de 85 pages fait la promotion d’une vision fantasmée et effrayante du métier de policier, où l’agent-cyborg et la gadgétisation technologique sont présentés comme le moyen ultime de faire de la sécurité.

L’avenir serait donc à l’agent « augmenté » grâce à un « exosquelette » alliant tenue « intelligente » et équipements de surveillance. Nouvelles tablettes, nouvelles caméras piéton ou embarquées, promotion de l’exploitation des données par intelligence artificielle, sont tout autant d’outils répressifs et de surveillance que le rapport prévoit d’instaurer ou d’intensifier. Le ministère rêve même de casques de « réalité augmentée » permettant d’interroger des fichiers en intervention. C’est le rêve d’un policier-robot qui serait une sorte de caméra mobile capable de traiter automatiquement un maximum d’information. Ce projet de robotisation aura pour premier effet de rendre plus difficile la communication entre les forces de l’ordre et la population.

Cette projection délirante se poursuit sur d’autres thématiques sécuritaires. Le ministère affiche par exemple la volonté de créer des « frontières connectées » avec contrôles biométriques, drones ou capteurs thermiques. Il confirme également son obsession toujours plus grande de la vidéosurveillance en appelant à en tripler le budget à travers les subventions étatiques du fonds interministériel de prévention de la délinquance (FIPD), malgré l’inutilité démontrée et le coût immense de ces équipements.

Qu’il s’agisse de délire sécuritaire ou de calcul électoraliste, le rapport livre une vision inquiétante du numérique et de la notion de sécurité. Malgré son absence de portée normative, pour le message qu’il porte, l’OLN appelle donc les député·es à voter la suppression de ce rapport et l’article 1 dans son entièreté.

2. Un affaiblissement du cadre procédural des enquêtes policières

Ensuite, le fond des dispositions est guidé par un objectif clair : supprimer tout ce que la procédure pénale compte de garanties contre l’autonomie de la police pour faciliter le métier du policier « du futur ». La LOPMI envisage la procédure pénale uniquement comme une lourdeur administrative inutile et inefficace, détachée du « cœur de métier » du policier, alors qu’il s’agit de règles pensées et construites pour protéger les personnes contre l’arbitraire de l’État et renforcer la qualité des procédures soumises à la justice. On peut d’ailleurs s’étonner que le texte soit principalement porté par le ministère de l’Intérieur alors qu’il s’agit en réalité d’une refonte importante de la procédure pénale semblant plus relever de l’organisation judiciaire.

De manière générale, l’esprit du texte est assumé : banaliser des opérations de surveillance en les rendant accessibles à des agents moins spécialisés et en les soustrayant au contrôle de l’autorité judiciaire. Le texte permet ainsi à de nouvelles personnes (des assistants d’enquête créés par le texte ou des officiers de police judiciaire qui auraient plus facilement accès à ce statut) de faire de nombreux actes d’enquête par essence intrusifs et attentatoires aux libertés.

Par exemple, l’article 11 prévoit que les officiers de police judiciaire peuvent procéder directement à des « constatations et examens techniques » et à l’ouverture des scellés sans réquisition du procureur. Complété par des amendements au Sénat, cet article facilite désormais encore plus les interconnexions et accès aux fichiers policiers (notamment la collecte de photographie et l’utilisation de la reconnaissance faciale dans le fichier TAJ ainsi que l’analyse de l’ADN dans le FNAEG), contribuant à faire davantage tomber les barrières pour transformer le fichage massif en un outil de plus en plus effectif de contrôle des populations.

Ensuite, l’article 12 conduit en pratique à une présomption d’habilitation à consulter des fichiers pendant une enquête ou une instruction. Sous couvert d’une protection contre les nullités de procédure, cette simplification soustrait les policiers à toute contrainte formelle et supprimerait une garantie fondamentale de protection du droit à la vie privée. Cette disposition permettrait un accès total aux fichiers et viderait par ailleurs de leur substance l’ensemble des textes existants visant à limiter l’accès (pourtant déjà très souple), pour chaque fichier, à une liste de personnes habilitées et déterminées. On assiste ainsi à un « effet cliquet »: après avoir multiplié les fichages en prétextant des garanties, on vient ensuite en faciliter les accès et les interconnexions.

3.  L’amende forfaitaire délictuelle : une utilisation du numérique contre les justiciables

Par cette dynamique, le gouvernement fait passer la répression et la surveillance comme l’outil principal du travail policier et affaiblit considérablement le socle de protection de la procédure pénale.

Le projet d’étendre encore un peu plus le champ d’application de l’amende forfaitaire délictuelle (AFD) en est l’une des illustrations les plus éloquentes : cette procédure — dont l’efficacité prétendue n’est mesurée qu’à l’aune du nombre d’amendes prononcées et à la rapidité de la sanction — repose sur un usage de l’outil numérique permettant d’industrialiser et automatiser le fonctionnement de la justice pénale en affaiblissant les garanties contre l’arbitraire, en entravant le débat contradictoire, et en transformant l’autorité judiciaire en simple « contrôleur qualité ». 

Les forces de l’ordre sont ainsi transformés en « radars mobiles » de multiples infractions, le tout sans véritable contrôle judiciaire et en multipliant les obstacles à la contestation pour la personne sanctionnée.

L’évolution vers cette justice-là n’est pas un progrès pour notre société.

Ce projet, s’il est adopté, porterait une atteinte sérieuse au nécessaire équilibre qui doit exister entre, d’une part, la protection des libertés individuelles et collectives et, d’autre part, l’action des policiers. Les député·es doivent donc rejeter ce texte qui affaiblit le contrôle nécessaire de l’activité policière et met en danger les équilibres institutionnels qui fondent la démocratie.

Organisations signataires membres de l’OLN : Le CECIL, Creis-Terminal, Globenet,La Quadrature du Net (LQDN), Le Syndicat des Avocats de France (SAF), le Syndicat de la Magistrature (SM).

Débat en ligne : Quelques perspectives juridiques sur la gestion algorithmique du travail

Creis-Terminal vous propose un

débat en ligne le 7 octobre de 18h à 19h30

sur le thème de la gestion algorithmique du travail

présenté par Kieran Van den Bergh, doctorant en droit privé rattaché au COMPTRASEC et travaillant sur « Les mutations du travail au prisme du numérique » sous la direction d’Isabelle Daugareil.

Il sera animé par Damien Bondat, Maitre de conférences en droit privé et modéré par Anne Gagnebien, Maitresse de conférences en Sciences de l’information et de la communication et membre du conseil d’administration du Creis-Terminal, et Jean-Marc Jullien, doctorant à l’IMSIC (Université de Toulon).

Présentation du débat

La « gestion algorithmique du travail » est un terme parapluie qui désigne l’utilisation de systèmes numériques servant à organiser et contrôler des travailleurs. Ces systèmes sont plus ou moins invasifs et sophistiqués mais supposent toujours la « captation » puis « l’exploitation » de données numériques sur le travail effectué. Or, depuis une perspective juridique, chacune des étapes techniques que présuppose la captation puis l’exploitation subséquente de ces données pose difficulté. Il est en effet impossible de capter des données sur le travail effectué sans en capter tout autant sur la personne du travailleur qui l’exécute. De plus, les relations de travail présupposent généralement des rapports contractuels qui sont par essence inégalitaires. Le risque de dérives est donc significatif. Qu’il s’agisse de la protection des données à caractère personnel ou de la défense de la condition humaine au travail, la gestion algorithmique du travail met au défi les cadres juridiques classiques. Le contexte actuel veut par ailleurs que de telles données soient avant tout mises en « libre circulation » en sachant que le droit du travail est de plus en plus considéré comme un obstacle qu’il faudrait contourner. C’est à ce titre qu’il sera intéressant d’interroger les promesses ainsi que les limites du cadre juridique applicable. En premier lieu le contexte des relations de travail dites « salariées » sera abordé puis le cas, plus problématique, des relations de travail qui passent par des plateformes numériques que le législateur semble vouloir exclure du droit du travail.    

Lien visio :

https://us02web.zoom.us/j/81234975021?pwd=SUJFQWN3OVJwQm9TajhGWUlsbGZiZz09

ID de réunion : 812 3497 5021

Code: 397022