Oct 31 2022

Examen de la LOPMI : Refusons les policiers programmés

Communiqué de l’Observatoire des libertés et du numérique (OLN), Paris, le 28 octobre 2022.

La loi d’orientation et de programmation du ministère de l’Intérieur (la « LOPMI ») a été adoptée au Sénat et sera débattue à l’Assemblée nationale dans les prochaines semaines. Ce texte soulève de sérieuses inquiétudes pour les sujets touchant aux libertés fondamentales dans l’environnement numérique.

L’Observatoire des libertés et du numérique appelle les député·es à rejeter massivement ce texte.

1. Un rapport programmatique inquiétant promouvant une police cyborg

S’agissant d’une loi de programmation, est annexé au projet de texte un rapport sans valeur législative pour décrire les ambitions gouvernementales sur le long terme et même, selon Gérald Darmanin, fixer le cap du « réarmement du ministère de l’Intérieur ». Déjà, en soi, le recours à une sémantique tirée du registre militaire a de quoi inquiéter.  Véritable manifeste politique, ce rapport de 85 pages fait la promotion d’une vision fantasmée et effrayante du métier de policier, où l’agent-cyborg et la gadgétisation technologique sont présentés comme le moyen ultime de faire de la sécurité.

L’avenir serait donc à l’agent « augmenté » grâce à un « exosquelette » alliant tenue « intelligente » et équipements de surveillance. Nouvelles tablettes, nouvelles caméras piéton ou embarquées, promotion de l’exploitation des données par intelligence artificielle, sont tout autant d’outils répressifs et de surveillance que le rapport prévoit d’instaurer ou d’intensifier. Le ministère rêve même de casques de « réalité augmentée » permettant d’interroger des fichiers en intervention. C’est le rêve d’un policier-robot qui serait une sorte de caméra mobile capable de traiter automatiquement un maximum d’information. Ce projet de robotisation aura pour premier effet de rendre plus difficile la communication entre les forces de l’ordre et la population.

Cette projection délirante se poursuit sur d’autres thématiques sécuritaires. Le ministère affiche par exemple la volonté de créer des « frontières connectées » avec contrôles biométriques, drones ou capteurs thermiques. Il confirme également son obsession toujours plus grande de la vidéosurveillance en appelant à en tripler le budget à travers les subventions étatiques du fonds interministériel de prévention de la délinquance (FIPD), malgré l’inutilité démontrée et le coût immense de ces équipements.

Qu’il s’agisse de délire sécuritaire ou de calcul électoraliste, le rapport livre une vision inquiétante du numérique et de la notion de sécurité. Malgré son absence de portée normative, pour le message qu’il porte, l’OLN appelle donc les député·es à voter la suppression de ce rapport et l’article 1 dans son entièreté.

2. Un affaiblissement du cadre procédural des enquêtes policières

Ensuite, le fond des dispositions est guidé par un objectif clair : supprimer tout ce que la procédure pénale compte de garanties contre l’autonomie de la police pour faciliter le métier du policier « du futur ». La LOPMI envisage la procédure pénale uniquement comme une lourdeur administrative inutile et inefficace, détachée du « cœur de métier » du policier, alors qu’il s’agit de règles pensées et construites pour protéger les personnes contre l’arbitraire de l’État et renforcer la qualité des procédures soumises à la justice. On peut d’ailleurs s’étonner que le texte soit principalement porté par le ministère de l’Intérieur alors qu’il s’agit en réalité d’une refonte importante de la procédure pénale semblant plus relever de l’organisation judiciaire.

De manière générale, l’esprit du texte est assumé : banaliser des opérations de surveillance en les rendant accessibles à des agents moins spécialisés et en les soustrayant au contrôle de l’autorité judiciaire. Le texte permet ainsi à de nouvelles personnes (des assistants d’enquête créés par le texte ou des officiers de police judiciaire qui auraient plus facilement accès à ce statut) de faire de nombreux actes d’enquête par essence intrusifs et attentatoires aux libertés.

Par exemple, l’article 11 prévoit que les officiers de police judiciaire peuvent procéder directement à des « constatations et examens techniques » et à l’ouverture des scellés sans réquisition du procureur. Complété par des amendements au Sénat, cet article facilite désormais encore plus les interconnexions et accès aux fichiers policiers (notamment la collecte de photographie et l’utilisation de la reconnaissance faciale dans le fichier TAJ ainsi que l’analyse de l’ADN dans le FNAEG), contribuant à faire davantage tomber les barrières pour transformer le fichage massif en un outil de plus en plus effectif de contrôle des populations.

Ensuite, l’article 12 conduit en pratique à une présomption d’habilitation à consulter des fichiers pendant une enquête ou une instruction. Sous couvert d’une protection contre les nullités de procédure, cette simplification soustrait les policiers à toute contrainte formelle et supprimerait une garantie fondamentale de protection du droit à la vie privée. Cette disposition permettrait un accès total aux fichiers et viderait par ailleurs de leur substance l’ensemble des textes existants visant à limiter l’accès (pourtant déjà très souple), pour chaque fichier, à une liste de personnes habilitées et déterminées. On assiste ainsi à un « effet cliquet »: après avoir multiplié les fichages en prétextant des garanties, on vient ensuite en faciliter les accès et les interconnexions.

3.  L’amende forfaitaire délictuelle : une utilisation du numérique contre les justiciables

Par cette dynamique, le gouvernement fait passer la répression et la surveillance comme l’outil principal du travail policier et affaiblit considérablement le socle de protection de la procédure pénale.

Le projet d’étendre encore un peu plus le champ d’application de l’amende forfaitaire délictuelle (AFD) en est l’une des illustrations les plus éloquentes : cette procédure — dont l’efficacité prétendue n’est mesurée qu’à l’aune du nombre d’amendes prononcées et à la rapidité de la sanction — repose sur un usage de l’outil numérique permettant d’industrialiser et automatiser le fonctionnement de la justice pénale en affaiblissant les garanties contre l’arbitraire, en entravant le débat contradictoire, et en transformant l’autorité judiciaire en simple « contrôleur qualité ». 

Les forces de l’ordre sont ainsi transformés en « radars mobiles » de multiples infractions, le tout sans véritable contrôle judiciaire et en multipliant les obstacles à la contestation pour la personne sanctionnée.

L’évolution vers cette justice-là n’est pas un progrès pour notre société.

Ce projet, s’il est adopté, porterait une atteinte sérieuse au nécessaire équilibre qui doit exister entre, d’une part, la protection des libertés individuelles et collectives et, d’autre part, l’action des policiers. Les député·es doivent donc rejeter ce texte qui affaiblit le contrôle nécessaire de l’activité policière et met en danger les équilibres institutionnels qui fondent la démocratie.

Organisations signataires membres de l’OLN : Le CECIL, Creis-Terminal, Globenet,La Quadrature du Net (LQDN), Le Syndicat des Avocats de France (SAF), le Syndicat de la Magistrature (SM).

Sep 23 2022

Débat en ligne : Quelques perspectives juridiques sur la gestion algorithmique du travail

Creis-Terminal vous propose un

débat en ligne le 7 octobre de 18h à 19h30

sur le thème de la gestion algorithmique du travail

présenté par Kieran Van den Bergh, doctorant en droit privé rattaché au COMPTRASEC et travaillant sur « Les mutations du travail au prisme du numérique » sous la direction d’Isabelle Daugareil.

Il sera animé par Damien Bondat, Maitre de conférences en droit privé et modéré par Anne Gagnebien, Maitresse de conférences en Sciences de l’information et de la communication et membre du conseil d’administration du Creis-Terminal, et Jean-Marc Jullien, doctorant à l’IMSIC (Université de Toulon).

Présentation du débat

La « gestion algorithmique du travail » est un terme parapluie qui désigne l’utilisation de systèmes numériques servant à organiser et contrôler des travailleurs. Ces systèmes sont plus ou moins invasifs et sophistiqués mais supposent toujours la « captation » puis « l’exploitation » de données numériques sur le travail effectué. Or, depuis une perspective juridique, chacune des étapes techniques que présuppose la captation puis l’exploitation subséquente de ces données pose difficulté. Il est en effet impossible de capter des données sur le travail effectué sans en capter tout autant sur la personne du travailleur qui l’exécute. De plus, les relations de travail présupposent généralement des rapports contractuels qui sont par essence inégalitaires. Le risque de dérives est donc significatif. Qu’il s’agisse de la protection des données à caractère personnel ou de la défense de la condition humaine au travail, la gestion algorithmique du travail met au défi les cadres juridiques classiques. Le contexte actuel veut par ailleurs que de telles données soient avant tout mises en « libre circulation » en sachant que le droit du travail est de plus en plus considéré comme un obstacle qu’il faudrait contourner. C’est à ce titre qu’il sera intéressant d’interroger les promesses ainsi que les limites du cadre juridique applicable. En premier lieu le contexte des relations de travail dites « salariées » sera abordé puis le cas, plus problématique, des relations de travail qui passent par des plateformes numériques que le législateur semble vouloir exclure du droit du travail.    

Lien visio :

https://us02web.zoom.us/j/81234975021?pwd=SUJFQWN3OVJwQm9TajhGWUlsbGZiZz09

ID de réunion : 812 3497 5021

Code: 397022

Sep 23 2022

Témoignages I&S

Témoignages Informatique et Société

Entre le 3 janvier 2022 et le 19 mars 2022, le recueil de neuf témoignages courts a été entrepris (par enregistrement direct, visio-téléphonique ou par les témoins eux-mêmes), dans le cadre de l’état de l’art Informatique et Société (Rapport G.Vidal, 2022, USPN).

Ces neuf témoignages, de jeunes chercheurs à professeurs émérites, permettent de brosser un tableau francophone (France, Luxembourg, Montréal) du champ de Recherche Informatique et Société. Ils sont universitaires et chercheurs, en informatique, sciences juridiques, histoire, science politique, sciences de l’information et de la communication, socio-économie de l’innovation, et présentent une diversité de parcours académique, institutionnel, associatif, entreprise.

Ces témoignages s’appuient sur une trame thématique relative aux relations technique et société, fondations de la posture critique relevant du champ Informatique et Société, perspectives de l’informatisation de la société, en termes de risques et opportunités, pour la recherche, la société civile, les institutions et organisations, d’autres points qui paraissent essentiels aux témoins, sur le processus d’informatisation sociale.

Geneviève Vidal







Les témoignages sont accessibles en cliquant sur les photos ci-dessous.


Francesca Musiani
Anne-France Kogan
Hervé Le Crosnier

François Pellegrini
Daniel Naulleau
Danièle Bourcier

Valérie Schafer
André Vitalis
Eric George

Mes sincères remerciements aux témoins, à Michaël Vidal et à Maurice Liscouët. G.V.

Sep 22 2022

communications JE plateformes

Danièle Bourcier, Directrice de recherche CNRS, Responsable creative commons France
D. Bourcier, P. De Filippi, Open data et Big data, nouveaux defis pour la vie privée, Paris, Mare & Martin, 2023 
Les plateformes numériques : Vers une organisation du monde sans intermédiation ?
Qu’est-ce qu’une plateforme numérique ? Ce n’est pas une technologie nouvelle mais elle s’est imposée massivement  depuis l’explosion du web  car elle offre de multiples services à partir des données fournies  par les utilisateurs. Ce qu’on appelle désormais  la plateformisation (dont l’uberisation est une autre manifestation) est un phénomène par lequel les organisations modifient leurs structures et usages pour s’adapter dans un contexte très « dynamique ». Une plateforme s’appuie sur des technologies et une organisation qui permettent aux entreprises et administrations de pouvoir proposer de nouveaux services et d’interagir toujours plus avec l’ensemble de leurs interlocuteurs. La grande rupture introduite par les plateformes numériques de mise en relation se manifeste, concrètement, par un processus de désintermédiation, c’est-à-dire leur substitution aux intermédiaires de l’économie traditionnelle dont elles finissent par capter une part des profits. Nous observerons en particulier comment deux technologies, la  blockchain et l’intelligence artificielle  ont renforcé leurs impacts. Leur capacité à organiser de nouveaux rapports entre les divers acteurs  souvent à leur insu renforcent leur autonomie . Nous décrirons différentes plateformes, puis leurs impacts et les dangers qu’elles présentent à tel point que l’Europe les a récemment encadrées par une série de normes totalement nouvelles.

Isabelle Mantz, Ancienne avocate, elle est juriste au sein du service des sanctions de la CNIL depuis 4 ans. Dans ce cadre, elle traite des problématiques RGPD se posant dans tous les secteurs. Récemment, elle a été amenée à examiner les questions spécifiques qui se posent dans le domaine de la santé, dans lequel doit être trouvé l’équilibre entre l’accès aux données de santé à des fins d’intérêt public et la protection toute particulière dont elles doivent faire l’objet.
Contrôle de l’accès aux données de santé par les organismes de presse : le cas du palmarès du Point
En 2022, le journal Le Point a demandé à la CNIL de l’autoriser à accéder à la base de données nationale sur l’activité des établissements de santé (base « PMSI ») afin de réaliser et de publier un palmarès des hôpitaux et des cliniques français. La CNIL a rejeté cette demande, estimant qu’il était nécessaire que le Point précise et améliore la méthodologie de son classement. Le recours du Point devant le Conseil d’Etat a été rejeté par décision du 30 juin 2023.

Fiora Capo, Doctorante en Philosophie à l’Institut d’Histoire et de Philosophie des Sciences et des Techniques (IHPST) de l’Université Paris 1 Panthéon-Sorbonne, elle rédige une thèse sur le rôle des valeurs et du politique dans les reconfigurations scientifico-technologiques contemporaines. Elle occupe en parallèle le poste de Chargée d’études en évaluation éthique dans le cadre du projet de recherche ORTIC financé par la DREES (Ministère de la Santé) sur l’utilisation du numérique et des plateformes dans le domaine des maladies rares.
Ethique et épistémologie de l’expérience patient numérique
La transformation digitale du parcours de santé et de vie des patients et usagers constitue une orientation politique très nette depuis 2017. Un foisonnement de plateformes d’information et de coordination continuent d’émerger au côté de grandes plateformes nationales telles que Mon Espace Santé, articulées à des promesses d’empowerment et de démocratie sanitaire. En parallèle de cette dynamique institutionnelle, le rôle que jouent les réseaux sociaux dans la création et la diffusion de l’information médicale progresse. Des phénomènes nouveaux émergent de ce mouvement d’extension du domaine du soin à Internet. Qu’il s’agisse de cyberchondrie, de résignation digitale et de datafication des patients, de multihoming,
de préjudices informationnels, ou encore de bulles épistémiques sanitaires, la
digitalisation crée de nouveaux risques et de nouvelles compétences associés à la gestion et à l’évitement de la maladie, qu’il s’agira d’évaluer en croisant éthique numérique, éthique médicale et éthique publique.

Eric George, Professeur titulaire École des médias Faculté de communication UQAM,  Directeur Centre de recherche interuniversitaire sur la communication, l’information et la société (CRICIS), Coéditeur  revue tic&société, Coresponsable CR 33 Sociologie de la communication et du numérique AISLF, Membre de CREIS-TERMINAL
L’emploi des algorithmes par Netflix et autres plateformes audiovisuelles : au service de la demande souveraine des abonné.e.s ? à l’origine de nouvelles formes de servitude volontaire ? ou facteur d’aliénation ?
Selon les directions des entreprises qui ont créé les plateformes qui s’imposent comme de nouveaux et puissants distributeurs de productions audiovisuelles — pensons à Netflix, Amazon Prime Video, Disney + et autres Apple TV + — les algorithmes constitueraient une nouvelle façon des acteurs du marché de répondre aux préférences de consommation des consommateurs et des consommatrices. Nous pourrions même considérer que cette innovation sociotechnique permettrait enfin aux marchés, ici au marché des oeuvres audiovisuelles, d’atteindre un fonctionnement optimum. Or, cette vision (néo)libérale est-elle vraiment de mise ? Ou dans une perspective plus critique, ne pouvons-nous pas envisager que derrière cette vision marquée idélogiquement, il n’y a pas d’autres façons de voir les choses en considérant par exemple que ces algorithmes pourraient relever de nouveaux formes de servitude volontaire, voire constituer de nouveaux facteurs d’aliénation ? 

Guido Fabrizio Li Vigni, est sociologue du numérique. Il a soutenu une thèse en Sociologie sur les sciences des systèmes complexes à l’École des hautes études en sciences sociales en 2018. Ses recherches portent aujourd’hui sur la démocratie digitale, c’est-à-dire l’implémentation de la codécision (administrative, législative, budgétaire) via des dispositifs numériques dans un contexte politique partisan et/ou institutionnel.
Regards critiques sur la plateformisation de la politique
Depuis une vingtaine d’année et surtout après l’essor des « partis digitaux » comme Podemos en Espagne, le parti Pirate en Europe centrale et du nord, et le Mouvement 5 étoiles en Italie, les plateformes participatives en ligne se multiplient au sein des partis et mouvements politiques dans le but d’élargir le participation, voire la codécision auprès des citoyens et des citoyennes. Cette présentation fait un point critique sur les tendances principales de cette plateformisation de la politique, propose une approche triadique (politique, logiciel, infrastructure) pour étudier les plateformes des partis et l’illustre par la comparaison de deux cas d’études importants : la plateforme Decidim à Barcelone et la plateforme Rousseau en Italie.

Emmanuelle Mazuyer est Directrice de recherche au CNRS au CERCRID (Centre de recherches critiques sur le droit) UMR 5137, Université Lyon 2. Ses travaux portent sur le droit social européen, le droit du travail comparé et les sources du droit. Ses recherches questionnent les interactions entre économie, monde de l’entreprise et des affaires et droit. Après des travaux sur la responsabilité sociale de l’entreprise (RSE), la gouvernance et les normes de soft law, elle se consacre dernièrement à la question du travail via des plateformes numériques et aux bouleversements que leur modèle économique est susceptible de produire en droit.
Ce que le capitalisme de plateforme fait au droit et au travail
Il s’agira d’étudier les effets du modèle économique des plateformes de travail et de micro-travail sur le système juridique et les formes traditionnelles de travail salarié. En effet, ce modèle se fonde à l’origine sur un évitement de la législation sociale et le recours à des formes de travail indépendant. Pourtant ce choix n’est pas cohérent et se heurte à une dépendance économique forte des travailleurs de plateforme envers les plateformes. Si le législateur français a opté pour le modèle des travailleurs indépendants auxquels il a octroyés quelques droits sociaux, d’autres droits ont pu se prononcer pour assimiler les travailleurs de plateformes à des salariés. L’Union européenne est également en voie de se positionner sur cette solution. Il sera également évoqué les différences entre les plateformes classiques et les plateformes proposant des micro-tâches qui ne suscitent pas les mêmes réflexions.

Corinne Vercher-Chaptal est Professeure en Sciences de gestion à l’université Sorbonne Paris Nord. Elle est chargée de mission pour les Sciences Humaines et Sociales à USPN, et membre du Conseil Scientifiques du Campus Condorcet. Ses recherches actuelles portent sur les plateformes numériques alternatives, à la croisée des communs et de l’Economie Sociale et Solidaires. Elle a dirigé le projet TAPAS (There Are Platforms as Alternatives) financé par la DARES (https://dares.travail-emploi.gouv.fr/sites/default/files/c3f830dae86f3973438bef759ba88b79/Rapport_TAPAS.pdf  ). Elle participe actuellement au pilotage de l’Action Cost P-WILL (Platform Work Inclusion Living Lab) (https://pwill.eu/what-is-p-will/)
Vers une économie numérique substantive : plateformes, communs et transition

Discutant-e-s

Salma El Bourkadi, maître de conférences à l’Université de Lille et membre du laboratoire Gériico. Mes travaux de recherche portent sur le management algorithmique, les stratégies de résistance à l’ubérisation, la santé au travail des travailleurs de plateformes et le coopérativisme de plateformes. 
Publications :
– « Penser la plateforme Uber au prisme de l’épistémologie de la communication organisationnelle », Communication&Management
– « Uber structure’s managerial algorithmic communication and drivers’ health issues: sensemaking of work strategic resistance« , Frontiers in Communication

Cédric Gossart, Professeur en Sciences de gestion à Institut Mines-Télécom Business School
Titulaire d’un PhD in Science and Technology Policy Studies de l’Université du Sussex (SPRU) et d’une HDR en Sciences de gestion de l’UEVE, ses travaux de recherche portent sur les innovations sociales numériques, l’apprentissage organisationnel, et les liens entre grands enjeux de l’humanité et organisations. Ses enseignements donnés en français et en anglais portent sur les grands enjeux et les organisations, la Responsabilité Sociétale des Organisations, et les liens entre numérique et développement durable. Il est Directeur adjoint du LITEM (EA 7363, ED DEM, Université Paris-Saclay), membre du laboratoire d’idées INESS (Innovations, Numérique, Économie Sociale et Solidaire) de l’IMT, membre du comité de rédaction de la revue en open access Terminal, et administrateur bénévole de l’association Teragir.
Publications

Valérian Guillier Laboratoire scènes du monde, savoirs critiques, création Labex Arts-H2H Université Paris VIII Vincennes – St-Denis 
Publications :
– Partagez ! Il en restera toujours quelque chose… Le partage comme production dans le domaine des contenus générés par les utilisateurs ;
– La culture comme commun : une approche à préciser

Sarah Sandré est jeune docteure en histoire des sciences et des techniques contemporaines au laboratoire IRIS (UMR 8156). Elle est également juriste et chargée de conventions à la Direction de la Recherche et de l’Innovation de l’AP-HP Nord Université Paris Cité. Depuis juin 2022, elle coordonne le groupe de travail « santé et numérique » du réseau des jeunes chercheur.e.s de la MSH Paris Nord.
Publications :
– « Une (très) brève histoire des réseaux sociaux appliqués à la santé », hal-03874265 , 01-2023 ;
– « La mise en oeuvre du RGPD : une appréhension difficile entre nécessité d’une pédagogie et mobilisation d’une ressource nouvelle », I2D, 2019/1, p.40-46 

Kieran Van den Bergh, doctorant en droit privé rattaché au COMPTRASEC et travaillant sur « Les mutations du travail au prisme du numérique » sous la direction d’Isabelle Daugareil.
Quelques perspectives sur la gestion algorithmique du travail