août
08
2017

Vivre dans un monde sous algorithmes

Journée d’étude organisée par CREIS-Terminal

Vivre dans un monde sous algorithmes

24 novembre 2017

Télécom ParisTech 46 rue Barrault 75634 Paris Cedex 13 Amphi Grenat

Pourquoi les algorithmes sont-ils en ce moment la coqueluche des média ? Un algorithme, d’après Wikipédia, est une « suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème ou d’obtenir un résultat ». Pour être exécutable par un ordinateur, il est traduit par une suite d’instructions d’un langage de programmation. Divers algorithmes deviennent complexes de par le volume de données qu’ils traitent pour arriver à un résultat attendu : quel temps fera-t-il demain ? comment évolue le climat ? quels sont les potentiels futurs terroristes ? comment capter l’opinion publique ? comment attirer et fidéliser le consommateur ? Comment piloter à distance une opération ? … La technique informatique accompagne ce mouvement de complexification en traitant de gros volumes d’information de nature diverse (big data), en introduisant de l’apprentissage dans les algorithmes (machine learning), en modélisant des mécanismes de l’intelligence humaine (intelligence artificielle). Mais il ne faut pas perdre de vue que derrière les algorithmes, il y a des humains avec leurs présupposés, leurs idéologies, leurs visions du monde… Un exemple rapporté par un article de Numerama :« Beauty.AI est le premier concours de beauté jugé par des algorithmes. Problème : la grande majorité des gagnants a la peau claire »1. Cet exemple met en évidence l’importance des données et exemples qui nourrissent le système. Mais d’autres exemples sont à relever :

Les lois françaises sur le renseignement et contre le terrorisme votées sous le gouvernement précédent donnent aux services de renseignement et de police des pouvoirs exorbitants notamment en matière de collecte des données sur les réseaux. Elles autorisent la surveillance de masse et visent à prédire, via des algorithmes embarqués dans des « boîtes noires » des comportements potentiellement dangereux. Il ne fera pas bon se trouver parmi les « faux positifs » à savoir des personnes repérées à tort.

Le ministère de la Justice a autorisé, à titre expérimental, l’utilisation d’un logiciel Predictis. Il s’appuie sur un algorithme qui permet d’évaluer les chances de réussite d’une procédure ou le montant des indemnités en analysant des décisions de justice qui doivent, depuis la loi Lemaire, être accessibles en ligne dans le cadre de l’ « open data ». Le terme « justice prédictive » a accompagné le lancement de cet algorithme.

Le modèle économique des GAFAM (Google, Amazon, Facebook, Apple, Microsoft) et de tous ceux qui se sont lancés à leur suite s’appuie en partie sur l’extraction et l’exploitation des données personnelles. Pour offrir recherches et services personnalisés, il faut connaître l’utilisateur, ses habitudes, ses « amis », sa localisation, ses horaires de travail, etc. Tout devient prétexte à collecter des données, à les traiter, à les fusionner et … à les vendre. Des algorithmes, souvent compliqués et opaques, traitent du « big data ». Profilé, le consommateur est aussi manipulé. Sa navigation, par exemple, va orienter les affichages des bandeaux publicitaires. Les suggestions faites par un moteur de recherche sont souvent faites à partir de scores. Agrégateurs de données, data brokers, travaillent non seulement pour le marketing mais aussi pour la propagande politique. Sont ici en jeu les capacités de choix de l’individu, voire son autonomie et son libre-arbitre, fondements de la démocratie

La multiplication des algorithmes s’appuyant sur le « big data », l’intelligence artificielle, le « machine learning » doit être interrogée quant à son impact sociétal : limites du traitement algorithmique, conséquences sur les libertés individuelles, tant économiques que culturelles et sociales, fondements du pacte démocratique, …

C’est à cette interrogation que CREIS-Terminal entend contribuer par cette journée d’étude où seront abordées les enjeux techniques, sociaux, juridiques, économiques… des algorithmes.

1 http://www.numerama.com/tech/193524-beauty-ai-algorithme-etre-raciste.html

Le programme de cette journée sera précisé ultérieurement.

Participation gratuite mais inscription obligatoire.

juil
22
2017

Lettre ouverte au sujet de l’ouverture des annuaires de l’Education nationale aux GAFAM

Lettre ouverte signée par le CREIS-Terminal, l’association Enseignement Public et Informatique (EPI), la Fédération des conseils de parents d’élèves (FCPE), la Fédération des Parents d’Élèves de l’Enseignement Public (PEEP), la Ligue des droits de l’Homme (LDH), la Ligue de l’Enseignement et la Société Informatique de France (SIF)

 
 
                                                                                                   Monsieur Jean-Michel Blanquer
                                                                                                        110, rue de Grenelle
                                                                                                        75357 Paris SP 07
                                                                                                   Monsieur Mounir Mahjoubi
                                                                                                        35, rue Saint-Dominique
                                                                                                        75700 Paris

 

 

Réf. 459/17/MS/MA/VP                                                                                      Paris, le 7 juillet 2017

 

Monsieur le Ministre de l’Education nationale,

Monsieur le Secrétaire d’Etat chargé du Numérique,

Le numérique participe à la transformation du service public de l’éducation. C’est un levier de changement. Nul ne le conteste. Mais ce changement ne peut être garanti que s’il s’inscrit dans le respect des principes généraux qui fondent le service public de l’éducation, à savoir le principe d’égalité et ses corollaires de neutralité, de continuité et d’adaptabilité (livre I du Code de l’éducation).

La publication, dans la presse, d’une consigne de la Direction du numérique pour l’éducation (DNE) du ministère de l’Education nationale de mise à disposition des géants du Web des données personnelles et scolaires des élèves et des enseignants suscite un émoi certain dans la communauté éducative, parmi les parents d’élèves ainsi que chez tous les citoyens attachés à la protection des données personnelles. En effet, cette consigne de la DNE du 12 mai 2017 contrevient aux principes même du service public de l’éducation ainsi que l’a rappelé la Cnil, dans un avis du 23 mai 2017 : le ministère de l’Education nationale se doit de « garantir de façon effective et contraignante la protection des données personnelles traitées dans le cadre de ces services », proposés en particulier par les grands fournisseurs du Web. Compte tenu « de la sensibilité des données en jeu », la Cnil insiste sur le fait que cette protection doit se traduire par « un encadrement juridique contraignant tant en ce qui concerne la non-utilisation des données scolaires à des fins commerciales, l’hébergement de ces données en France ou en Europe, ou encore l’obligation de prendre des mesures de sécurité conformes aux normes en vigueur. Une attention particulière devrait, en outre, être portée aux droits des personnes ». Les directives données par le Directeur de la DNE sont en totale contradiction avec le respect de ces garanties demandées par la Cnil.

Dans ce contexte, nous vous demandons, monsieur le Ministre et monsieur le Secrétaire d’Etat, de nous indiquer comment vous entendez répondre à la nécessité de fixer un cadre de régulation adapté qui protège de façon effective les données personnelles des élèves et des enseignants, à la nécessité de mettre en place des solutions adaptées à l’évolution du service public du numérique éducatif.

Comptant sur le fait que vous ne laisserez pas ces questions fondamentales sans réponse, que vous serez attentifs à la protection des données sensibles des élèves et que vous montrerez votre attachement au service public de l’éducation, nous vous prions de croire, monsieur le Ministre de l’Education nationale et monsieur le Secrétaire d’Etat, à l’expression de nos salutations

mai
05
2017

appel à communication « Panorama des innovations sociales numériques »

Vous pouvez le consulter :https://terminal.revues.org/1600

- English version of the call for papers:https://terminal.revues.org/1603

- Versión española de la convocatoria de ponencias:https://terminal.revues.org/1604

jan
24
2017

Chiffrement – argumentaire OLN

Depuis quelques temps, des volontés politiques s’affichent afin de remettre en cause les protections techniques et juridiques garanties par les méthodes de chiffrement. Pour s’opposer à ces propositions dangereuses, l’Observatoire des Libertés et du Numérique publie son positionnement argumentaire concernant la défense du droit au chiffrement, outil indispensable à la protection des libertés à l’ère numérique.

Résumé du positionnement OLN (Observatoire des libertés et du numérique)

Les capacités (techniques et légales) de surveillance des États à l’ère numérique sont aujourd’hui telles que le droit fondamental à la vie privée, garant de la liberté d’expression, d’opinion, d’information, dans une société démocratique, a été profondément remis en cause ces dernières années, en France et dans le monde.

Dans ces conditions, la capacité de chiffrer ses communications numériques et ses données informatiques est une condition indispensable à la préservation des droits et libertés fondamentales, et l’un des derniers remparts, individuels et collectifs, aux intrusions arbitraires et illégales de nombreux acteurs, étatiques, privés, ou criminels.

Le chiffrement va bien au-delà d’une question de droits de l’Homme : alors que le numérique a investi l’ensemble des champs d’activité humains, l’affaiblir, quelle que soit la technique utilisée, reviendrait à fragiliser considérablement l’économie, mais aussi la sécurité collective.

Répétons-le, il n’existe pas de technique d’affaiblissement systémique du chiffrement qui ne permettrait de viser que les activités criminelles : l’ensemble des citoyens seraient alors aussi potentiellement visés. Il n’existe pas non plus de technique d’affaiblissement du chiffrement qui ne profiterait qu’à des acteurs « bien intentionnés ». Si une faille est créée pour un État (police, justice, service de renseignements…), elle sera alors disponible pour tous les autres acteurs (Autres États, organisations criminelles, hackers…) moins bien intentionnés.

Le chiffrement est-il utilisé par des personnes se livrant à des activités criminelles ? Oui, puisque par nature celles-ci tentent de dissimuler leurs actes. Mais il est surtout utilisé chaque jour par chaque citoyen, dans chacune ou presque de ses activités numériques. Des criminels peuvent fomenter leurs activités dans une voiture fermée. Il ne viendrait à personne l’idée de supprimer les voitures, ou de les doter systématiquement d’un système d’écoutes intégré directement accessible aux services de l’État.

Pourtant, c’est cette logique que défendent les partisans d’une criminalisation ou d’un affaiblissement du chiffrement. De la même manière qu’il existe des possibilités techniques de mettre sur écoute un espace (comme une voiture) où se dérouleraient des activités criminelles, qui doivent être encadrées par le droit, il existe un large éventail de possibilités légales et de techniques d’enquête permettant aux services de l’État de collecter des éléments de preuve à l’encontre d’organisations suspectées d’activités criminelles. Cet arsenal légal, comme les outils d’interception et de décryptage, a été largement renforcé ces dernières années.

Le bénéfice d’un affaiblissement supplémentaire du chiffrement dans la lutte contre la criminalité semble très faible, pour ne pas dire incertain. Ce qui est certain par contre, c’est que les conséquences seraient dévastatrices pour les droits et libertés de chacun, l’économie et la sécurité du pays, et pour la vie en société de manière générale.

Propositions de l’Observatoire des libertés et du numérique

Les capacités (techniques et légales) de surveillance à l’ère numérique sont aujourd’hui telles que le droit fondamental à la vie privée, garant de la liberté d’expression, d’opinion, d’information, dans une société démocratique, a été profondément remis en cause ces dernières années, en France et dans le monde.
Dans ces conditions, la capacité de chiffrer ses communications numériques et ses données informatiques est une condition indispensable d’une part à la sécurité collective et au bon fonctionnement de l’économie et d’autre part à la préservation des droits et libertés fondamentales, en faisant obstacle aux intrusions arbitraires et illégales de nombreux acteurs, étatiques, privés, ou criminels.

L’Observatoire des libertés et du numérique appelle les acteurs publics et acteurs privés du numérique à :

- renoncer à toute initiative visant à affaiblir juridiquement ou techniquement les outils de chiffrement ;
– consulter les institutions et les acteurs de la société civile pertinents suffisamment en amont de tout projet qui aurait des incidences sur le chiffrement ;
– garantir à toute personne l’accès à un chiffrement robuste, outil indispensable au respect du droit à la vie privée dans le domaine numérique ;
– promouvoir auprès du public l’importance du chiffrement de ses données et communications numériques et en faciliter l’utilisation et le développement.

Le rapport est ici.

Organisations membres de l’OLN : Amnesty International France, Le CECIL, Creis-Terminal, La Ligue des Droits de l’Homme,  La Quadrature du Net, Le Syndicat des Avocats de France, Le Syndicat de la Magistrature.