«

août
08
2017

Vivre dans un monde sous algorithmes

Journée d’étude organisée par CREIS-Terminal

Vivre dans un monde sous algorithmes

24 novembre 2017

Télécom ParisTech 46 rue Barrault 75634 Paris Cedex 13 Amphi Grenat

Pourquoi les algorithmes sont-ils en ce moment la coqueluche des média ? Un algorithme, d’après Wikipédia, est une « suite finie et non ambiguë d’opérations ou d’instructions permettant de résoudre un problème ou d’obtenir un résultat ». Pour être exécutable par un ordinateur, il est traduit par une suite d’instructions d’un langage de programmation. Divers algorithmes deviennent complexes de par le volume de données qu’ils traitent pour arriver à un résultat attendu : quel temps fera-t-il demain ? comment évolue le climat ? quels sont les potentiels futurs terroristes ? comment capter l’opinion publique ? comment attirer et fidéliser le consommateur ? Comment piloter à distance une opération ? … La technique informatique accompagne ce mouvement de complexification en traitant de gros volumes d’information de nature diverse (big data), en introduisant de l’apprentissage dans les algorithmes (machine learning), en modélisant des mécanismes de l’intelligence humaine (intelligence artificielle). Mais il ne faut pas perdre de vue que derrière les algorithmes, il y a des humains avec leurs présupposés, leurs idéologies, leurs visions du monde… Un exemple rapporté par un article de Numerama :« Beauty.AI est le premier concours de beauté jugé par des algorithmes. Problème : la grande majorité des gagnants a la peau claire »1. Cet exemple met en évidence l’importance des données et exemples qui nourrissent le système. Mais d’autres exemples sont à relever :

Les lois françaises sur le renseignement et contre le terrorisme votées sous le gouvernement précédent donnent aux services de renseignement et de police des pouvoirs exorbitants notamment en matière de collecte des données sur les réseaux. Elles autorisent la surveillance de masse et visent à prédire, via des algorithmes embarqués dans des « boîtes noires » des comportements potentiellement dangereux. Il ne fera pas bon se trouver parmi les « faux positifs » à savoir des personnes repérées à tort.

Le ministère de la Justice a autorisé, à titre expérimental, l’utilisation d’un logiciel Predictis. Il s’appuie sur un algorithme qui permet d’évaluer les chances de réussite d’une procédure ou le montant des indemnités en analysant des décisions de justice qui doivent, depuis la loi Lemaire, être accessibles en ligne dans le cadre de l’ « open data ». Le terme « justice prédictive » a accompagné le lancement de cet algorithme.

Le modèle économique des GAFAM (Google, Amazon, Facebook, Apple, Microsoft) et de tous ceux qui se sont lancés à leur suite s’appuie en partie sur l’extraction et l’exploitation des données personnelles. Pour offrir recherches et services personnalisés, il faut connaître l’utilisateur, ses habitudes, ses « amis », sa localisation, ses horaires de travail, etc. Tout devient prétexte à collecter des données, à les traiter, à les fusionner et … à les vendre. Des algorithmes, souvent compliqués et opaques, traitent du « big data ». Profilé, le consommateur est aussi manipulé. Sa navigation, par exemple, va orienter les affichages des bandeaux publicitaires. Les suggestions faites par un moteur de recherche sont souvent faites à partir de scores. Agrégateurs de données, data brokers, travaillent non seulement pour le marketing mais aussi pour la propagande politique. Sont ici en jeu les capacités de choix de l’individu, voire son autonomie et son libre-arbitre, fondements de la démocratie

La multiplication des algorithmes s’appuyant sur le « big data », l’intelligence artificielle, le « machine learning » doit être interrogée quant à son impact sociétal : limites du traitement algorithmique, conséquences sur les libertés individuelles, tant économiques que culturelles et sociales, fondements du pacte démocratique, …

C’est à cette interrogation que CREIS-Terminal entend contribuer par cette journée d’étude où seront abordées les enjeux techniques, sociaux, juridiques, économiques… des algorithmes.

1 http://www.numerama.com/tech/193524-beauty-ai-algorithme-etre-raciste.html

Le programme de cette journée sera précisé ultérieurement.