{"id":2473,"date":"2017-10-16T15:20:16","date_gmt":"2017-10-16T15:20:16","guid":{"rendered":"http:\/\/www.lecreis.org\/?p=2473"},"modified":"2017-12-04T16:25:02","modified_gmt":"2017-12-04T16:25:02","slug":"vivre-dans-un-monde-sous-algorithmes","status":"publish","type":"post","link":"https:\/\/www.lecreis.org\/?p=2473","title":{"rendered":"Vivre dans un monde sous algorithmes"},"content":{"rendered":"

Journ\u00e9e d’\u00e9tude organis\u00e9e par CREIS-Terminal<\/strong><\/span><\/h4>\n

Vivre dans un monde sous algorithmes<\/b><\/span><\/h2>\n

24 novembre 2017 9h45-16h
\n<\/strong><\/h3>\n

T\u00e9l\u00e9com ParisTech 46 rue Barrault 75634 Paris Cedex 13 Amphi Grenat<\/strong><\/h4>\n
Intervenants<\/a>
\nProgramme<\/a>
\nInscription <\/a><\/h5>\n

Pourquoi les algorithmes sont-ils en ce moment la coqueluche des m\u00e9dia\u00a0? Un algorithme, <\/span>d\u2019apr\u00e8s Wikip\u00e9dia, <\/span>est une \u00ab\u00a0suite finie et non ambigu\u00eb d\u2019op\u00e9rations ou d’instructions permettant de r\u00e9soudre un probl\u00e8me ou d’obtenir un r\u00e9sultat\u00a0\u00bb. Pour \u00eatre ex\u00e9cutable par un ordinateur, il est traduit par une suite d\u2019instructions d\u2019un langage de programmation. Divers algorithmes deviennent complexes de par le volume de donn\u00e9es qu\u2019ils traitent pour arriver \u00e0 un r\u00e9sultat attendu\u00a0: quel temps fera-t-il demain\u00a0? comment \u00e9volue le climat\u00a0? quels sont les potentiels futurs terroristes\u00a0? comment capter l\u2019opinion publique\u00a0? comment attirer et fid\u00e9liser le consommateur\u00a0? Comment piloter \u00e0 distance une op\u00e9ration\u00a0? \u2026 La technique informatique accompagne ce mouvement de complexification en traitant de gros volumes d\u2019information de nature diverse (big data), en introduisant de l\u2019apprentissage dans les algorithmes (machine learning), en mod\u00e9lisant des m\u00e9canismes de l\u2019intelligence humaine (intelligence artificielle). Mais il ne faut pas perdre de vue que derri\u00e8re les algorithmes, il y a des humains avec leurs pr\u00e9suppos\u00e9s, leurs id\u00e9ologies, leurs visions du monde\u2026 Un exemple rapport\u00e9 par un article de Numerama\u00a0:\u00ab\u00a0Beauty.AI est le premier concours de beaut\u00e9 jug\u00e9 par des algorithmes. Probl\u00e8me : la grande majorit\u00e9 des gagnants a la peau claire\u00a0\u00bb<\/span>1<\/sup><\/a><\/span><\/sup>. Cet exemple met en \u00e9vidence l\u2019importance des donn\u00e9es et exemples qui nourrissent le syst\u00e8me. Mais d\u2019autres exemples sont \u00e0 relever\u00a0: <\/span><\/h4>\n

Les lois fran\u00e7aises sur le renseignement et contre le terrorisme vot\u00e9es sous le gouvernement pr\u00e9c\u00e9dent donnent aux services de renseignement et de police des pouvoirs exorbitants notamment en mati\u00e8re de collecte des donn\u00e9es sur les r\u00e9seaux. Elles autorisent la surveillance de masse et visent \u00e0 pr\u00e9dire, via des algorithmes embarqu\u00e9s dans des \u00ab\u00a0bo\u00eetes noires\u00a0\u00bb des comportements potentiellement dangereux. Il ne fera pas bon se trouver parmi les \u00ab\u00a0faux positifs\u00a0\u00bb \u00e0 savoir des personnes rep\u00e9r\u00e9es \u00e0 tort. <\/span><\/h4>\n

Le minist\u00e8re de la Justice a autoris\u00e9, \u00e0 titre exp\u00e9rimental, l\u2019utilisation d\u2019un logiciel Predictis. Il s\u2019appuie sur un algorithme qui permet d\u2019\u00e9valuer les chances de r\u00e9ussite d\u2019une proc\u00e9dure ou le <\/span>montant des indemnit\u00e9s en analysant <\/span>des d\u00e9cisions de justice qui doivent, depuis la loi Lemaire, \u00eatre accessibles en ligne dans le cadre de l\u2019\u00a0\u00ab\u00a0<\/span>open data<\/span>\u00a0<\/i><\/span>\u00bb.<\/span> Le terme \u00ab\u00a0justice pr\u00e9dictive\u00a0\u00bb a accompagn\u00e9 le lancement de cet algorithme. <\/span><\/h4>\n

Le mod\u00e8le \u00e9conomique des GAFAM (Google, Amazon, Facebook, Apple, Microsoft) et de tous ceux qui se sont lanc\u00e9s \u00e0 leur suite s\u2019appuie en partie sur l\u2019extraction et l\u2019exploitation des donn\u00e9es personnelles. Pour offrir recherches et services personnalis\u00e9s, il faut conna\u00eetre l\u2019utilisateur, ses habitudes, ses \u00ab\u00a0amis\u00a0\u00bb, sa localisation, ses horaires de travail, etc. Tout devient pr\u00e9texte \u00e0 collecter des donn\u00e9es, \u00e0 les traiter, \u00e0 les fusionner et \u2026 \u00e0 les vendre. Des algorithmes, souvent compliqu\u00e9s et opaques, traitent du \u00ab\u00a0<\/span>big data<\/span>\u00a0\u00bb<\/i><\/span>. Profil\u00e9, le consommateur est aussi manipul\u00e9. Sa navigation, par exemple, va orienter les affichages des bandeaux publicitaires. Les suggestions faites par un moteur de recherche sont souvent faites \u00e0 partir de scores. Agr\u00e9gateurs de donn\u00e9es, <\/span>data brokers<\/span>, travaillent non seulement pour le marketing mais aussi pour la propagande politique. Sont ici en jeu les capacit\u00e9s de choix de l\u2019individu, voire son autonomie et son libre-arbitre, fondements de la d\u00e9mocratie<\/span><\/h4>\n

La multiplication des algorithmes s\u2019appuyant sur le \u00ab\u00a0<\/span>big data<\/span>\u00a0\u00bb, l\u2019intelligence artificielle, le \u00ab\u00a0<\/span>machine learning<\/span>\u00a0\u00bb doit \u00eatre interrog\u00e9e quant \u00e0 son impact soci\u00e9tal\u00a0: limites du traitement algorithmique, cons\u00e9quences sur les libert\u00e9s individuelles, tant<\/span> \u00e9conomiques que culturelles et sociales, fondements du pacte d\u00e9mocratique, \u2026 <\/span><\/h4>\n

C\u2019est \u00e0 cette interrogation que CREIS-Terminal entend contribuer par cette journ\u00e9e d\u2019\u00e9tude o\u00f9 seront abord\u00e9es <\/span> les enjeux techniques, sociaux, juridiques, \u00e9conomiques… des algorithmes.<\/span><\/h4>\n
\n

1<\/a> http:\/\/www.numerama.com\/tech\/193524-beauty-ai-algorithme-etre-raciste.html<\/a><\/span><\/span><\/span><\/span><\/h4>\n
\n

Intervenants<\/h3>\n<\/div>\n

Monsieur Adrien Basdevant <\/strong>Associ\u00e9\u00a0du cabinet d\u2019avocats\u00a0Lysias Partners<\/h5>\n

La g\u00e9opolitique des algorithmes<\/strong><\/h4>\n
Les donn\u00e9es – et les algorithmes qui les traitent – renversent les logiques de pouvoir existantes. L\u2019analyse des rapports de force en pr\u00e9sence est indispensable pour saisir cette nouvelle donne. La g\u00e9opolitique du num\u00e9rique met en exergue une triple probl\u00e9matique de souverainet\u00e9. Tout d\u2019abord, une course effr\u00e9n\u00e9e que m\u00e8ne chaque Etat-nation pour affirmer son influence dans le cyberespace. Ensuite, la nouvelle opposition entre ces Etats-nations traditionnels et les nouveaux acteurs du num\u00e9rique, que sont les Etats-plateformes. Ces derniers entretiennent des relations subtiles et ambivalentes. Le num\u00e9rique devient en effet un enjeu d\u00e9cisif de soft power<\/i> permettant d\u2019imposer subrepticement sa norme, son pouvoir. Dans cet affrontement de titans, les individus doivent se r\u00e9unir pour trouver des modalit\u00e9s de repr\u00e9sentation, afin de ne pas rester tributaires ni des Etats ni des Plateformes. Tels sont les enjeux de la g\u00e9opolitique des algorithmes.<\/h5>\n

<\/br><\/p>\n

Monsieur Christophe Benavent<\/b> Professeur Universit\u00e9 Paris Ouest<\/h5>\n

Gouverner les conduites : le r\u00f4le des algorithmes <\/strong><\/h4>\n
Qu’il s’agisse des moteurs de recommandation, des syst\u00e8mes de prix dynamiques, des syst\u00e8mes de r\u00e9putation, des agents interactifs, ou de la reconnaissance d’images, les algorithmes jouent un r\u00f4le essentiel et croissant dans le gouvernement des conduites des consommateurs. Ils d\u00e9finissent un cadre d’action, et jouent un r\u00f4le \u00e9valuatif et incitatif, g\u00e9n\u00e9ralement ajust\u00e9 aux profils des utilisateurs. Leur but vise autant \u00e0 obtenir des r\u00e9sultats sp\u00e9cifiques lors des interactions individuelles, qu’\u00e0 obtenir des comportements g\u00e9n\u00e9raux des populations, ce r\u00f4le est exacerb\u00e9 dans l’environnement des plateformes num\u00e9riques : places de march\u00e9s, r\u00e9seaux sociaux, sites collaboratifs. Ces syst\u00e8mes orient\u00e9s vers l’action plut\u00f4t que l’\u00e9tude produisent des effets parfois inattendus et peu souhaitables ( par exemple : discrimination ou bulles de filtrage),\u00a0 et leur param\u00e9trage peut \u00eatre contest\u00e9 par des comportements adversiaux.\u00a0 Ces ph\u00e9nom\u00e8nes conduisent \u00e0 faire de l'\u00a0\u00bbaccountability\u00a0\u00bb des algorithmes une priorit\u00e9 dans leur gestion.<\/h5>\n

Diaporama de pr\u00e9sentation<\/a>
\n<\/br><\/p>\n

Monsieur Olivier Koch<\/b>\u00a0 enseignant chercheur en Sciences de l’information et de la communication \u00e0 l\u2019Universit\u00e9 de Galatasaray (Istanbul)<\/h5>\n

Pr\u00e9dire l\u2019insurrection<\/strong><\/h4>\n
Dans les ann\u00e9es 2000, Big data et traitements algorithmiques ont \u00e9t\u00e9 utilis\u00e9s dans la gestion s\u00e9curitaire des populations. Sous l\u2019occupation de l\u2019Irak (2003-2010), l\u2019arm\u00e9e am\u00e9ricaine et la coalition internationale ont exp\u00e9riment\u00e9 des technologies de d\u00e9tection automatis\u00e9e d\u2019insurrections. L\u2019objectif tactique \u00e9tant de distinguer les \u00ab\u00a0insurg\u00e9s\u00a0\u00bb du reste de la population et de les neutraliser. A cette fin, \u00e0 partir de 2006, le d\u00e9partement de la D\u00e9fense am\u00e9ricain finance la mise en \u0153uvre d\u2019une ing\u00e9nierie en mod\u00e9lisation computationnelle des comportements socioculturels. Ces mod\u00e9lisations ambitionnent de d\u00e9tecter le plus finement possible les \u00ab\u00a0insurrections\u00a0\u00bb, mais aussi de les pr\u00e9dire. L\u2019usage actuaire des sciences sociales computationnelles est ainsi mis au service de la \u00ab\u00a0stabilisation\u00a0\u00bb des zones d\u2019occupation. Comment ces pr\u00e9dictions sont-elles produites et utilis\u00e9es\u00a0? Comment, \u00e0 partir du laboratoire de la contre-insurrection en Irak, a vu le jour une industrie de la pr\u00e9diction automatis\u00e9e d\u2019instabilit\u00e9s internationales\u00a0? On r\u00e9pondra \u00e0 ces questions \u00e0 partir de l\u2019\u00e9tude de dispositifs pr\u00e9dictifs en zones de conflit et \u00e0 travers l\u2019analyse de l\u2019\u00e9mergence de la nouvelle ing\u00e9nierie en mod\u00e9lisation des comportements socioculturels.<\/h5>\n

Sch\u00e9mas explicatifs<\/a>
\n<\/br><\/p>\n

Monsieur Fran\u00e7ois Pellegrini<\/b> Professeur d\u2019informatique Universit\u00e9 de Bordeaux, membre de la CNIL<\/h5>\n

Biais et conformisme des traitements algorithmiques <\/strong><\/h4>\n
La possibilit\u00e9 de traiter efficacement des masses consid\u00e9rables de donn\u00e9es accroit la tentation de faire reposer la gestion des soci\u00e9t\u00e9s humaines sur une gouvernance algorithmique. Dans cette vision, les traitements de donn\u00e9es et leurs r\u00e9sultats seraient consid\u00e9r\u00e9s comme immunis\u00e9s contre les errements de l’\u00e2me humaine, et donc assimil\u00e9s \u00e0 des v\u00e9rit\u00e9s scientifiques qu’il serait absurde de contester. Or, les traitements de donn\u00e9es, comme tout artefact, sont des objets socio-\u00e9conomico-culturels, p\u00e9tris de biais humains et, qui plus est, intrins\u00e8quement conformistes.<\/h5>\n

Diaporama de pr\u00e9sentation<\/a>
\n<\/br>
\nNB\u00a0: pr\u00e9sentation des propos par les auteurs<\/em><\/strong><\/p>\n<\/div>\n

\n

Programme<\/h3>\n

 <\/p>\n<\/div>\n

9h45 accueil
\n10h Fran\u00e7ois Pellegrini \u00ab\u00a0Biais et conformisme des traitements algorithmiques\u00a0\u00bb<\/a>
\n11h Adrien Basdevant \u00ab\u00a0La g\u00e9opolitique des algorithmes\u00a0\u00bb<\/a>
\n12h-14h temps libre
\n14h Christophe Benavent \u00ab\u00a0Gouverner les conduites : le r\u00f4le des algorithmes\u00a0\u00bb<\/a>
\n15h Olivier Koch \u00ab\u00a0Pr\u00e9dire l\u2019insurrection\u00a0\u00bb<\/a><\/strong><\/h5>\n
Chaque intervention d’une vingtaine de minutes sera suivie d’un \u00e9change avec les participants<\/h6>\n

Participation gratuite mais inscription obligatoire<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Journ\u00e9e d’\u00e9tude organis\u00e9e par CREIS-Terminal Vivre dans un monde sous algorithmes 24 novembre 2017 9h45-16h T\u00e9l\u00e9com ParisTech 46 rue Barrault 75634 Paris Cedex 13 Amphi Grenat Intervenants<\/a> Programme<\/a> Inscription <\/a> Pourquoi les algorithmes sont-ils en ce moment la coqueluche des m\u00e9dia\u00a0? Un algorithme, d\u2019apr\u00e8s Wikip\u00e9dia, est une \u00ab\u00a0suite finie et non … <\/p>\n

Lire la suite<\/a><\/p>\n","protected":false},"author":4,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[96,8],"tags":[117,53,90],"class_list":["post-2473","post","type-post","status-publish","format-standard","hentry","category-annonces-evenements","category-journees_etude","tag-algorithmes","tag-donnees-personnelles","tag-vie-privee","item-wrap"],"_links":{"self":[{"href":"https:\/\/www.lecreis.org\/index.php?rest_route=\/wp\/v2\/posts\/2473","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.lecreis.org\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.lecreis.org\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.lecreis.org\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/www.lecreis.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2473"}],"version-history":[{"count":41,"href":"https:\/\/www.lecreis.org\/index.php?rest_route=\/wp\/v2\/posts\/2473\/revisions"}],"predecessor-version":[{"id":2521,"href":"https:\/\/www.lecreis.org\/index.php?rest_route=\/wp\/v2\/posts\/2473\/revisions\/2521"}],"wp:attachment":[{"href":"https:\/\/www.lecreis.org\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2473"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.lecreis.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2473"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.lecreis.org\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2473"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}