<\/p>\n\n\n\n
29 novembre 2024<\/mark><\/strong><\/p>\n\n\n\n L\u2019intelligence artificielle (IA) est un ensemble de techniques qui remontent aux ann\u00e9es 1940-1950 avec les travaux de Turing, de Wiener. Suppos\u00e9e simuler \u00e0 l\u2019aide de machines le raisonnement humain, l\u2019IA s\u2019appuie sur des mod\u00e8les math\u00e9matiques, algorithmiques, informatiques. La technologie informatique a connu plusieurs \u00e9volutions avec les syst\u00e8mes experts qui permettent de reproduire le raisonnement d\u2019un expert (par exemple m\u00e9decin pour un diagnostic de sant\u00e9), les r\u00e9seaux neuronaux qui s\u2019inspirent de la biologie (neurones et synapses) pour raisonner souvent avec des m\u00e9thodes d\u2019apprentissage probabilistes, le machine learning<\/em> (apprentissage automatique) qui permet d\u2019apprendre \u00e0 partir de donn\u00e9es massives, le deep learning<\/em> (apprentissage profond) qui repose sur l\u2019apprentissage des significations des donn\u00e9es. L\u2019apprentissage automatique et l\u2019apprentissage par renforcement permettent \u00e0 partir de l\u2019analyse de donn\u00e9es massives de d\u00e9duire des r\u00e8gles \u00e0 suivre dans le syst\u00e8me d\u2019IA. L\u2019un des d\u00e9fis est l\u2019apprentissage du langage naturel ; r\u00e9cemment avec les LLM (large languages models<\/em>) est apparue l\u2019intelligence artificielle g\u00e9n\u00e9rative, c\u2019est-\u00e0-dire une IA qui a la capacit\u00e9 de cr\u00e9er, que ce soit le texte (ChatGPT, projet OpenAI), l\u2019image (DALL-E et Midjourney), le son (Suno) ou la vid\u00e9o (Sora). Avec ChatGPT qui a atteint en l\u2019espace de cinq jours 1 million de comptes cr\u00e9\u00e9s<\/a> et le buzz m\u00e9diatique. Ainsi, l\u2019IA g\u00e9n\u00e9rative est devenue un ph\u00e9nom\u00e8ne de soci\u00e9t\u00e9 d\u00e8s fin 2022. L\u2019IA g\u00e9n\u00e9rative d\u00e9passe les syst\u00e8mes de recommandation (comme sur Amazon, Booking), ceux de score par les banques pour discerner les profils des clients. Les nouvelles promesses op\u00e8rent dans les secteurs de la justice (pr\u00e9dictive), de la sant\u00e9, de la s\u00e9curit\u00e9 (vid\u00e9osurveillance et identification algorithmiques, reconnaissance faciale et biom\u00e9trie). Mais les avanc\u00e9es technologiques peuvent servir le deepfake<\/em> (hypertrucage pour les photos et les vid\u00e9os par exemple mais aussi pour des textes vraisemblables mais faux), ainsi que le pillage de donn\u00e9es qui enfreint les droits des cr\u00e9ateurs, en les agr\u00e9geant pour fournir des r\u00e9ponses probabilistes. Il existe aussi des fausses IA avec des travailleurs du clic qui effectuent des micro-t\u00e2ches sous-pay\u00e9es<\/a> (Casilli, 2019<\/a>). L\u2019IA g\u00e9n\u00e9rative, \u00e0 la capacit\u00e9 de calcul impressionnante, pr\u00e9sente aussi des limites avec les biais relatifs aux donn\u00e9es sous ou sur-repr\u00e9sent\u00e9es, avec l\u2019absence de mention des sources et des hallucinations (production d\u2019informations fausses ou erron\u00e9es). L\u2019IA g\u00e9n\u00e9rative pr\u00e9sente en outre des risques pour les donn\u00e9es personnelles<\/strong>. En effet, la question de l\u2019exploitation des donn\u00e9es comportementales et personnelles se pose en termes de menaces, d\u2019autant plus que dans ce contexte technologique le RGPD ne suffit pas pour les prot\u00e9ger. V\u00e9cu, aux d\u00e9buts, comme une contrainte par les entreprises se sentant sous injonction r\u00e8glementaire, les discours du MEDEF mettent d\u00e9sormais en avant la mise en conformit\u00e9<\/a>. Tels sont les enjeux, parmi d\u2019autres, abord\u00e9s lors de cette prochaine journ\u00e9e d\u2019\u00e9tude.<\/p>\n\n\n\n Selon une profonde ambivalence, l\u2019IA g\u00e9n\u00e9rative permet certes des avanc\u00e9es mais dans le m\u00eame temps d\u00e9ploie les conditions de surveillance et traitement-exploitation des donn\u00e9es en lien avec ces avanc\u00e9es. L\u2019opacit\u00e9 des algorithmes ne permet pas de conna\u00eetre leur <\/a>conception et mise en \u0153uvre<\/a>, afin de participer \u00e0 la gouvernance des d\u00e9veloppements en mati\u00e8re d\u2019IA g\u00e9n\u00e9rative, ou de cerner exactement la surveillance, la tra\u00e7abilit\u00e9 et l\u2019exploitation des donn\u00e9es. Le consentement, face aux injonctions technologiques, conduit \u00e0 l\u2019acceptabilit\u00e9 de l\u2019IA g\u00e9n\u00e9rative au nom de l\u2019innovation dans un contexte d\u2019\u00e9conomie num\u00e9rique fond\u00e9e sur des algorithmes, l\u2019IA et l\u2019exploitation de donn\u00e9es d\u2019usages collect\u00e9es. La d\u00e9multiplication des services attire ainsi les utilisateurs-consommateurs, dont l\u2019attention<\/a> est devenue une ressource <\/a>dans le cadre de l<\/a>\u2019\u00e9conomie de l\u2019attention<\/a>, faisant partie de la surveillance des donn\u00e9es, que Shoshana Zuboff <\/a>(2019\/2022) inscrit dans le capitalisme, non plus structur\u00e9 par la propri\u00e9t\u00e9 des moyens de production mais celle des outils de tra\u00e7age et exploitation des donn\u00e9es comportementales, voire de leur orientation<\/a> pour conseiller\/personnaliser en lieu et place de la manipulation, support\u00e9e par l\u2019invasion des plateformes<\/a>.<\/p>\n\n\n\n La protection des donn\u00e9es<\/strong> dans un contexte de sophistication informatique avec les algorithmes et l\u2019intelligence artificielle, pour toujours plus de tra\u00e7abilit\u00e9 et d\u2019exploitation de donn\u00e9es doit donner encore lieu \u00e0 la vigilance, sans nier les avantages de l\u2019informatique et de l\u2019intelligence artificielle. Cette derni\u00e8re <\/strong>fond\u00e9e sur une \u00e9conomie des donn\u00e9es repr\u00e9sente un enjeu informatique et soci\u00e9t\u00e9 majeur puisque la captation permanente des donn\u00e9es est n\u00e9cessaire pour nourrir les syst\u00e8mes d\u2019intelligence artificielle, qui fait d\u00e9sormais l\u2019objet d\u2019un \u00ab AI Act \u00bb : \u00ab l\u2019Union (europ\u00e9enne) doit agir en tant qu\u2019organisme normatif mondial en mati\u00e8re d\u2019IA<\/a> \u00bb. En France, la mesure est prise avec un \u00ab avis relatif \u00e0 l\u2019impact de l\u2019intelligence artificielle sur les droits fondamentaux<\/a> \u00bb en avril 2022 .<\/p>\n\n\n\n \u00c0 l\u2019heure des d\u00e9veloppements de l\u2019intelligence artificielle qui provoquent des craintes (communiqu\u00e9 CNIL du 8\/07\/2021) et font l\u2019objet de travaux de r\u00e9glementation, la recherche Informatique et Soci\u00e9t\u00e9, qui a t\u00f4t <\/a>travaill\u00e9 les enjeux sociaux de la surveillance, se pr\u00e9occupe de l\u2019intelligence artificielle<\/a> qui renouvelle les syst\u00e8mes biom\u00e9triques<\/a> pour traquer des profils d\u2019individus, pour servir des int\u00e9r\u00eats s\u00e9curitaires et \u00e9conomiques, \u00e0 la fronti\u00e8re de la discrimination interdite en vertu de l’article 21 de la Charte des droits fondamentaux de l\u2019Union europ\u00e9enne. L\u2019IA vise \u00e0 automatiser les d\u00e9ductions exigeant des traitements massifs de donn\u00e9es (non pas seulement personnelles, mais par recoupements sophistiqu\u00e9s, et avec des machines apprenantes en permanence). Les r\u00e9gulations et cadres r\u00e9glementaires sont-ils suffisants pour prot\u00e9ger des droits inali\u00e9nables ? La demande d\u2019une \u00e9thique ne suffit pas, m\u00eame s\u2019il s\u2019agit d\u2019engager des compromis dans le cadre de r\u00e9gulations en cours, avec le renfort des lois. La question concerne aussi le consentement : \u00e0 l\u2019heure des traitements par les syst\u00e8mes d\u2019IA, est-il vraiment \u00e9clair\u00e9 ?<\/strong><\/p>\n\n\n\n <\/p>\n\n\n\n Programme de la journ\u00e9e<\/mark><\/strong><\/p>\n\n\n\n 10h conf\u00e9rence introductive<\/p>\n\n\n\n Roger Bautier<\/strong>, M\u00e9connaissance et autorit\u00e9 de l\u2019IA g\u00e9n\u00e9rative<\/a><\/strong><\/p>\n\n\n\n Fortement m\u00e9diatis\u00e9e, l\u2019apparition de ChatGPT en novembre 2022 a attir\u00e9 l\u2019attention sur les d\u00e9veloppements de l\u2019intelligence artificielle g\u00e9n\u00e9rative en mettant en lumi\u00e8re les performances des transformeurs pr\u00e9-entra\u00een\u00e9s, qui offrent des potentialit\u00e9s \u00e0 la fois diverses et massives pour le traitement de l\u2019information, l\u2019invention intellectuelle ou la production artistique. Ils ont montr\u00e9, en particulier, leur aptitude \u00e0 g\u00e9n\u00e9rer des suites de mots acceptables, sans que soit concern\u00e9e leur relation au monde : ces suites peuvent \u00eatre conformes aux contraintes de la langue et, plus largement aux aspects rh\u00e9toriques du discours, tout en n\u2019impliquant aucune dimension r\u00e9f\u00e9rentielle. Au-del\u00e0 de l\u2019accomplissement de t\u00e2ches linguistiques, les applications sont diverses et impressionnantes et les m\u00e9thodes utilis\u00e9es pr\u00e9sentent des avantages incontestables, notamment en mati\u00e8re de quantit\u00e9 de donn\u00e9es trait\u00e9es et produites, que celles-ci soient unimodales (comme du texte) ou multimodales (textes, images, sons\u2026).<\/p>\n\n\n\n On comprend d\u00e8s lors que l\u2019IA g\u00e9n\u00e9rative doive susciter un examen attentif de ses implications dans le domaine r\u00e9glementaire en g\u00e9n\u00e9ral, dans celui de la protection des donn\u00e9es personnelles ou dans celui de son impact \u00e9cologique. En guise d\u2019introduction \u00e0 cet examen, on se propose de pr\u00e9senter deux pr\u00e9alables qui ne sont pas encore tr\u00e8s \u00e9tudi\u00e9s : d\u2019une part, le d\u00e9ficit d\u2019\u00e9lucidation de son fonctionnement et, d\u2019autre part, la construction probl\u00e9matique de son autorit\u00e9.<\/p>\n\n\n\n Roger Bautier<\/strong> est Professeur \u00e9m\u00e9rite des Universit\u00e9s, USPN, LABSIC<\/p>\n\n\n\n 10h45-11h30<\/p>\n\n\n\n Nicolas Berkouk<\/strong>, R\u00e9gulation de l’Intelligence Artificielle : le point de vue d’une autorit\u00e9 de protection des donn\u00e9es<\/a><\/strong><\/p>\n\n\n\n L’essor fulgurant des performances des techniques d’apprentissage profond dans les ann\u00e9es 2010 a permis de d\u00e9velopper des syst\u00e8mes qui rendent possibles des usages qui hier semblaient inaccessibles. Si ChatGPT en est l’exemple le plus populaire, l’intelligence artificielle ne se limite, et ne se limitera pas \u00e0 ceux-ci, et on observe d\u00e8s \u00e0 pr\u00e9sent une profusion de nouveaux syst\u00e8mes qui reposent sur cette technologie : cam\u00e9ra intelligentes, voitures autonomes, m\u00e9decine personnalis\u00e9e, industrie 4.0, etc\u2026 Nicolas Berkouk<\/strong> est Expert scientifique au sein du service IA de la CNIL<\/p>\n\n\n\n pause<\/p>\n\n\n\n 11h45-12h30<\/p>\n\n\n\n Julien Cloarec<\/strong>, Analyser, interpr\u00e9ter, g\u00e9n\u00e9rer : les grands mod\u00e8les de langue en interconnexion<\/strong><\/p>\n\n\n\n L’intervention portera sur l’impact des grands mod\u00e8les de langage (LLM) dans la structuration et l’analyse de corpus textuels, ainsi que leur r\u00f4le dans la g\u00e9n\u00e9ration de texte. Je d\u00e9buterai par une explication de la mani\u00e8re dont les LLM permettent de vectoriser un corpus, c’est-\u00e0-dire de transformer le texte en repr\u00e9sentations num\u00e9riques exploitables pour diverses t\u00e2ches d’analyse. Cette \u00e9tape cl\u00e9 permet l’exploitation de vastes quantit\u00e9s de donn\u00e9es textuelles, en cr\u00e9ant des repr\u00e9sentations vectorielles qui capturent les nuances s\u00e9mantiques des mots et des phrases. \u00c0 ce stade, j’\u00e9voquerai \u00e9galement l’importance des donn\u00e9es personnelles utilis\u00e9es dans l’entra\u00eenement des LLM, soulignant les enjeux de confidentialit\u00e9 et les pr\u00e9cautions \u00e0 prendre pour garantir que les repr\u00e9sentations vectorielles ne compromettent pas la vie priv\u00e9e des individus. Ensuite, je montrerai comment ces mod\u00e8les peuvent \u00eatre utilis\u00e9s pour analyser des textes, notamment \u00e0 travers des techniques telles que le zero-shot topic modeling, o\u00f9 un LLM peut identifier des sujets dans un corpus sans n\u00e9cessiter de donn\u00e9es d’entra\u00eenement sp\u00e9cifiques. Cette forme d’analyse ouvre des perspectives pour l’exploration automatique de grandes bases de donn\u00e9es textuelles. Ici encore, le r\u00f4le des donn\u00e9es personnelles sera discut\u00e9, en particulier sur la mani\u00e8re dont ces informations peuvent influencer les r\u00e9sultats et la n\u00e9cessit\u00e9 d’anonymiser les donn\u00e9es pour \u00e9viter des biais ou des violations de la confidentialit\u00e9. Je poursuivrai avec une discussion sur l’interpr\u00e9tation des r\u00e9sultats obtenus gr\u00e2ce aux LLM. L’accent sera mis sur la capacit\u00e9 de ces mod\u00e8les \u00e0 fournir des explications et des interpr\u00e9tations des sujets ou des th\u00e8mes extraits, facilitant ainsi la prise de d\u00e9cisions inform\u00e9es. \u00c0 ce stade, j’aborderai les implications des donn\u00e9es personnelles dans l’interpr\u00e9tation, en mettant en lumi\u00e8re les risques li\u00e9s \u00e0 l’identification involontaire de personnes \u00e0 partir de donn\u00e9es agr\u00e9g\u00e9es. Par la suite, j’expliquerai comment les LLM peuvent g\u00e9n\u00e9rer du texte \u00e0 partir des interpr\u00e9tations obtenues, en pr\u00e9sentant des exemples de g\u00e9n\u00e9ration de contenu bas\u00e9 sur les th\u00e8mes identifi\u00e9s. Cette d\u00e9monstration mettra en avant la puissance de ces mod\u00e8les dans la cr\u00e9ation automatique de texte pertinent et contextuellement appropri\u00e9, tout en consid\u00e9rant les pr\u00e9cautions n\u00e9cessaires pour que les donn\u00e9es personnelles ne soient pas utilis\u00e9es de mani\u00e8re inappropri\u00e9e dans ce processus. Enfin, je conclurai par une r\u00e9flexion sur la conceptualisation et les implications de ces IA interconnect\u00e9es dans les pratiques professionnelles et acad\u00e9miques. L’objectif est de fournir une approche pratique et \u00e9clair\u00e9e sur l’utilisation des LLM, en soulignant leur potentiel transformateur dans l’analyse et la g\u00e9n\u00e9ration de texte, tout en ouvrant la discussion sur les implications \u00e9thiques et les d\u00e9fis li\u00e9s \u00e0 l’utilisation des donn\u00e9es personnelles \u00e0 grande \u00e9chelle dans ces processus.<\/p>\n\n\n\n Julien Cloarec <\/strong>est Professeur des Universit\u00e9s, Ing\u00e9nieur dipl\u00f4m\u00e9 en Informatique, Docteur en Sciences de Gestion, Universit\u00e9 Jean Moulin Lyon 3, iaelyon School of Management<\/p>\n\n\n\n 14h30-15h15<\/p>\n\n\n\n Olivier Koch<\/strong> : Les enjeux de l\u2019IA dans les industries de presse<\/strong><\/p>\n\n\n\n Le d\u00e9veloppement de l\u2019IA g\u00e9n\u00e9rative conversationnelle a suscit\u00e9 de nouvelles incertitudes dans les secteurs de la presse. La d\u00e9sinformation en ligne optimis\u00e9e par les performances de l\u2019IA est appr\u00e9hend\u00e9e, au sein des r\u00e9dactions, comme un facteur d\u2019\u00e9rosion croissante de la confiance des publics dans les m\u00e9dias. Les gains de productivit\u00e9 de l\u2019IA, r\u00e9els ou escompt\u00e9s, provoquent une course aux \u00e9quipements et partenariats strat\u00e9giques en m\u00eame temps qu\u2019elle soul\u00e8ve des enjeux de droit de la propri\u00e9t\u00e9 intellectuelle de premier ordre, enjeux d\u2019ailleurs fort similaires \u00e0 ceux n\u00e9goci\u00e9s avec de grandes plateformes sous forme de droits voisins. L\u2019ex\u00e9cution automatis\u00e9e de certaines t\u00e2ches routini\u00e8res des journalistes et des m\u00e9tiers de l\u2019\u00e9dition remet en question l\u2019organisation, la division et le management du travail, suscitant de nombreuses inqui\u00e9tudes des professionnels au sein de fili\u00e8res. \u00c0 travers l\u2019\u00e9tude des documents et entretiens o\u00f9 ces incertitudes sont objectiv\u00e9es, cette communication propose de formaliser les positionnements en cours des industries de presse vis-\u00e0-vis des enjeux de l\u2019IA g\u00e9n\u00e9rative<\/p>\n\n\n\n Oliver Koch<\/strong> est enseignant chercheur \u00e0 l’USPN, rattach\u00e9 au Labsic. Ses travaux portent sur l’\u00e9volution des industries de presse et des strat\u00e9gies d’influence internationales. <\/p>\n\n\n\n 15h15-16h<\/p>\n\n\n\n Antoine Henry\u00a0: Art et IA, exploration d’imaginaires artistiques<\/a><\/strong><\/p>\n\n\n\n Cette communication explore de multiples imaginaires, travaux et cr\u00e9ations entre la science, l’art et la soci\u00e9t\u00e9. Nous ferons un voyage exploratoire \u00e0 travers des exemples pour parler de la cr\u00e9ativit\u00e9, de l’\u00e9thique et de l’utilisation d’algorithmes pour produire des \u0153uvres d’art ou pour avoir une pens\u00e9e critique sur l’IA. Dans tous ces exemples, nous trouvons la question du lien entre l’art et la science et comment ils se nourrissent l’un l’autre. \u00c0 travers ce cheminement, nous reviendrons aussi plus particuli\u00e8rement sur les enjeux associ\u00e9s \u00e0 la donn\u00e9e dans ce contexte artistique, \u00e0 sa production, son exploitation, sa mise en forme voire sa restitution. Les artistes se positionnent alors \u00e0 la pointe d’approches critiques et \u00e9thiques associ\u00e9es \u00e0 l’IA.<\/p>\n\n\n\nL\u2019intelligence artificielle g\u00e9n\u00e9rative et l\u2019enjeu des donn\u00e9es personnelles<\/strong><\/h3>\n\n\n\n
L’Union Europ\u00e9enne s’est dot\u00e9e cette ann\u00e9e, avec le r\u00e8glement IA, d’un premier cadre r\u00e9glementaire visant \u00e0 encadrer la mise sur le march\u00e9 des syst\u00e8mes d’IA. Pour autant, ce r\u00e8glement s’applique sans pr\u00e9judice des textes europ\u00e9ens pr\u00e9-existants, et en particulier du R\u00e8glement G\u00e9n\u00e9ral sur la Protection des Donn\u00e9es (RGPD). En effet, les donn\u00e9es personnelles constituent le carburant par lequel les mod\u00e8les d’IA sont nourris, et leur d\u00e9veloppement est donc soumis au RGPD.
Dans cette pr\u00e9sentation, j’introduirai les grands enjeux jurico-techniques de l’application des principes de la protection des donn\u00e9es au d\u00e9veloppement et d\u00e9ploiement de syst\u00e8mes d’IA.<\/p>\n\n\n\n