Face la gouvernementalit algorithmique, repenser le sujet de droit comme puissance.

Antoinette Rouvroy, National Fund for Scientific Research (FNRS) and Information Technology & Law Research Centre, ni!ersity of Namur (CRI") Abstract TABLES ES !AT"E#ES$ " % &roduire la ralit m'me le monde $ une nouvelle stratgie de gestion de l(incertitude. ).*ouvernementalit algorithmique et capitalisme. +.!ise en ,n-om.res de la vie m'me. "" % La gouvernementalit algorithmique et le comportementalisme numrique, au%del de la gouvernementalit noli.rale$ des dispositi/s qui dispensent. ). Les 0.ig data0$ nouveau1 usages de la statistique. +. Le comportementalisme numrique$ le per/ectionnement des dispositi/s de scurit dcrits par !ichel Foucault. 2. Anticipation et dispense d(interprtation. 3. L40o.jectivit0 de la gouvernementalit algorithmique est%elle un gage de justice 5 """% L4prouvante inoprationnalit du droit comme occasion de surgissement du sujet de droit comme puissance. ). L4prouvante inoprationnalit du droit. +. Le sujet de droit comme puissance. "6% #essources pour une critique de la rationalit algorithmique $ loge du commun. ). La rcalcitrance plut7t que le contr7le. +. 8 "l /aut organiser le pessimisme. 9 6%Envoi $#aconter pour suspendre. A#*:!E;T Le 8 tournant numrique 9 mani/est, depuis une di<aine d4annes, par le dploiement intensi/ d4une multitude d4appareils lectroniques /onds sur la technologie numrique, vrita.les proth=ses cognitives, mmorielles, a//ectives, communicationnelles plus addictives les unes que les autres ,ordinateurs, iphones, ipads, smartphones, gps, >-. ;ous .aignons depuis lors dans une multitude de /lu1 in/ormationnels amniotiques%h?pnotiques qui nous immergent dans l4environnement contr7l%personnalis de la ralit numrique et nous immunisent du monde. @e /aisant ces appareils en rseau, 8 nourris 9 de nos requ'tes, envois, interactions, transcrivent le monde et ses ha.itants sous /orme de donnes numriques, mta.olisa.les par les s?st=mes in/ormatiques. e cette transcription s?stmatique, a%signi/iante, dconte1tualisante, neutralisante, rsultent des masses gigantesques de donnes .rutes, disponi.les pour une multitude d4oprations statistiques. L4idologie accompagnant la croissance de ces 8 .ig data 9, est qu4 condition de disposer de quantits massives de donnes .rutes ,disponi.les dans des entrep7ts de donnes, ou dataAarehouses-, il deviendrait possi.le de prvoir, avec une relative prcision, la survenue de la plupart des phnom=nes ,en ce compris les comportements humains-, grBce des algorithmes relativement simples permettent, sur une .ase purement statistique, inductive, d4in/rer des pro/ils ,patterns ou mod=les de comportements- sans plus avoir se proccuper de leurs causes.

@ette 8 intelligence des donnes 9 apparaCt aujourd4hui comme une nouvelle stratgie de gestion de l4incertitude, suscitant l4engouement dans la plupart des secteurs d4activit et de gouvernement, en en ren/orDant au passage la managrialisation. Le gouvernement algorithmique est un mode de gouvernement nourri essentiellement de donnes .rutes, signau1 in/ra%personnels et a%signi/iants mais quanti/ia.les, oprant par con/iguration anticipative des possi.les plut7t que par r=glementation des conduites, et ne s(adressant au1 individus que par voie d4alertes provoquant des r/le1es plut7t qu(en s4appu?ant sur leurs capacits d(entendement et de volont. La recon/iguration constante, en temps rel, des environnements in/ormationnels et ph?siques des individus en /onction de 8 l4intelligence des donnes 9 % qu4on l4appelle 8 personnalisation 9 ou 8 mta.olisme de scurit 9 % est un mode de gouvernement indit. Le t?pe de 8 savoir 9 qui le nourrit et qu4il /aDonne, les modalits suivant lesquelles il a//ecte e//ectivement les conduites individuelles et collectives, les modes d4individuation qui peuvent l4in/lchir ou lui rsister mritent d4'tre tr=s soigneusement tudis. @(est prcisment l(enjeu de cet ouvrage. La gouvernementalit algorithmique ? est e1plore d(une mani=re qui com.ine trois t?pes d(enjeu1 troitement im.riqus$ )- les enjeu1 smiotiques et pistmologiques , quel t?pe de 0savoir0 donne donc lieu l(0intelligence des donnes05-, quelles sont les conditions de la critique /ace ce t?pe de 0savoir05 +- les enjeu1 de pouvoir ,en quoi les 0.ig data0 modi/ient%ils les modes d(e1ercice du pouvoir 5 En quoi le datamining et le pro/ilage sont ils une nouvelle mani=re de gouverner52- Les enjeu1 de su.jectivation ou d(individuation ,comment 0devenir sujet0 dans ce monde de donnes5-, qui sont inspara.les des enjeu1 de la rcalcitrance et de la critique /ace la rationalit algorithmique. Le premier plan % pistmologique et smiotique % /ait entrevoir que les algorithmes de corrlations statistiques permettent de produire automatiquement une certaine 8 intelligence 9 au dpart de masses gigantesques de donnes .rutes, a%signi/iantes, /onctionnant la mani=re de signau1, quanti/ia.les m'me privs de toute signi/ication, plut7t qu( la mani=re de signes ,les donnes .rutes ne /ont signe ni par la ressem.lance, ni par lien ph?sique qu(elles auraient avec ce dont elles /aDonnent l(om.re numrique, ni par convention-. Le 8 savoir 9, non plus produit mais immanent au1 .anques de donnes et dcouvert par les algorithmes, est particulier notamment en ce qu4il se dispense de tout t?pe d4preuve. "nducti/ plut7t que dducti/, il s4carte radicalement des am.itions de la rationalit moderne reliant les phnom=nes leurs causes au pro/it d4une logique purement inductive, statistique. "l n4prouve pas le monde sur lequel il porte, et ne se laisse pas non plus prouver par lui $ ce n4est qu4 m'me une 8 ralit numrique 9 et sans plus aucun contact avec le monde qu4elle est cense reprsenter que se /aDonne la ralit algorithmique. @e /aisant, elle ne donne aucune prise au1 preuves traditionnelles par lesquelles le savoir acquiert en temps normal sa ro.ustesse et sa validit. &lut7t qu4en /onction de la validit de ses mod=les 8 prdicti/s 9, c4est l4aune de son oprationnalit, de sa plasticit, de sa contri.ution au processus de /luidi/ication de la vie conomique et sociale ,et donc au capitalisme-, de sa non%ro.ustesse donc, et de la mesure dans laquelle elle nous dispense, nous, 'tres humains, de tout e//ort d4interprtation et d4valuation des personnes et des vnements du monde que s4value l4 8 intelligence 9 des 8 .ig%data 9. Telle est la rationalit algorithmique. Le second plan % celui du pouvoir % permet de percevoir la mani=re dont ces glissements d(ordre smiotique et pistmologique permettent une nouvelle mani=re de gouverner. Le 8 pouvoir 9 sem.le avoir chang de 8 ci.le 9 $ non plus les corps vivants, individuels, su.jecti/s, actuels, mais un corps statistique, impersonnel, virtuel, moulage gnrique et changeant des 8 risques et opportunits 9 dtects en temps rel, distri.us sous /orme de mod=les de comportements ,les pro/ils de consommateur, de /raudeur ou de potentiel dlinquant, d(l=ve prometteur,..-. &er/ectionnant les dispositi/s de scurit dj thoriss par !ichel Foucault, le gouvernement algorithmique est pr%empti/ plut7t que prdicti/ $ il ne s(agit pas tant d(identi/ier et de localiser la cause des phnom=nes que d(emp'cher ou d(assurer que certaines choses se produisent, en

trans/ormant anticipativement l(environnement in/ormationnel etEou ph?sique de mani=re ce que ces choses ne puissent pas ,ne pas- se produire, et ce d(une mani=re indi//rente l(identit, au1 intentions et motivations ps?chologiques des personnes potentiellement impliques. Le gouvernement algorithmique s(intresse 8 ce que peuvent les corps 9, leurs puissances, plut7t qu4 ce qu4ils /ont. @4est un gouvernement du virtuel, du potentiel, des puissances plut7t que de l4actualit. "l a pour ci.le non plus les sujets, mais ce qu4ils pourraient ,ne pas- /aire. &lus prcisment, il s4agit dune nouvelle stratgie de gestion et de minimisation de l4incertitude associe la puissance des sujets ,leur capacit, ce pouvoir discrtionnaire de /aire E ne pas /aire tout ce dont ils sont capa.les-. S4e//ectuant par recon/iguration des architectures et environnements in/ormationnels et ph?siques dans lesquelles certains comportements deviennent impossi.les E impensa.les plut7t que par incitation ou dissuasion, la mani=re de la loi, c4est dans leur puissance ,? compris la puissance de dso.ir-, que le gouvernement algorithmique atteint les individus, tout en vitant de produire aucune occasion de su.jectivation$ ce pouvoir prouve les individus en rduisant leurs dimensions inactuelles ,la dimension de la spontanit, de la potentialit-, sans mo.iliser pour autant leurs capacits d(entendement et de volont, la di//rence de la loi notamment. Le gouvernement algorithmique se distingue notamment du gouvernement noli.ral en ce que la docilit qu4il produit n4est pas l4e//et d4injonctions de productivit etEou de jouissance mais d4a//ectation % sur le mode du r/le1 plut7t que de la r/le1ion% des comportements individuels et collecti/s. Le troisi=me plan % celui du sujet % consiste donc en une r%la.oration de la question de la su.jectivation , laquelle je su.stitue celle de l(individuation- dans la gouvernementalit algorithmique. Fuel impact, sur les processus de su.jectivation, d(un gouvernement algorithmique en cela 0o.jecti/0 et impartial qu(il ne connaCt que des /ragments in/ra%individuels ,les donnes- et des structures supra%individuelles ,les pro/ils-, des points de localisation dans des ta.les actuarielles, des rseau1 de donnes, qui ne correspondent aucune catgorisation socialement prouve 5 Fu(en est%il, aussi, des processus de su.jectivation dans une gouvernementalit dont l(oprationalit provient prcisment, en partie du moins, du /ait qu(elle dispense de la comparution, du tmoignage, de l(aveu, et de toute /orme de re%prsentation .iographique5 La gouvernementalit algorithmique signe l(a.outissement d(un processus de dissipation des conditions institutionnelles, spatiales, temporelles et langagi=res de la su.jectivation au pro/it d(une rgulation o.jective, oprationnelle, des conduites possi.les. :n gouvernement algorithmique qui /aDonne l4advenir, qui a//ecte sur le mode de l4alerte et du r/le1, mais n4prouve ni n4est prouv par aucun sujet a de quoi /aire /rmir ne /Gt%ce que dans la mesure oH il ne se laisse plus provoquer par la li.ert humaine, alors m'me que cette provocation constante est prcisment ce qui occasionne du d.at, de la dli.ration autour de la norme, et donc du projet collecti/. :ne quatri=me partie est donc consacre au1 ressources mo.ilisa.les pour une critique et une rcalcitrance la gouvernementalit algorithmique. I(? montre notamment que, plut7t que d(en revenir des approches personologiques ,dont l(individualisme possessi/ des rgimes juridiques de protection des donnes est tout /ait e1emplaire-, qui seraient aussi ine//icaces que mal /ondes, il s4agira de montrer que l(enjeu /ondamental % ce qu(il ? aurait sauver comme ressource antcdante tout 0sujet0, comme 0e1c=s0 du monde sur la ralit numrique % est 0le commun0, cet 0entre0, ce lieu de com%parution dans lequel nous sommes adresss les uns au1 autres. Le mode d(adresse qui nous relie est essentiellement langagier. Le langage est 0/orme0 qui est tout la /ois ligne de /uite pol?smique E pol?phonique, principe de liaison ,0/aire tenir ensem.le0-, projection miroitante, moti/s d(advenirs voqus. @ette 0/orme0 ,esthtique, en tant qu(elle est rapport a//ecti/ entre e1istants-, le langage ,si l(on accepte d(en li.rer toutes les puissances potiques-, est mille lieues de toute personologie. "l est la /orme impersonnelle par e1cellence, mani/estation de l(e1c=s du monde sur le rel. ;ous parlons, justement, parce que nous sommes /lanc d(a.Cme, parce qu(il n(? a personne, et donc pour

rejoindre un 0commun0 qui se dro.e sous nos mots, qui n(est jamais acquis, qui ne se prsente, n(advient que comme /ulgurance inespre. @(est cette /orme impersonnelle du commun qu(il convient de convoquer, dans un langage qui l(nonce, dans l(impersonnalit incarne de la voi1 qui la dit % impersonnelle et charge du 0grain0 du corps vivant et vi.rant, consistance irrita.le de l(e1% istant. ;i sujet, ni monde, le commun ncessite pour surgir des sc=nes spatio%temporelles htrotopiques, interruptrices des /lu1 capitalistes et numriques J la sc=ne du proc=s judiciaire, la sc=ne de thBtre, la sc=ne de la littrature en sont des e1emples J espaces de re%prsentation e1istentiels, de surgissement de nouvelles possi.ilits politiques au lieu m'me de l4e1position des limites de la reprsentation et de la reprsenta.ilit. !aintenir l(htrognit des modes de production de ce qui compte comme 0ralit0 contre le dploiement u.iquitaire d(une rationalit algorithmique oprationnelle mais 0neutralisante0 de toute signi/ication, telle est la condition ncessaire, et peut% 'tre pas su//isante, l(vitement de la violence. L(enjeu est d(importance$ la rgression communicationnaire du langage politique priv d(nonciation utile dans le conte1te d(un mode de gouvernement par les nom.res, su.stituant une gestion s?stmatique la prise en compte s?stmique des situations de vie n(o//re la vitalit politique que des voies d(action violentes. #aconter pour suspendre. ;ous en serions donc l $ l4au.e d4un a,d-venir pr%nomm Shhra<ade. @omment d=s%lors /aire usage des dispositi/s de la socit numrise des /ins de r%enchantement du commun 5 En leur assignant prioritairement cette vocation l, en la protgeant par la loi, en la rendant e//ective par les usages. K!ettre l4homme dans la machineL, comme ? invitait Fli1 *uattari, ce serait peut%'tre cela, aujourd4hui.