A. Rouvroy et Th. Berns, Dtecter et prvenir : de la digitalisation des corps et de la docilit des normes , in. G. Lebeer et J. Moriau (dir.

.), (Se) gouverner. Entre soucie de soi et action publique, P.I.E. Peter Lang, coll. Action publique, 2010, pp.157-184.

Dtecter et prvenir : de la digitalisation des corps et de la docilit des normes.

1

ANTOINETTE ROUVROY*

ET THOMAS BERNS**

*Chercheur qualifi du F.R.S. - FNRS au Centre de Recherche Informatique et Droit de lUniversit de Namur.

**Matre de confrence en philosophie lUniversit Libre de Bruxelles et lUniversit de Lige et chercheur au Centre de philosophie du droit de lUniversit Libre de Bruxelles.

Ce texte fait suite un article intitul Le corps statistique , paratre dans un numro coordonn par Pierre Daled de La pense et les hommes. Ce prcdent article caractre rsolument philosophique portait sur la nature de ce que nous avions appel le gouvernement statistique . La prsente contribution en constitue une version lgrement modifie et augmente.

A. Rouvroy et Th. Berns, Dtecter et prvenir : de la digitalisation des corps et de la docilit des normes , in. G. Lebeer et J. Moriau (dir.), (Se) gouverner. Entre soucie de soi et action publique, P.I.E. Peter Lang, coll. Action publique, 2010, pp.157-184.

Introduction.

Dune manire quelque peu intempestive sans doute et gard au thme gnral de louvrage gouverner par les corps - et aux penses de la biopolitique qui sy dploient, il sagit ici de tenter didentifier en quoi les nouvelles technologies de lobservation, de linformation, de la communication et de la rseautique, procdant la digitalisation de la vie mme, intensifiant la dispersion ou la dividualisation du sujet humain1, tout en alimentant le mythe de sa prvisibilit, donnent lieu une nouvelle forme de gouvernementalit irrductible aux arts de gouverner dcrits par Foucault sous les traits du pastorat, de la raison dtat, de la police ou du libralisme, et dont il importe didentifier les spcificits pistmologiques, stratgiques et tactiques. Alors que, par exemple, dans la socit disciplinaire, le pouvoir sactualise par la production de corps identifis, stables, fixes, assujettis par la norme, rendus dociles la faveur de leur ascription et de leur attachement direct et passionn aux institutions spcifiques dans lesquelles ils sont organiss, contrls en fonction des tches spcifiques quils ont y accomplir, le gouvernement statistique ou algorithmique se dsintresse tant des units constitues par les corps individuels que des masses constitues par les populations. La gouvernementalit statistique sintresse quelque chose de beaucoup plus abstrait, de beaucoup plus fantomatique: la prdiction et surtout la premption des comportements, par lapplication dalgorithmes de profilage des quantits massives de donnes, et par la structuration (physique, architecturale, informationnelle) du champ daction possible des individus. Le rsultat en est que lon assiste labandon progressif, par le pouvoir, de laxe topologique orient vers la contrainte des corps et la matrise du territoire au profit de laxe temporel la

Voir notamment Michael Dillon et Luis Lobo-Guerrero, The Biopolitical Imaginary of Species-being , Theory, Culture & Society, 2009, Vol. 26(1): 1 23 ; David V. Ruffolo, Rhizomatic Bodies: Thinking through the Virtualities of Control Societies , Rhizomes, 17, Hiver 2008.

structuration du champ daction possible des corps, la matrise, un stade prconscient si possible2, de ce que peuvent les corps.3 Il sagira donc ici denvisager les nouvelles technologies de dtection, de classification, et dvaluation anticipative des comportements et intentions non pas sous langle, le plus vident en droit, des atteintes actuelles ou potentielles au droit la protection de la vie prive et la protection des donnes caractre personnel, mais de considrer ces dispositifs technologiques la fois en fonction des nouveaux modes de production du savoir quils constituent, qui rendent sensible par avance ce qui nest pas (encore), et des effets de pouvoir qui en dcoulent. Nous parlons donc du corps statistique dans la mesure o nous voulons analyser la gouvernementalit contemporaine en ce quelle tente de dire de prdire et dorienter les comportements (et intentions), et en ce que, ce titre, elle se prsenterait 1) comme statistique, au sens o elle repose fondamentalement sur lexploitation de grandes quantits de donnes signifiantes ou non aux yeux des individus eux-mmes - recueillies dans une multitude de contextes de vie et daction htrognes les uns aux autres, et sur la dcouverte algorithmique de corrlations prdictives des comportements futurs et 2) comme capable dradiquer lincertitude et limprvisibilit des comportements individuels grce au traitement de leur multiplicit, laquelle serait de la sorte objective comme si la totalit de lagir humain pouvait tre bel et bien prise en considration, comme si nous navions affaire qu un ensemble de corps et que des oprations de calcul la dcouverte de corrlations sur lensemble devait permettre de prdire le comportement de chaque individu. Le gouvernement algorithmique vise non plus matriser lactuel, dompter la sauvagerie des faits, mais structurer le possible, radiquer le virtuel, cette dimension de possibilit ou de potentialit do provient que lactuel tremble toujours un peu dun devenir autre qui
2

suivant la logique actuarielle mme qui compte comme conditions prexistantes et met charge des souscripteurs plutt que de lassureur les dommages causs par des circonstances connues du souscripteur au moment de la signature du contrat. 3 Brian Massumi, Perception attack. Note sur un temps de guerre, Multitudes, 2008/4, n34, pp. 74-83.

constitue, justement, sa singularit alors mme quil nest pas encore objectivement connu. Notons en passant que ce dplacement de l'axe 'topologique' de lactualit du corps vers l'axe 'temporel' du possible, du probable, du virtuel accompagne et acclre la dissipation des universaux de la philosophie politique, dont la figure de lEtat, et celle du sujet. LEtat, expliquait Michel Foucault, pas plus actuellement sans doute que dans le cours de son histoire, na eu cette unit, cette individualit, cette fonctionalit rigoureuse et, je dirais mme, cette importance ; aprs tout lEtat nest peut-tre quune ralit composite, une abstraction mythifie dont limportance est beaucoup plus rduite quon ne croit. 4 Que ce soit sous la forme redoute du monstre froid , ou sous la forme rductrice danalyses assimilant lEtat un certain nombre de fonctions mais rendant tout de mme lEtat absolument essentiel comme cble attaquer et () comme position privilgie occuper , cest bien de la survalorisation du problme de lEtat que Michel Foucault entendait notamment chapper en dirigeant son attention sur la gouvernementalit . Les processus plus rcents de privatisation, de dcentralisation, de dvolution des fonctions des institutions tatiques des institutions infra- ou supra-nationales, le dclin de la participation politique et des investissements publics... confirment, si besoin en tait, le dclin de limportance de lEtat, dont lassise territoriale elle-mme semble gagne par une sorte de flou, ne marquant plus ni les limites de son intervention, ni ne garantissant plus ltanchit de ses frontires. Sagissant du sujet, Althusser, Butler, Duster, Fanon, Foucault, Lacan, et bien dautres encore nous ont depuis longtemps persuads quil est toujours dpossd, dans une certaine mesure, des conditions mmes de son mergence, puisquil est toujours prcd par lidologie, les normes, le langage quil incorpore pour se constituer.5 Lidentit du sujet, de mme que son autonomie, est moins un phnomne observable
4

Michel Foucault, La gouvernementalit , cours du Collge de France, anne 1977-1978 : Scurit, Territoire et Population , 4me leon, 1er fvrier 1978. 5 Voir notamment Fabienne Brugre et Guillaume Le Blanc, Judith Butler. Trouble dans le sujet, trouble dans les normes., PUF, coll. dbats philosophiques, 2009.

quun processus, une performance : elle se constitue en rendant compte delle-mme et est ce titre essentiellement et fondamentalement relationnelle. Lautonomie individuelle nest donc pas une capacit purement individuelle et psychique : elle a des bases sociales et matrielles. Il en va du corps comme de lidentit. Le corps toujours indique un monde au-del de lui-mme par un mouvement qui le pousse au-del de ses propres limites, de son actualit, un mouvement qui est de fait un mouvement des limites corporelles. Ce mouvement, ce trouble , explique Butler, serait en fait essentiel ce que sont les corps6. Ces corps, comme actualits ou comme devenirs, dans les conditions contemporaines de dveloppement et de convergence technologique, paraissent de moins en moins tanches lunivers techno-scientifique dans lequel ils voluent.7 Nous entendons donc corps non pas dans son sens biologique et sa positivit matrielle dserte par la nouvelle forme de gouvernementalit statistique qui nous intresse ici - mais comme ce qui, quelle quen soit la nature relle, est le rsultat dune rduction informatique un ensemble de corrlations pouvant tre abstraites de toute intentionnalit et mme de toute causalit. Le corps statistique
6

Judith Butler, Bodies that Matter. On the Discursive Limits of Sex , Preface, Routledge, 1993. 7 Voir Donna Haraway, Simians, Cyborgs and Women: The Reinvention of Nature, Routledge, 1991 ; Andy Clark, Supersizing the Mind. Embodiment, Action, and Cognitive Extension, Oxford University Press, 2008 ; N. Katherine Hayles, Traumas of Code, Critical Inquiry, Vol.33, n.1, 2006, p.140. : Enmeshed within this flow of data, human behavior is increasingly integrated with the technological nonconscious through somatic responses, haptic feedback, gestural interactions, and a wide variety of other cognitive activities that are habitual and repetitive and that therefore fall below the threshold of conscious awareness. Mediating between these habits and the intelligent machines that entrain them are layers of code. Code, then, afects both linguistic and nonlinguistic human behavior. Just as code is at once a language system and an agent commanding the computers performances, so it interacts with and influences human agency expressed somatically, implemented for example through habits and postures. Because of its cognitive power, code is uniquely suited to perform this mediating role across the entire spectrum of the extended human cognitive system. Through this multilayered addressing, code becomes a powerful resource through which new communication channels can be opened between conscious, unconscious, and nonconscious human cognitions.

en ce sens vacue les dimensions physique et linguistique qui caractrisent notamment le corps subjectif : ni lexprience physique du corps, ni le rcit autobiographique du sujet ne sont plus autoriss , ne font plus autorit , au sens o leur auteur dtiendrait l autorit ncessaire pour en contrler lintelligibilit et linterprtation. Les choses se passent comme si le sens ntait plus produit , mais toujours dj donn , immanent aux choses ellesmmes, et aux corps.8 Cette gnration quasi spontane du corps statistique partir du rel brut nonobstant lintermdiation technologique ncessaire au calcul et aux oprations algorithmiques qui en constituent le mtabolisme - cache sa puissance normative sous lapparente neutralit de limmanence ou de l adquation un rel entendu ds lors comme proprement physique . Cest ce titre aussi quil sagit dune application de la statistique, qui sest certes mancipe de la tutelle de ltat, mais qui permet dautant mieux den rencontrer les objectifs, savoir : croiser un enjeu purement descriptif, appuy par une pratique prtendument neutre de rcolte de donnes, et un enjeu normatif. Cette possibilit de croiser le descriptif et le normatif repose entre autres sur la capacit rflexive de ce qui est dcrit : dans la mesure o le pouvoir, la diffrence de la violence et de la domination, ne sapplique jamais qu des objets dots de capacits de rcalcitrance, le maintien de la rflexivit de lobjet de la statistique est aussi ce qui permet de dcrire la statistique comme linstrument privilgi dune certaine forme de pouvoir gouvernemental plutt que comme un instrument de domination ou de violence dont leffet serait prcisment dannihiler les capacits rflexives des entits ( la fois objets et sujets) propos desquelles et sur lesquelles il sexerce. Le gouvernement statistique sest dailleurs toujours justifi partir de son apparente bnignit , laquelle rsulte prcisment du fait
8

Le phnomne nest pas absolument neuf, puisque Deleuze, ds 1969, expliquait que () le sens est toujours un effet. Non pas seulement un effet au sens causal ; mais un effet au sens de effet doptique , effet sonore , ou mieux effet de surface, effet de position, effet de langage. Un tel effet nest nullement une apparence ou une illusion ; cest un produit qui stale ou sallonge la surface, et qui est strictement coprsent, coextensif sa propre cause, et qui dtermine cette cause comme cause immanente, insparable de ses effets, pur nihil ou x hors des effets eux-mmes . Gilles Deleuze, Logique du sens, Les Editions de Minuit, 1969, pp. 87-88.

quelle suppose, fut-ce de manire implicite, un moment rflexif : il sagit toujours seulement de gouverner dans un sens qui apparatrait vident et justifi par le sens commun, cest--dire ncessairement bnin pour ceux qui sont gouverns, tel est le fond de la lgitimit du gouvernement statistique. Ainsi, au seuil de la modernit, William Petty, un des premiers grands dmographes, insistait dj sur le fait que la connaissance statistique de la population devait offrir les bases dune politique honnte et inoffensive 9. Cette rflexivit suppose de lobjet de la statistique10 est donc cruciale pour cette dernire puisque cest elle qui autorise le croisement de lenjeu descriptif et de lenjeu normatif et assure ainsi la lgitimit de toute dmarche statistique : cest parce que laction normative produite par une connaissance objective du dtail des comportements des sujets ne repose que/ ou pourrait ne reposer que sur la capacit rflexive de ceux-ci (sur leur autocontrle, leur sens commun) que la statistique ne relverait pas dune forme de gouvernement tyrannique11. Or cette prtendue rflexivit, mme sous une forme suppose, de lobjet de la statistique apparat premire vue comme mise en pril par lvacuation radicale de lintentionnalit dans la gouvernementalit statistique ou
9

John Graunt, Natural and Political Observations upon the Bills of Mortality, in: Economics Writings of Sir William Petty, vol. II, New York, 1963. Cette conclusion est plus que vraisemblablement crite par William Petty, et non par Graunt. 10 Cette rflexivit de lobjet nest dailleurs pas propre au traitement statistique ; elle est un phnomne induit par toute opration dobservation scientifique ou bureaucratique pratique des fins de contrle, dassistance, dorganisation, dloignement etc. De telles oprations classificatoires affectent invitablement les personnes ainsi catgorises et cet impact sur les personnes, en retour, transforme la classification. Voir Ian Hacking, Making Up People, London Review of Books, 17 August 2007, 26(16). :We think of these kinds of people as definite classes defined by definite properties. As we get to know more about these properties, we will be able to control, help, change, or emulate them better. But its not quite like that. They are moving targets because our investigations interact with them, and change them. And since they are changed, they are not quite the same kind of people as before. The target has moved. I call this the looping effect. Sometimes, our sciences create kinds of people that in a certain sense did not exist before. I call this making up people. 11 Dans Thomas Berns, Gouverner sans gouverner. Une archologie politique de la statistique, PUF, 2009, il est montr combien ce fut l lobjet dun dbat explicite, la fin du XVIe sicle, lorsque les premiers projets de recensement de personnes et des richesses furent projets.

algorithmique - contemporaine. Cest prcisment ce point qui devient alors lobjet de notre tude : la possibilit dune action normative qui reposerait sur une rflexivit non intentionnelle ; et cest ce titre quil sagirait de penser une politique des corps. Nous commencerons par dcrire un ensemble de pratiques normatives contemporaines relevant de la gouvernementalit statistique pour en relever les composantes indites (I), pour ensuite adresser cet ensemble de phnomnes une srie de questions caractre thique, juridique et politique (II).

I Quelques pratiques normatives contemporaines relevant de la gouvernementalit statistique.

Nous devons partir dun constat lmentaire, mais incontournable : les activits de rcoltes, de conservation et de traitement de donnes sur les comportements12 humains individuels ou collectifs, y compris parmi les plus triviaux (ceux qui passent mme inaperus de la part de ceux qui les adoptent, et qui, prcdemment n intressent personne, ntaient pas en eux-mmes tenus pour signifiants) quelles que soient les fins de ces activits, ne sont dsormais plus limites, ni mme freines de manire essentielle par une inaccessibilit technique ou conomique. Le caractre virtuellement infini des capacits de stockage et la diminution corrlative du cot des mmoires digitales facilement interconnectes rendant disponibles au traitement des quantits de donnes gigantesques devaient trs tt donner lieu au phnomne de dataveillance, dun usage systmatique des technologies de capture et de traitement de donnes des fins de suivi et de surveillance des personnes et groupes de personnes13. Ces activits de dataveillance ne sont plus non plus limites, ou si peu, par la rcalcitrance des individus auxquelles les donnes se rapportent ou quelles concernent.
12

Nous entendrons la notion de comportement dans son sens le plus large, incluant les attitudes, choix, prfrences exprimes, trajectoires, activits et interactions humaines. 13 La notion de dataveillance renvoie lusage systmatique de systmes de traitement de donnes caractre personnel comme procd privilgi de surveillance des activits et communications des individus et groupes dindividus (Roger Clarke, Information Technology and Dataveillance, Communications of the ACM, 1988, vol. 31, n. 5. < http://www.anu.edu.au/people/Roger.Clarke/DV/CACM88.html >)

La banalisation dune surveillance dmocratique et galitaire qui ne prtend plus cibler personne a priori, mais sapplique tout le monde par dfaut, une surveillance laquelle collaborent les institutions publiques et prives, se fondant dans lordinaire, ne suscite plus ni rticence ni rsistance ; largument suivant lequel qui na rien cacher na rien craindre de la surveillance , ajout au confort de limmdiatet, aux vertus de linteraction et la sduction narcissique de lexposition personnelle lemporte largement sur les rticences au dvoilement de la vie prive et de lintimit.14 De cette augmentation de la quantit des donnes rcoltes dcoulent, bien entendu, des changements qualitatifs dans les pratiques concernes, changements au sujet desquels nous poserons dans la seconde partie quelques questions dordre thique et juridique. Cependant, il nous faut montrer avant cela en quoi cette volution quantitative, dont les causes sont la fois technologiques, sociologiques (rosion de la sensibilit aux questions de protection de la vie prive, auto-exposition et auto-surveillance), politiques (rationalit politique survalorisant le caractre prdictif des donnes relatives aux individus au dtriment des donnes contextuelles et structurelles ; place centrale occupe par la minimisation des risques et de la contingence dans les agendas politiques), et conomiques (souci de remplacer par des dispositifs technologiques moins onreux le personnel de scurit dploy, depuis le 11 septembre 2001, dans tous les lieux stratgiques), induit aussi des changements de nature quant la production des connaissances et des dispositifs de contrle.

1. Nouveaux dispositifs de surveillance.

Si, en Europe, le gouvernement chtie peu et tue rarement, il surveille beaucoup. Sous la bannire dune socit de linformation soucieuse dassurer sa scurit, son efficacit et son confort, se dploient une srie de programmes de recherche visant au dveloppement de dispositifs dobservation multimodale, de classification et dvaluation anticipative des comportements qui, fonds sur la biomtrie, la vidosurveillance et leurs variantes, extraient directement du corps humain des informations auxquelles est attribue
14

Antoinette Rouvroy, Rinventer dart doublier et de se faire oublier dans la socit de linformation , in. S. Laourt (ed.), La scurit de lindividu numris, Lharmattan, 2008, pp. 249-278.

une valeur prdictive plus grande que celles que pourraient revtir les dclarations et tmoignages des individus. Le corps humain, dans la mesure o il devient possible den extraire des informations quil nest pas loisible lindividu de falsifier, devient ainsi la source privilgie dinformations prdictives de ses comportements, prfrences, attitudes futures. Par exemple, parmi dautres initiatives du mme type, le projet HUMABIO dveloppe des dispositifs de biomtrie dynamique et intelligente, combinant une varit de capteurs capables de combiner des donnes visuelles, sonores et physiologiques afin de dtecter et de suivre les mouvements, trajectoires, attitudes et expressions suspectes, des fins scuritaires.15 Un autre projet europen, SENSATION, dveloppe des micro- et de nano-senseurs capables de contrler, de manire discrte et non invasive, ltat physiologique des personnes en termes dveil, de fatigue, de stress, partout et tout moment, au travail, lcole, au thtre16 Microsoft, de son ct, dposait rcemment une demande de brevet pour linvention17 dun dispositif combinant une srie de capteurs de donnes contextuelles, physionomiques, physiologiques et biologiques relis l'ordinateur utilis par un employ, et permettant de renseigner son patron sur son niveau de stress, son attention au travail, sa motivation, etc. Par ailleurs, lanalyse automatise des mouvements des muscles du visage des consommateurs, dtects grce des systmes de vidosurveillance coupls des systmes danalyse algorithmique, afin de dtecter leurs motions telles que le plaisir, lintrt ou lennui, le dgout, offrent des perspectives allchantes en termes dapplications de type marketing ou publicitaires.18 L intelligence de ces dispositifs dobservation, de classification et dvaluation anticipative des comportements, prfrences et intentions rside dans les algorithmes qui leur permettent d interprter eux-mmes les donnes quils enregistrent en fonction de critres de normalit ou
15

Human Monitoring and Authentication using Biodynamic Indicators and Behavioural Analysis : http://www.humabio-eu.org/ 16 Advanced Sensor Fevelopment for Attention, Stress, Vigilance & Stleep/wakefulness Monitoring : http://www.sensation-eu.org/ 17 http://appft1.uspto.gov/netacgi/nphParser?Sect1=PTO1&Sect2=HITOFF&d= PG01&p=1&u=%2Fnetahtml%2FPTO%2Fsrchnum.html&r=1&f=G&l=50&s1 =%2220070300174%22.PGNR.&OS=DN/20070300174&RS=DN/2007030017 4 18 http://www.gfk.com/group/press_information/press_releases/004131/index.en. html

danormalit, de dsirabilit ou dindsirabilit. Ces algorithmes sont construits sur une la base de corrlations statistique.

2. La production des corrlations statistiques.

Il est extrmement difficile de scinder les oprations de datawarehousing (entreposage de donnes) et de data-mining (extraction de corrlations) des oprations de profilage stricto-sensu. Ce sont les trois tapes complmentaires du mme rve gouvernemental : dtecter, classer et valuer anticipativement les comportements humains. Rouages interdpendants dun processus de production de savoir continu, dynamique et rcursif, cest comme ressorts dun mme dispositif quil faut concevoir la rcolte massive de donnes a priori non finalise (data-warehousing), la production de corrlations statistiques entre ces donnes et certains comportements, quil sagisse par exemple dune prdisposition se porter acqureur de tel ou tel bien ou service, dune propension adopter des comportements frauduleux, ou commettre certaines infractions (datamining ou construction de profils), et lassignation des individus des profils qui permettent dinfrer, avec une certaine marge dincertitude, de la seule prsence de ces caractristiques observables chez ces individus, dautres caractristiques individuelles non observables, actuelles ou futures. Le data-mining a notamment t dfini dans un document manant du United States General Accounting Office comme lapplication de la technologie et des techniques de banques de donnes (comme lanalyse statistique et la modlisation) afin de dcouvrir les structures caches et relations subtiles entre donnes et den infrer des rgles permettant la prdiction de rsultats futurs. Les objectifs du datamining vont de lamlioration des prestations et performances des services la dtection de terroristes potentiels en passant par la dtection des fraudes, gaspillages et abus, lanalyse dinformations scientifiques et de recherche, la gestion des ressources humaines, la dtection dactivits criminelles ou lidentification de structures de comportements menant de telles activits. Le mme rapport mentionnait quune grande partie du data-mining ralis par ltat fdral amricain impliquaient lusage de donnes caractre personnel

extraites de banques de donnes constitues par des organisations relevant tant du secteur priv que public.19 Le data-mining est donc une technique dextraction ou de dcouverte automatise de savoir partir dune grande masse de donnes . Utilis tant dans le secteur public que priv, le data-mining est exemplaire dune srie de glissements contemporains dans le rapport au rel et dans les modes de gouvernement. Ce type de pratique prsuppose, contrairement aux pratiques statistiques au sens strict, des rcoltes de donnes massives dpourvues de toute hypothse de dpart qui viseraient guider la rcolte en question. De ce fait, la masse dinformations, dont des connaissances seront extraites par le biais de corrlations qui se construisent a posteriori, semble tellement brute, non trie20, tellement htrogne, quelle peut tre considre comme le rel lui-mme. Le point de dpart des nouvelles pratiques de traitement des donnes semble toujours rsider dans une objectivit qui rsiste toute contradiction, ds lors que sa premire et mme son unique qualit rside dans le caractre massif des informations qui la composent. Les connaissances qui mergeront sur une telle base massive et non trie consisteront exclusivement dans lapparition quasi spontane, quasi organique (si lon se rapporte la mtaphore du corps statistique ) et en tout cas automatique, de corrlations suffisamment fortes pour tre considres comme intressantes, cest--dire doues dune force prdictive. On a pu observer que la qualit de ces prdictions reposait bien moins sur le caractre sophistiqu de lalgorithme que sur le seul caractre massif des banques de donnes exploites : une prdiction est plus fine si elle repose sur une grande quantit de donnes traite partir dalgorithme simple que le contraire.21 Un tel constat est, bien entendu,
19

Report to the Ranking Minority Member, Subcommittee on Financial Management, the Budget, and International Security, Committee on Governmental Affairs, U.S. Senate, Data Mining. Federal Efforts to Cover a Wide Range of Uses, May 2004. < http://www.gao.gov/new.items/d04548.pdf> 20 Rien, ou trs peu, ny est considr comme du bruit , cest--dire comme de linformation quil faut mieux carter pour traiter un ensemble de important de donnes dans la mesure o elles seraient a priori non pertinentes on peut dire ici quun savoir utile peut merger directement dune apparente cacophonie. 21 Voir notamment Ian Ayres, Super Crunchers: Why Thinking-by-Numbers in the New Way to be Smart (using data to make better predictions), Bantam, 2007.

absolument relatif, et peu intressant en tant que tel, si ce nest quil permet de cerner la nature du savoir produit par de telles pratiques : ce savoir purement prdictif scarte largement de ce que lon considre spontanment comme un savoir des causes ou des justifications des comportements. Rompant avec les ambitions modernes de la rationalit dductive reliant les phnomnes observables (cest--dire les phnomnes pralablement slectionns comme objets dobservation et danalyse en fonction de critres dintrt explicites ou implicites) leurs causes, la rationalit statistique suit une logique inductive. Indiffrente aux causes des phnomnes, elle sancre dans lobservation purement statistique de corrlations (indpendantes de toute logique) entre donnes recueillies dune manire absolument non slective dans une varit de contextes htrognes les uns aux autres. Face au foisonnement anarchique et lirrgularit des comportements humains, le profilage (et les oprations de rcolte de donnes et dtablissement de corrlations qui le prcdent) dispense de lvaluation individualise des risques, du mrite, des propensions diverses, des besoins de chaque individu et permet dobjectiver et d optimiser les autorisations daccs certains lieux, les mesures de contrle administratif ou policier, la distribution ou la rpartition des opportunits, des ressources et des offres de biens et de services en fonction des prdictions associes non plus chaque personne individuellement, mais chaque profil (on parle par exemple cet gard de profils de consommateurs, de profils de risque ladministration fiscale dispose dune srie de profils de fraudeurs). Les profils, sans identifier personne, assignent les mmes prdictions comportementales tous ceux qui se trouvent prsenter un certain nombre dlments repris dans lesdits profils quelles que soient les spcificits biographiques ou autres quils puissent prsenter par ailleurs. Lvaluation du mrite et du besoin, des aptitudes et des faiblesses des individus, voire de leurs intentions, tche dlicate sil en est, mais quon sait rarement exempte de prjugs, est, par la grce du profilage qui vite de devoir sintresser aux individus en tant quindividus, rendue progressivement redondante. Moins susceptible dtre biais par les prjugs humains (notamment vis--vis des groupes minoritaires ou historiquement discrimins), il serait nanmoins excessif daffirmer que le savoir produit par le profilage soit effectivement objectif au sens o lon sest longtemps rfr lobjectivit du savoir scientifique. Les systmes informatiques impliqus dans les dispositifs de profilage ne sont pas conus pour

 observer la complexit unique de chaque individu, mais pour classer les individus dans une varit de catgories htrognes de manire pouvoir prdire leurs propensions acheter certains biens un certain prix, les risques quils causent des frais leurs assureurs potentiels, le danger quils prsentent pour autrui, ou toutes propensions que commerants, assureurs, forces de maintien de lordre et bien dautres peuvent trouver utiles de connatre par avance. La manire dont ce quil y a connatre par avance est dfini, le processus de problmatisation, dpend forcment du type dapplication envisag (scuritaire, actuariel, de marketing, de divertissement). Lapparente neutralit du profilage ne doit pas faire oublier la non-neutralit des applications diverses, alinantes ou mancipatrices, dans lesquelles il peut sinscrire. La relative nouveaut du profilage et surtout de sa relative gnralisation pourrait faire oublier les enjeux politiques de la problmatisation , cest dire, du choix des secteurs pour lesquels prvoir les comportements apparat la meilleure faon de gouverner. Il ne sagit cependant pas, de notre part, de simplement affirmer que toute production de savoir, mme sur des bases automatises, est sujette caution parce quelle serait habite par des enjeux de pouvoir et de contrle, quels quils soient et a fortiori lorsque ceux-ci sont ou peuvent rester voils, et ce, pour plaider ds lors pour lapplication dans ce champ dune sorte de principe de prcaution. La question nest en effet pas, ou pas seulement, que lobjectivit prtendue nest pas ncessairement rencontre, mais plutt quon se trouve face un type de gouvernement qui noue un nouveau rapport lobjectivit, et que cest de cela quil sagit avant tout de prendre acte. Bien que par des vertus defficacit et dobjectivit, le profilage semble procder dun processus qui reflterait la ralit actuelle et future sans y toucher. Les exemples ne manquent pas, pourtant, du caractre performatif des classifications impliques. Dans la mesure o les oprations de profilages permettent dajuster les offres de biens et services, ou la communication de contenus informationnels (sur Internet) aux prfrences de chaque individu telles que dcouvertes par infrence au dpart de donnes relatives aux comportements et prfrences que lindividu et/ou les individus auxquels le mme profil a t assign ont manifests par le pass, il est difficile de contester lide que le profilage peut avoir un effet performatif sur les comportements quil est cens prdire : mvitant dtre surpris par des informations et offres que je naurais pas dj trouves intressants ou attractifs par le pass, mon profil agit comme un filtre qui, tout en augmentant la pertinence de ce qui mest propos par rapport mes attentes actuelles, restreint mes chances de changer de point de vue, dlargir le champ

de mes intrts. Le profilage me confirme dans mes gots et mes intrts passs et peut induire une sorte de rigidification de mes croyances, opinions, dsirs et apptits en tous genres. Que je le veuille ou non, chaque rptition ira en retour renforcer le profil qui me sera appliqu et dans lequel je naurai de cesse, inconsciemment, de me reconnatre. Que jaie moi-mme un certain contrle sur mon profil comme cest le cas dans les rseaux sociaux tels que Facebook ou Twitter tmoigne seulement dune rconciliation entre gouvernement et interactivit : les rseaux sociaux, facteurs de convergence sociale et de surveillance mutuelle peuvent trs bien fonctionner comme instruments gouvernementaux dans la mesure o ils favorisent linternalisation des normes tout en instituant des liens de fidlit et de dpendance, pouvant aller jusquaux attachements passionns22 des individus vis--vis de leur profil, cest--dire aux performances identitaires excutes en rponse, et qui viennent renforcer, les normes esthtiques, morales, de comportement en vigueur dans ces rseaux. Pour autant, les comportements des individus qui peuvent tre prdits sur la base massive doprations de data mining et de profilage sont le plus souvent dpourvus de toute inscription dans des contextes collectifs, et mme intentionnels.23 la diffrence des mthodes plus anciennes de profilage, comme le profilage ethnique auquel il est recouru plus ou moins explicitement et plus ou moins systmatiquement dans le contexte pnal amricain24, le profilage plus dynamique et individualis que permettent les techniques de data-mining classent les individus dans une multitude de catgories htrognes les unes aux autres, dune trs grande plasticit, constamment volutives, de telle manire que, ces classifications ne recoupant aucune catgorisation socialement prouve (appartenance ethnique, genre, prfrences sexuelles, opinions politiques, convictions religieuses), leur contestation au moyen dactions collectives devient impensable, quels que soient de fait leurs effets potentiellement discriminatoires. Le
22 23

Judith Butler, The Psychic Life of Power, Stanford University Press, 1997. Antoinette Rouvroy, Governementality in an Age of Autonomic Computing : Technology, Virtuality and Utopia , in. Mireille Hildebrandt, Antoinette Rouvroy (eds.), Autonomic Computing and the Transformations of Human Agency. Philosophers of Law meet Philosophers of Technology, paratre. 24 Bernard E. Harcourt, Against Prediction: Profiling, Policing, and Punishing in the Actuarial Age, University of Chicago Press, 2007 ; Bernard E. Harcourt, Critique du champ penal lge actuariel, Parisian Notebooks, The University of Chicago Center in Paris, 2007, n3.

caractre invisible et surtout inintelligible des processus algorithmiques empche de fait toute contestation leur endroit. Comme lexplique Jonathan Simon, le prisme reprsentationnel institu par lusage actuariel de la statistique transforme les individus, autrefois perus comme des tres moraux ou rationnels, en simples localisations, ventuellement multiples, dans des tables de variations actuarielles. Ce glissement de lagent moral au sujet actuariel tmoigne dun changement dans la manire suivant laquelle le pouvoir de ltat et des grosses organisations publiques ou prives - sexerce sur les individus. Les effets sen font ressentir sur la manire dont nous nous percevons nous-mmes, dont nous percevons nos communauts, et sur notre capacit de jugement moral et daction politique.25 Outre cet effet de dmoralisation et de dpolitisation des sujets, le gouvernement algorithmique radicalise, dune manire essentielle, les processus dindividualisation26 - ou plutt de dividualisation - en cours, comme nous le verrons ci-dessous. De cet ensemble de phnomnes simpose donc massivement lide dune objectivit radicale des productions de savoir en question : la possibilit absolument neuve qui serait ainsi ouverte est celle dune correspondance, voire dune adhrence ou mme dune adhsion parfaite et constante au rel concern. Sagissant de technologies qui visent dtecter les intentions et les comportements futurs, nous devons plutt parler dune adhrence anticipe au rel, le rel ou lenvironnement tant sans cesse produit ou reproduit ou adapt sur la base des donnes collectes. Et dans la mesure o ces mmes technologies servent souvent des objectifs de scurit au sens large, quil sagisse de prvention du terrorisme ou plus globalement de dfinir des profils risque, on peut mme dire quil y a finalement surtout
25

Jonathan Simon, The Ideological Effects of Actuarial Practices, Law and Society Review, 1988, vol.22, n.4, p. 772. 26 Sur les processus dindividualisation, voir notamment Ulrich Beck, Elisabeth Beck-Gernsheim, Individualization: Institutionalised Individualism and its Social and Political Consequences, Sage Publications, 2001. Pour une explicitation du rapport entre profilage, contrle distance, et individualisation, voir A. Rouvroy, Rinventer lart doublier et de se faire oublier dans la socit de linformation, Version augmente du texte paru dans louvrage collectif dit par Stphanie Lacour, La scurit de lindividu numris Rflexions prospectives et internationales, LHarmattan, 2009. http://works.bepress.com/antoinette_rouvroy/5

adhrence un rel vit, qui se vrifie dans la seule, mais dangereuse mesure o il ne se produit pas, fantomatique donc. Le corps statistique serait ds lors porteur dune mmoire du futur alors que les raisons dtre des politiques quil sert sont prcisment dviter lactualisation de ce futur. Il ne sagit toutefois pas de penser que cette adhrence au rel rsulte exclusivement de ce que le rel serait en fait produit par les normes prtendument tires des comportements, comme si cette description du rel trouvait tout son sens dans son caractre performatif, comme si son observation ntait quune action sur un rel futur, et ce, dautant plus que cette adhrence se jouerait sur le mode fantomatique mentionn. Il nous parat en effet plus important, plus primordial, et plus en rupture par rapport aux pratiques normatives prcdentes, de noter que le modle gnral de gouvernement que nous cherchons cerner est dj entirement luvre dans lpistmologie qui le soutient : lessentiel de sa force et de sa lgitimit rsiderait dans le fait que les normes qui le constituent sont immanentes au rel dont elles mergent sans rclamer en apparence aucune thse sur ce rel, aucun appel explicite une expertise, aucune dcision. Cette immanence au rel est constitutive du gouvernement que nous questionnons, dans le sens que cest par cette immanence que a gouverne. Un dernier lment primordial de ce point de vue descriptif : ladhrence du gouvernement au rel suppose non seulement que les pratiques de savoir dont mergent les normes se dveloppent sans hypothse et mme sans lappui dune expertise extrinsque, mais aussi que les objets de ce savoir ne soient pas activement capturs par ces pratiques de savoir ; les objets de ce savoir, les comportements humains, sont eux-mmes producteurs exclusifs du savoir qui se rapporte eux : les traces laisses par les comportements des sujets, qui constituent lobjet du savoir statistique contemporain, se collectent dellesmmes .

II - Problmes thiques et juridiques lis ces pratiques normatives contemporaines.

Dans le cadre de la 'production' algorithmique de connaissances dcrite ci-dessus, le savoir et les normes semblent gnrs de manire quasi spontane comme sil ne sagissait plus de gouverner le rel, de

manire transitive, mais de gouverner partir du rel27, en prenant acte de celui-ci. Tout est a priori enregistr parce que toute information, mme insignifiante en elle-mme, peut servir des finalits de profilage ou de calcul de risque. Ceci signifie que le rel qui sert de base objective au savoir et aux normes dans le cadre de la gouvernance algorithmique consiste en un ensemble de donnes, de data points localiss dans des tables statistiques (actuarielles). Dans cette production passive de savoir et de norme, le langage naturel nintervient mme plus pour 'dire' ni 'attester', ni 'tmoigner' du rel28; il est en quelque sorte 'absorb' par le rel, mis sur pied d'galit avec le rel, assimil aux 'faits bruts'. Il n'y a plus de diffrence entre discours langagier et 'discours' du corps. La 'digitalisation' du monde, ou le phnomne de 'dataveillance' radique la distinction entre pistms langagire, visuelle, sonore ; tout - crits, sons, images...- est 'traduit' en 'data points'. Une srie d'enjeux proprement 'gouvernementaux' dcoulent immdiatement de ces glissements pistmologiques. Premirement, lvacuation de toute hypothse la base des rcoltes de donnes, dont on a vu quelle caractrise le datamining, signifie que le gouvernement algorithmique qui en dcoule se lgitime a priori sans faire rfrence aucune finalit, et ce, en vertu de sa seule adhrence au rel. Ce type de gouvernement entrane dailleurs aussi une confusion quant aux justifications qui pourraient en tre donnes a posteriori, les arguments voqus ce titre pouvant toujours et la fois relever du
27 28

Voir ce sujet Gouverner sans gouverner, op. cit., chapitre 1. A propos du dclin, dans lhisrtoire, du poids des discours d'autorit et du tmoignage comme manires de rendre le monde 'signifiant', voir notamment Ian Hacking, The Emergence of Probability: A Philosophical Study of Early Ideas About Probability, Induction and Statistical Inference, Cambridge university Press, 1975. Voir aussi Simon Shaffer, Self Evidence, Critical Inquiry, 1992, vol.18 n.2, p. 328: inanimate bodies are not capable of prepossessions, or giving us partial informations, while vulgar men may be influenced by predispositions, and so many circumstances, that they may easily give occasion to mistakes. So an inanimate bodys deeds could function as signs of some other state of affairs in a way that stories of vulgar humans could not.

confort des usagers concerns, de la scurit collective et de lintrt marchand des intermdiaires qui prennent en charge ce gouvernement. On peut bien sr considrer que cest l le propre de tout acte de gouvernement. Mais dans le cas prsent, cette confusion est inhrente non plus la confrontation des lectures critiques que lon peut en faire, mais la nature mme dune pratique de gouvernement qui sexprime entirement dans le rapport quelle tablit au rel : rcolter des donnes, indpendamment de toute hypothse quant leur intrt spcifique relativement une finalit (puisquaucune finalit nest a priori dfinie), au point de pouvoir considrer que le rel lui-mme est ainsi objectivement saisi, et laisser merger des normes partir des banques de donnes ainsi constitues, de manire telle que ces normes puissent in fine tre considres comme manations quasi spontanes de ces donnes, bref gouverner partir du rel, induit ncessairement que de telles normes pourront agir comme si elles ntaient guides par aucune finalit, mais seulement portes par les exigences mmes du rel. Aucun seuil ne peut dailleurs tre vritablement dfini entre ce qui relve de la rcolte dinformation, avec les corrlations qui sont produites leur sujet de manire automatise, et lusage qui est fait de ces donnes corrles. La confusion note est donc aussi celle qui porte sur la suppose diffrence entre description du rel et action normative partir de celle-ci. Le fait que cette vacuation des finalits ou leur confusion et la vritable fusion que cela induit entre description et norme rduisent fondamentalement la possibilit dune valuation thique est vident ; nous nous contenterons den prendre la mesure ci-dessous par un biais plus juridique, car le problme ne rside pas directement dans cette difficult produire une valuation thique, mais dans le fait que le droit continue de se nourrir dune srie darguments qui reposent, comme on le montrera, sur une thique qui suppose quon peut se mouvoir sur le terrain des finalits, cest--dire cela mme qui a t vacu de manire essentielle. Le lgislateur exigeant la fois que lactivit de rcolte et de traitement des donnes lorsque les donnes ne sont pas irrversiblement anonymises, et quelles restent donc des donnes caractre personnel au sens du rgime juridique de protection des donnes - soit ncessaire, proportionnelle et en rapport avec la finalit lgitime dclare de ladministration ou de lorganisme public ou priv qui y procde et, dans les cas o il est requis, que soient effectifs les droits des sujets concerns - lesquels doivent par exemple tre avertis, le cas chant, quune camra les filme, avoir pu donner leur consentement pralablement la rcolte de leurs donnes, avoir accs ces donnes, pouvoir en demander la rectification ou leffacement, etc., autant de prrogatives qui ne peuvent tre de fait envisages et exerces

effectivement quau regard des finalits vises par lactivit de rcolte en question. Cet cart entre les pratiques de gouvernement et leur rgulation juridique est exemplaire, car il ne tmoigne plus dune conflictualit frontale, mais plutt dune suite de mouvements desquive : gouverner consistant prcisment dployer des pratiques qui vitent le terrain sur lequel la rgle juridique parvient agir, do limportance, pour les juristes confronts ces nouveaux dispositifs, de ne pas seulement valuer lapplicabilit et leffectivit du droit positif aux circonstances radicalement neuves de la socit de surveillance, mais de sefforcer de comprendre quelles sont types et les modalits d'exercice du pouvoir, et quelles sont les possibilits de rsistance au pouvoir que les nouvelles technologies instituent lorsqu'elles paraissent menacer la vie prive et dfier les rgimes de protection des donnes. Ce nest quainsi quil sera possible de produire un cadre juridique capable de prserver ou dlargir les possibilits de rsistance, et dmergence de contre-conduites, ce qui est un enjeu crucial si, comme Foucault laffirmait : Rien nest politique, tout est politisable, tout peut devenir politique. La politique nest rien de plus ni rien de moins que ce qui nat avec la rsistance la gouvernementalit, le premier soulvement, le premier affrontement. 29 Cest bien la puissance dagir normatif qui se trouve ici mise en question. Deuximement, comme dj voqu prcdemment, les sujets constitus par ce type de gouvernement ne sont en consquence plus ncessairement des sujets 'moraux', faisant des choix anims par des intentions, intentions qui ne pourraient tre orientes encore une fois que par les diffrentes finalits quils se seraient fixs, et qui devraient tre ventuellement confrontes aux finalits mmes du gouvernement : ce type de gouvernementalit s'accommode trs bien de l'amoralit des sujets, de leur incohrence. Il se contente des localisations multiples dans des tables actuarielles ou statistiques diverses. L'unit laquelle s'adresse le pouvoir n'est plus l'individu unitaire, rationnel, goste, identifi un 'territoire' corporel - cet individu-l n'intresse plus le pouvoir. Pour structurer le champ daction possible des individus, le pouvoir na plus sexercer physiquement sur des individus identifiables ou identifis, il peut a prsent s'adresser uniquement et directement aux multiples 'facettes' htroclites, diffrencies, contextuelles, minemment changeantes, qui sont les miroitements partiels fractions ou instantans - dexistences individuelles dont le
29

Michel Foucault, Cours au Collge de France 1977-1978, Scurit, Territoire, Population, p. 409.

pouvoir peut prsent ignorer la complexit, et la vivacit. Si lobjectif reste bien de produire in fine des comportements rguliers, cest--dire prvisibles, les outils de cette rationalit gouvernementale nont plus pour cible directe des individus unifis, porteurs dune histoire personnelle, historique. La mesure de toute chose est dividuelle 30, constitue dune multitude de reprsentations numrises, potentiellement contradictoires entre elles et en tout cas htrognes les unes aux autres. Cest cet tre numrique constamment dcompos, recompos, composite, qui intresse prsent directement le pouvoir : l'instabilit du 'dividu', cette unit dpourvue de for intrieur, correspond l'absence de 'projet' et dhypothse du gouvernement. Dans un rgime de gouvernementalit statistique, il nest plus attendu du sujet quil soit dun seul bloc, ni quil fasse preuve de lintriorisation des normes en sidentifiant et en rendant compte de soi auprs dun pouvoir identifiable, le pouvoir - ou ce quil en reste - tolre dautant mieux les irrgularits, les contradictions, les incohrences des individus quil produit leurs corps non plus en fonction de la manire dont les individus se peroivent, sassujettissent ou se subjectivisent, mais en fonction de ce que ces corps pourraient faire, en fonction des virtualits dont ils sont porteurs. Oprant indpendamment de la conscience ou de la subjectivit, la biomtrie, par exemple, ne prend pas pour objet lindividu incarn, physique, corporel, mais un sujet de donnes (data subject), lequel est ajust un patron ou modle numrique des fins didentification. Lautorit ainsi sapplique par linstauration de canaux numriques plutt que par la conduite des individus physiques suivant des trajectoires prdfinies. Les individus deviennent des dividus et les masses deviennent des banques dinformation.31 Il sagit cependant, dans notre manire mme de comprendre les pratiques normatives en question avec la segmentation des individus quelles produisent, de toujours garder lesprit lindtermination de
30

Gilles Deleuze, Post-scriptum sur les socits de contrle , in Pourparlers, Editions de Minuit, 1990, p. 244, parle notamment de la nouvelle mdecine sans mdecin ni malade qui dgage des malades potentiels et des sujets risque, qui ne tmoigne nullement dun progrs vers lindividuation comme on le dit, mais substitue au corps individuel ou numrique le chiffre dune matire dividuelle contrler. 31 Erin Kruger, Shoshana Magnet, Joost Van Loon, Biometric Revisions of the `Body' in Airports and US Welfare Reform , Body & Society, 2008, Vol. 14(2): 99121. Voir aussi Deleuze, Op.cit., on ne se trouve plus devant le couple masse individu. Les individus sont devenus des dividuels , et les masses, des chantillons, des donnes, des marchs, ou des banques .

leurs finalits. Ceci importe dans la mesure o toute interprtation en termes de thorie du complot est ainsi rendue impossible. Certes, un tel gouvernement algorithmique sexpose par principe, et en raison de labsence de finalit a priori, des rcuprations multiples, c'est--dire tre repris et (re)dtermin en fonction des finalits les plus diverses (tant donn labsence de finalit prdfinie, les pratiques en question peuvent dailleurs toujours aussi se prter des usages mancipateurs). Mais ce quil nous semble avant tout important de noter cest que cette disponibilit une multiplicit dapplications et de rcupration suppose donc une indtermination originaire. Et cette absence originaire de finalit ne signifie pas pour autant que les pratiques en question ne seraient pas encore normatives, quelles attendraient, pour agir, dtre reprises dans le cadre dune efficacit stratgique dont les buts seraient dtermins dans un second temps : au contraire et paradoxalement, la normativit du gouvernement algorithmique est prcisment luvre et lgitimement luvre dans son absence de finalit ; son efficacit stratgique, lorsque cette normativit est mobilise en vue dune quelconque finalit, nest jamais que la confirmation et lmanation dune disponibilit et dune adhrence au rel qui la lgitime a priori. Toutefois, malgr cette multiplicit dusages possibles, force est de constater que le gouvernement algorithmique, sans pouvoir ni vouloir proposer de politique substantielle dfinie, a nanmoins pour but absolument gnrique et pour effet absolument concret, en organisant la prvisibilit des comportements, de rduire la contingence, et donc la varit ou la spontanit - des dveloppements et transformations sociales et politiques possibles et pensables, au risque de rigidifier les structures de comportement, de figer les dynamiques sociales, et de porter ainsi atteinte la vitalit politique globale. 32 Frdric Neyrat parle cet gard, quoi que dans le contexte sommes toutes diffrent de la biopolitique des catastrophes , dune hyperbiopolitique orientant les investissements, dcisions et politiques non pas en fonction de ce qui existe, de dommages visibles,
32

Faut-il stonner que, plutt que la spontant et limagination, la rsilience, cette capacit reprendre sa forme initiale suite un choc reu de lextrieur, passe aujourdhui pour lune des principales vertus individuelles et collectives ? Voir notamment Christopher Zebrowski, Governing the Network Society : A Biopolitical Critique of Resilience , Political Perspectives, 2009, Vol.3(1), http://www.politicalperspectives.org.uk/General/Issues/Vol3-12009/PDFs/4-Zebrowski.pdf

 mais des flux dinformation, de boucles dinformations projectives et prospectives voluant parfois heure par heure. Lhype-biopolitique a pour modle une sorte de gouvernance just in time, capable de rpondre la vitesse des dernires informations. Lorsquelle est en ode conjuratoire, la biopolitique des catastrophes ne se fixe sur aucun dommage peru, mais sur la possibilit du dommage. Ce serait sans compter avec leffectivit de la catastrophe, soit le dommage ralis vache folle, canicule, tsunami, etc. Cest alors que lhyper-biopolitique passe en mode rgulatoire, et agit dans laprs-coup. Certes toujours en fonction des flux dinformations, avec lidal suivant : panser les plaies au moment mme de leur ouverture, afin dviter linstallation de tout trauma voire la rptition de ce mme type de catastrophe : en mode rgulatoire, lhyper-biopolitique maintient sa dimension prospective dans son mode mme de rgulation. Comme sil sagissait, en dfinitive, de conjurer e qui a eu lieu et de rguler ce qui viendra Inversant laxe du temps, la politique-fiction devient ici vritablement fantasmatique. Mais au prix dun oubli des conditions de la catastrophe qui a eu lieu () La biopolitique des catastrophes sinscrit dans une temporalit qui a pour fonction de grer la maintenance du prsent par pr-vision du possible, prvenant ainsi la possibilit dune co-politique transformatrice. 33

Troisimement, il y a dans tout cela quelque chose qui drange, et que les juristes pensent peut-tre un peu trop rapidement pouvoir qualifier en termes dintrusion dans la vie prive ou de violation des rgles de protection des donnes caractre personnel, quitte ventuellement suggrer des modifications du rgime juridique pertinent34. Pourtant, ces rgimes juridiques sont inaptes fournir aux individus les conditions de ralisation de contre-conduites ou de rsistance, prisonniers quils sont dune sorte dindividualisme mthodologique aveugle aux effets que nous venons de mentionner de la digitalisation de la vie mme. Attachs la figure de lindividu, du sujet de droit, ces rgimes juridiques ignorent le fait que le type de gouvernementalit statistique ou algorithmique quelle rend possible na plus pour cible privilgie lactualit de lindividu identifi, sujet de droit, sujet de donnes, juridiquement protg dans son autonomie, sa clture, son intimit, mais une virtualit assez bien rendue par la figure
33

Frdric Neyrat, Biopolitique des catastrophes , Multitudes, n.24 [online], printemps 2006. 34 Voir notamment Serge Gutwirth, Yves Poullet, Paul De Hert, Ccile de Terwangne and Sjaak Nouwt, (eds.), Reinventing Data Protection ?, Springer, 2009

deleuzienne du dividu, multiplicit ouverte et rhizomatique, un devenir autre. Face, par exemple, aux dispositifs de biomtrie prdictive dont le but nest plus seulement ou plus du tout lidentification ni lauthentification, mais bien plutt la prdiction des comportements et intentions des fins de prvention et de premption, on peroit bien que les revendications faisant de la proclamation et de la mise en oeuvre dun droit lanonymat manquent partiellement leur cible. Par ailleurs, labondance des tudes, rapports et publications ddies la problmatique attestent des difficults dapplication, voire sur linadquation, des rgimes juridiques de protection de la vie prive35 et de protection des donnes caractre personnel36 face au recueil massif et continu de donnes personnelles et contextuelles en tous genres,
35

Le droit la protection de la vie prive, du secret des lettres et de la correspondance, et du domicile est notamment nonc larticle 8 de la Convention europenne des droits de lHomme. Le second paragraphe du mme article nonce les conditions de lgitimit des ingrences de lEtat ou de tiers, par leffet horizontal de la Convention dans la vie prive des individus. Il faut que ces ingrences soient ncessaires, dans une socit dmocratique, la protection dintrts lgitimes prpondrants, quelles soient strictement proportionnes la poursuite de ces intrts prpondrants. 36 Le droit la protection des donnes caractre personnel qui npuise pas le rgime de protection de la vie prive a t rcemment institu au rang de droit fondamental par lArticle 8 de la Charte des Droits Fondamentaux de lUnion Europenne. Ses principaux instruments de protection sont la Convention n108 du Conseil de lEurope sur la protection des personnes physique lgard du traitement automatis de donnes caractre personnel et la Directive europenne 95/46 sur la protection des donnes caractre personnel, laquelle les lgislations nationales des Etats membres se conforment. Parmi les principes mis en uvre par ces instruments se retrouvent les principes de finalit (la finalit du traitement de donnes doit tre lgitime, et il ne peut tre procd un traitement de donnes pour des finalits autres que celles initialement dclares), de proportionnalit (du traitement de donnes par rapport aux finalits poursuivies) et dadquation et de qualit des donnes (les traitements doivent tre adquats et les donnes doivent tre exactes), de limitation dans le temps (principe deffacement des donnes aprs un certain temps). A ces principes sajoutent une srie de prrogatives individuelles des sujets comme le droit de connatre lexistence du traitement de donnes, daccs et de rectification des donnes, et, dans un certain nombre de cas (lorsque la collecte et le traitement de donnes ne sont pas lgitims par la ncessit ou lintrt lgitime du matre du fichier) la possibilit de consentir ou de ne pas consentir au traitement des donnes.

leur traitement des fins gnrales de profilage notamment, leur conservation par dfaut sans que soit nonce a priori de finalit spcifique. Il est dailleurs loin dtre tabli que toutes ces donnes soient, techniquement, assimilables des donnes caractre personnel (cest--dire des donnes relatives des individus identifis ou identifiables) au sens du rgime juridique de protection37 alors mme que limpact de ces traitements sur les personnes peut tre au moins aussi significatif et potentiellement dfavorable que des traitements de donnes caractre personnel au sens traditionnel.38 On se trouve donc face au paradoxe suivant : quand bien mme le caractre objectivement personnel des donnes en jeu est difficilement attestable, leur inscription dans le cadre gnral dune gouvernementalit statistique qui ne se dfinit pourtant pas par le traitement quil entend leur rserver et qui ne se soucie mme pas des personnes, mais seulement des fragments dividuels de celles-ci au point que leur accord pourrait toujours tre suppos, induit la possibilit dune action sur les environnements qui les dpasse nettement. Un lment extrmement concret tmoigne de ce paradoxe : les donnes dont lanonymat est effectivement garanti permettent pourtant lidentification des sujets quelles concernent par leur simple mise en corrlation, mais la gouvernementalit quelles servent ne rclame en fait mme plus cette identification dans la mesure la seule personnalisation des environnements physiques et informationnels est suffisante, et permet effectivement de structurer le champ daction, et de pense, possible.

37

A ct de cet aspect technique, on doit noter que cette catgorie des donnes personnelles, comme celle de la vie prive, et plus que tout autre rgime de protection, ne se rduit pas sa seule dfinition objective et trouve son sens, en amont, de manire politique et dialectique, dans son rapport des actes de pouvoir. Or cest une nouvelle fois sur ce seul terrain objectif que se meut le gouvernement algorithmique, en vacuant, comme on la vu toute perception des problmes poss partir dun point de vue finaliste et en dpolitisant de la sorte les enjeux. 38 Pour une valuation de la pertinence et de lapplicabilit du rgime europen de protection des donnes caractre personnel aux traitements de donnes impliqus dans les dispositifs dintelligence ambiante, voir Antoinette Rouvroy, Privacy, Data Protection, and the Unprecedented Challenges Raised by Ambient Intelligence , Studies in Ethics, Law and Technology, Berkeley Electronic Press, Vol2, Issue 1, Article 3, 2008, pp. 1-54.

Quatrimement, au niveau mtajuridique, labstraction, la temporalit et la porte du gouvernement algorithmique soulvent des questions spcifiques. Voici un enjeu peut-tre moins vident qui tient directement au type de gouvernementalit install par les dispositifs que nous avons voqus. Cette gouvernementalit se caractrise par une certaine abstraction, cest--dire une distance phnomnologique par rapport lexprience vcue. Elle est porteuse dune temporalit propre, distincte elle aussi de la temporalit vcue. Enfin, elle se caractrise par sa porte non seulement prdictive, mais galement premptive. Les 'dividus' sont de plus en plus 'distincts' et 'abstraits' par rapport aux rcits individuels et collectifs qui sont porteurs dune inactualit (ce devenir autre qui ne cesse de faire trembler lactuel) que la gouvernementalit algorithmique tente ainsi de conjurer. Ils ont - sous forme digitalise - une vie propre (ils croissent constamment, en nombre et en sophistication, et sont mmoriss pour une dure virtuellement infinie sur des supports digitaux). Enfin, les dividus, traits suivant les algorithmes adquats, permettent non seulement la prdiction, mais galement la pr-emption des comportements. Cest-dire quils permettent la structuration du champ daction possible des individus39, un stade pr-conscient ; ils permettent, pour le dire autrement, la construction des prconditions de laction des individus. Il rsulte de tout ceci que ce gouvernement algorithmique des comportements prsente une srie de menaces dans la mesure o il affecte certaines prrogatives subjectives essentielles la vitalit sociale et politique: - Le gouvernement algorithmique, dans la mesure o il institue le corps statistique au dpart de lenregistrement, par dfaut, de tous les vnements, de tous les comportements, signifiants ou non pour ceux dont ils manent, constitue aussi une sorte de mmoire digitale totale aux capacits de stockage virtuellement infinies, de nature peut-tre porter atteinte la capacit doubli et, partant, la mise en uvre du droit loubli qui se trouvait garanti par lobscurit pratique dans laquelle tombaient la plupart des faits et gestes poss, des phrases prononces, une fois pass le temps ncessaire loubli humain. La trs grande facilit de rcupration et de recoupement des donnes
39

Michel Foucault, La gouvernementalit, In Dits et crits, Paris, Gallimard, 1994, 635657. Voir galement, propos des tactiques de gouvernement premptif, Brian Massumi, Perception attack. Note sur un temps de guerre, Multitudes, 2008/4, n34, pp. 74-83.

enregistres dans diffrents contextes, diffrentes priodes, pour la construction et lactualisation de profils dutilisateurs, de consommateurs, de dlinquants potentiels, de fraudeurs... peut aussi contribuer affecter aux individus les traces de leurs comportements passs au titre dun destin identitaire, au risque de les empcher dinnover dans leurs usages des services et des technologies, de modifier leurs comportements de consommateurs, de repartir zro dans leurs rapports la socit, ses lois, ses opportunits 40 - La possibilit de dsobissance est, elle aussi, affecte par le caractre toujours plus prventif et pr-emptif, visant non plus interdire ni sanctionner certains actes illgaux ou dangereux, mais les rendre physiquement impossibles. Alors que cette impossibilit de dsobissance peut paratre offrir la loi une effectivit quelle naurait mme pas pu rver, la possibilit de dsobir reste nanmoins absolument ncessaire, non seulement dans la mesure o elle rend possible la dsobissance civile et ainsi, la rsistance et la sortie de rgimes gouvernementaux abusifs ou totalitaires, mais aussi, dans les rgimes dits dmocratiques, pour garantir des marges dexprimentation normative, pour permettre la mise en dbat des rgles de droit positif ventuellement devant les cours et tribunaux, et ainsi viter la rigidification par dpolitisation - des normes. Les gains defficacit offerts par le gouvernement premptif ont un cot. Sils dispensent, ne ft-ce que partiellement, de linstance juridictionnelle puisque les dispositifs prventifs et premptifs vitent a priori que soient commis des actes illgaux, dangereux, imprudents ou jugs indsirables et si donc le juge nest plus gure appel dcider de limputabilit, de la responsabilit et de la sanction, cette vacuation du juge dsquilibre larchitecture dmocratique qui repose prcisment sur un pouvoir trois ttes (lgislatif, excutif, judiciaire), et sur une relation rcursive entre les institutions lgislative et le judiciaire (le juge, constatant linjustice dune loi, rend publique cette injustice, ce qui peut obliger le lgislateur en changer).

40

Antoinette Rouvroy, Rinventer lart doublier et de se faire oublier dans la socit de linformation, Version augmente du texte paru dans louvrage collectif dit par Stphanie Lacour, La scurit de lindividu numris Rflexions prospectives et internationales, LHarmattan, 2008. http://works.bepress.com/antoinette_rouvroy/5

- Les impossibilits de la dsobissance et de loubli bornent de manire extrieure le processus normatif que nous dcrivons ici, au mme titre que la loi trouvait dans les ralits de la dsobissance et de loubli (ou mme de la prescription) ses limites, son amont et son aval. Ne peut-on tenter de dterminer, au sein mme du processus normatif statistique, envisag dans sa rivalit par rapport la normativit juridique, une possibilit qui serait dsormais fondamentalement et constamment remise en question, l o elle tait tout aussi fondamentalement et tout aussi constamment suppose, rencontre, appele, etc., dans le cadre de normativit juridique ? La possibilit de se rendre compte et de rendre compte41, par le langage notamment, et y compris en justice, de ce qui nous fait agir, enfin, semble galement compromise. La connaissance purement prdictive nquivaut en rien ce que lon considre spontanment comme un savoir des causes ou des justifications des comportements. Ceci signifie aussi que le gouvernement statistique du rel ne permet pas aux gouverns de rendre compte , par le langage, la plaidoirie, de leurs actions, attitudes, choix, etc. lvacuation du juge correspond lvacuation dune possibilit, pour le justiciable, de faire valoir son dsaccord fondamental avec une loi quil estime injuste, ou les raisons personnelles et contextuelles qui justifient ou excusent son infraction ou doivent lui faire bnficier de limpact de circonstances attnuantes. Ces trois mtadroits (droit loubli, droit la dsobissance, droit de (se) rendre compte) nous semblent typiquement constitutifs, ou prconditionnels, la jouissance par les individus des liberts garanties par ltat de droit et constitutifs dune pense politique et thique qui a fait du droit son garant, sa limite, son modle de norme. Cest ce titre, par exemple, que nous pouvons parler dun mtadroit la dsobissance : non pas tant parce quil pourrait trouver son sens en termes de protection des comportements marginaux ou mme comme garant du caractre historique et volutif du droit, mais parce que nos socits fonctionnent globalement sur la base de lide quune norme peut tre suivie ou pas, avec des consquences bien sr diverses (consquences qui ne simposeront toutefois quaprs une procdure contradictoire bien spcifique). Nous ne voulons pas exclure a priori la possibilit que des normes qui ne permettent plus la dsobissance simposent dsormais de manire lgitime. Mais la question doit alors tre pose comme telle. Surtout, et nous ne pouvons ici quvoquer ce
41

Voir ce sujet Judith Butler, Giving an Account of Oneself, Fordham University Press, 2005.

point essentiel, un tel changement normatif doit tre assorti dune srie de garantie : si ces normes qui empchent la dsobissance, et a fortiori tant donn quelles empchent la dsobissance, deviennent des normes centrales de notre vie en socit, elles doivent tre encadres par certaines garanties dmocratiques quant leur production. Bref, les trois mtadroits proposs permettent simplement douvrir le dbat sur ce changement de mtabolisme normatif. La prdiction des comportements et mme des intentions, que ces dispositifs algorithmiques de data mining, de profilage et denvironnements intelligents sont censs raliser, suscite la prise de mesures prventives ou pr-emptives, voire ladaptation en temps rel de certains lments de lenvironnement direct des personnes de manire orienter les prfrences, choix, intentions, comportements, un stade prconscient. Lune des caractristiques de ces dispositifs est justement leur relative invisibilit, leur caractre non obtrusif, leur naturalit en somme : ils sont censs se fondre littralement dans lenvironnement, tout en faonnant directement ce qui reste ou devient accessible lindividu en termes de pense et daction. Que ces dispositifs (pour une bonne part encore au stade de prototypes) fonctionnent effectivement42, que la validit des prdictions et que la pertinence des adaptations subsquentes soient ou non dmontres ne change pas grand chose la question de leur incidence normative : peuttre sommes-nous confronts une sorte de dispersion de lintentionnalit, dont les consquences, sur le plan de la responsabilit morale, de limputabilit et de la responsabilit juridique restent encore largement inexplores ? Peut-tre aussi le corps statistique est-il une belle occasion den finir avec la croyance en lexistence dun individu libre, autonome et rationnel qui ne serait pas toujours dj faonn par ou en raction la norme ?

42

Rpondant implicitement laccusation que lui adressait le philosophe communiste Massimo Cacciari dans le numro de septembre-octobre 1977 de la revue Aut-Aut, Michel Foucault, dans le numro de septembre-dcembre 1978, pp. 3-11 de la mme revue, rpliquait que Le pouvoir nest jamais omnipotent, omniscient, au contraire ! Si les relations de pouvoir ont produit des formes denqute, danalyses des modles de savoir, cest prcisment parce que le pouvoir ntait pas omniscient, mais quil tait aveugle, parcequil se trouvait dans une impasse. Si on a assist au dveloppement de tant de rapports de pouvoir, de tant de systmes de contrle, de tant de formes de surveillance, cest prcisment parce que le pouvoir tait toujours impuissant. (Michel Foucault, Dits et Ecrits, II, 1976-1988, Gallimard, 2001, p 629.)

En tout cas, il nous faut noter dj la contradiction suivante : alors que le mode de gouvernement nolibral (qui donne lieu pour une bonne part au dveloppement de cette gouvernementalit statistique) tend individualiser les risques et les responsabilits, rendre les individus (au dtriment de toute raison structurelle, collective ou environnementale) seuls responsables (moralement, conomiquement, juridiquement) de ce qui leur arrive, cette responsabilisation se heurte ici immdiatement au mur cognitif, sorte dcran ou de surface sur laquelle le rel est statistiquement reprsent, mais qui ne permet plus de comprendre les causes intentionnelles ou non - des phnomnes observs. Ce mur cognitif spare les individus de la norme dont lorigine est ds-identifie, qui les informe et les forme tout la fois. Bref, on peut considrer que la poursuite mme du processus de responsabilisation individuelle qui donne lieu cette dividualisation des comportements par le gouvernement statistique produit finalement une sortie du socle de la responsabilit sauf ventuellement passer dans un rgime de responsabilit objective. Si lon peut accepter que lintentionnalit ne soit pas ou plus le critre dcisif de lautonomie individuelle, il nous semble au minimum que la possibilit de pouvoir se rendre compte et de pouvoir rendre compte, sinon des mobiles, du moins des raisons, impulsions, causes qui nous font choisir, agir, parler, etc. pourrait tre leve au rang de critre ultime et de condition ncessaire (sans tre suffisante) dune nouvelle forme dautonomie individuelle lre de la gouvernementalit statistique.

Conclusions : le corps statistique ou la dpolitisation des processus normatifs.

Ainsi, ce ne sont pas les sujets, les individus, qui se trouvent objectivs par les dispositifs de surveillance, mais seulement et cest notamment ce qui fait paratre le gouvernement statistique tellement inoffensif leurs miroitements distincts et fragments, digitaliss. Comme cibles du pouvoir, ou plutt du gouvernement, ils ne sont jamais saisis que partiellement, travers la multitude changeante des profils auxquels ils correspondent simultanment plutt quen tant quindividus unifis, dots dune continuit et dune cohrence internes, dun for

intrieur, dune biographie propre. Ainsi fragments, dividuels, les sujets deviennent eux-mmes la source ultime, agissante, performante, de la construction du savoir qui porte sur eux, et des normes qui les rgissent. Cest ce titre que ladhrence du gouvernement statistique ses multiples objets htrognes qui composent le rel, et donc au rel lui-mme, peut tre totale : les sujets, dividualiss , se prtent entirement leur propre gouvernement statistique, par les traces quils laissent, par la rptition et/ou le flchissement de ces traces, sans quaucune instance extrieure de surveillance active, aucune rgle, aucune mdiation sinon une intermdiation purement technologique ne soient plus ncessaires. Cest ce titre aussi quon peut considrer que ce gouvernement statistique maintient et continue de supposer la rflexivit de ce qui est gouvern, alors mme que cette rflexivit parvient se passer dune vritable intentionnalit qui rclamerait un questionnement sur les fins. Peut-tre pouvons-nous cet gard poser lhypothse suivant laquelle la gouvernementalit algorithmique opre et procde dune inversion par rapport toutes les conceptions quon a pu dvelopper prcdemment du rapport du corps la norme, y compris les conceptions dveloppes suivant la perspective foucaldienne de la discipline, savoir : penser la production de corps dociles. Le gouvernement algorithmique ne fonctionnerait plus tant la domestication, la disciplinarisation des corps, leur assujettissement la norme et la subjectivation par la norme, qu la domestication de la norme par le corps (statistique), la faveur dune confiscation ou dune absorption par la technologie du processus dlaboration des normes. Dans le cas de cette nouvelle normativit statistique, les performances, rgulires ou irrgulires par rapport la norme statistique, influent directement sur la norme statistique, suivant un processus quasi physique pourrait-on dire. En effet, elles sont toutes enregistres, et ces enregistrements sont tous galement susceptibles denrichir le corps statistique. Au lieu dinduire une docilit des corps physiques, la normativit statistique ou algorithmique est elle-mme discipline, faonne (atuned) par le rel, par les pratiques positives, par les vnements du rel. La norme, sous cette modalit de gouvernement, est immanente au corps statistique, un corps infiniment multiple de chiffres dont le mtabolisme algorithmique produit et affine en permanence des corrlations partir des bases de donnes en perptuelle expansion.

On la vu, cette inversion de la perspective disciplinaire pose une srie denjeux indits. Elle oblige en tout cas rvaluer les rapports entre intentionnalit et normativit puisque la seconde parvient tre efficace et en apparence fondamentalement lgitime sans faire appel la seconde43. Plus finement encore, elle incite identifier les enjeux dun accroissement du rle de lembodiment (incarnation), et dun dclin corrlatif du rle du langage et du dbat dans les processus dlaboration des normes. Toutefois, ce que nous voulons avant tout pointer, en insistant sur ladhrence au rel du gouvernement statistique contemporain et en notant pour terminer que cela pouvait tmoigner dune inversion du rapport de la norme aux corps, la premire tant dsormais domestiques par les seconds, cest un danger absolument gnral, de nature paradoxale, propre certes toute forme de gouvernement statistique, mais rendu dautant plus vif par sa forme algorithmique contemporaine : le danger dune forme de gouvernement qui parviendrait se penser et se lgitimer par son inoffensivit, sa bnignit, une forme de gouvernement qui apparatrait dautant plus inoffensive quelle ne porterait directement que sur la norme elle-mme et non plus sur les individus. Ce danger est dautant plus important que ces nouvelles modalits dexercice du pouvoir, ou de structuration a priori du champ daction possible, ne sont plus effectivement contraintes par les limites juridiques quimposent actuellement les rgimes de protection de la vie prive et des donnes caractre personnel, enferms dans le cadre trop troit, et lgrement hors champ, dun individualisme mthodologique qui ne permet pas de penser, ni de reprsenter, et encore moins de protger ce quil y aurait protger : une puissance dagir normatif capable de daffecter politiquement le rel . Concevoir cette puissance, essentielle la vitalit individuelle et sociale exigerait de pouvoir penser ensemble, comme une seule et mme chose , lintemporalit, la singularit et lintempestif. Peut-tre parviendrait-on alors enfin toucher le ressort vital, la trame infime et gigantesque de ce qui nous
43

Dans un petit texte lumineux intitul La ceinture de scurit qui pourrait servir de prliminaire tout questionnement sur les environnements intelligents, Bruno Latour montre que nous assistons un dplacement de la masse de moralit , celle-ci restant identique mais migrant vers les objets et les technologies. http://www.bruno-latour.fr/poparticles/poparticle/P-31%20CEINTURE.html

fait tre et nous chappe tout la fois, cela quil faut protger pour la raison mme que nous ne savons pas o cela nous mne.