20150407

Cyborg, lève-toi, bats-toi !

robots-cyborgs_00370693

[Sur l’air de « Jeune homme lève-toi, bats-toi, des Neg’ Marrons] Cyborg, lève-toi, bats-toi, l’avenir appaaaartient à celui qui s’impose et qui ne baisse pas les bras
même si t’en a assez nananana sur toi-même, nana nanana… de se relever. Voilà, tu l’as dans la tête !


Pour préparer cet article sur les cyborgs, j’ai cru que regarder la série suédoise « Real Humans » serait une bonne idée. J’étais bien naïf, car les androïdes présentés dans la série n’ont rien à voir avec des cyborgs : un androïde, c’est un robot qui ressemble à un être humain, comme dans Blade Runner ou dans Terminator, alors qu’un cyborg, c’est un humain « augmenté » grâce à la technologie, comme dans Robocop. Peu importe, dans les deux cas, je considérais que c’était le futur. J’avais tort. Les cyborgs sont déjà là, et leurs droits nous concernent tous.

Une petite précision tout d’abord : au début j’étais comme vous, je croyais qu’un être humain augmenté, c’est-à-dire un cyborg, ça ressemblait à ça :

Robocop car

Alors qu’en réalité, ça ressemble à ça :

Prince Charles Camilla

Tous cyborgs

Dans le film Seven de David Fincher, l’agent joué par Brad Pitt est un homme d’action, alors que Morgan Freeman est plus porté sur la réflexion et le travail de fond. Pour découvrir l’identité du tueur fou qui s’amuse à découper des gens en s’inspirant des 7 péchés capitaux, le vieil inspecteur conseille au jeune de faire un tour dans une bibliothèque, et de lire un peu, notamment L’Enfer de Dante. Puis, par la magie d’Hollywood, en recherchant les individus qui ont emprunté les livres se référant aux péchés capitaux, les deux enquêteurs peuvent remonter la trace d’un suspect, qui s’avère être le bon.

Cette manière de procéder, bien qu’un poil exagérée, correspond à la manière dont la police travaille réellement, en recoupant les traces et les données que les suspects laissent dans différents fichiers. Mais en utilisant les archives de la bibliothèque municipale, les policiers n’ont qu’une information incomplète sur la trajectoire et l’identité du criminel.

Imaginons maintenant que le film prenne place quelques années plus tard. Les deux inspecteurs, comme tout le monde, ne savent même plus ce qu’est une bibliothèque. Ils se connectent à Facebook et recherchent tous les membres des pages qui parlent de Dante. Ils peuvent ensuite relier ça à tous ceux qui ont liké la page « Top 7 des pires péchés capitaux (le quatrième va vous étonner) ». Ils parviennent à déterminer un suspect, dont ils vont écouter les conversations téléphoniques, décortiquer les e-mails et sur lequel ils vont tomber grâce à la position révélée par la géolocalisation de son ordinateur connecté en Wifi.

La police d’aujourd’hui dispose de moyens qui sont de même nature que ceux qu’utilisent Brad Pitt et Morgan Freeman, mais un immense saut quantitatif concernant les données utilisables a été franchi, au point de devenir un saut qualitatif. En utilisant la même méthode, les enquêteurs auraient accès aujourd’hui à la quasi-totalité de la vie, des pensées, des déplacements, des transactions ou des communication de leur suspect. Peut-être qu’il y aurait encore quelques trous, mais le film n’a même pas 20 ans : de toute évidence, il ne faudra pas longtemps avant que l’intégralité de nos vies soit disponible sous forme de données.

C’est en tout cas ce qu’essayent d’expliquer Benjamin Wittes et Jane Chong dans un article paru sur le site de la Brookings Institution, l’un des plus vieux Think Tank américain. Quel rapport avec les cyborgs, me direz-vous ? C’est que pour les deux auteurs, le cyborg n’est pas simplement en train de frapper à notre porte aujourd’hui : il est déjà là, et il est grand temps d’admettre que la manière dont nous sommes connectés aux machines a un impact important sur la façon dont peuvent être utilisées nos données personnelles.

Ces deux chercheurs ne sont pas les seuls à penser que l’ère du cyborg a déjà commencé. C’est en fait une idée assez vieille, qui remonte aux années 60, lors de l’apparition même du terme cyborg, un mot valise entre « organisme » et « cybernétique ». Mais les exemples et les arguments avancés dans l’article sont suffisamment convaincants pour nous faire prendre conscience de ce qui est en train de se jouer aujourd’hui, parfois à notre insu.

J'ai rien compris mais c'est beau.

J’ai rien compris mais c’est beau.

Si nous avons peu conscience de devenir chaque année un peu plus des cyborgs, c’est parce que cette transformation ne correspond pas avec l’idée que la science-fiction, le cinéma et les séries ont contribué à forger. Pour la plupart d’entre nous, l’idée d’un être humain augmenté évoque l’image de bras bioniques, de jambes artificielles et de prise USB derrière la nuque. Bref, des dispositifs directement reliés au corps, qu’il est très difficile, voire impossible d’enlever. Bien que ces dispositifs existent déjà, l’idée développée par l’article, c’est de dire que notre utilisation actuelle de certains appareils fait de nous des cyborgs au stade juvénile. Grâce à nos téléphones qui sont devenus des ordinateurs, nous pouvons calculer extrêmement rapidement, trouver les restaurants les plus proches ou recevoir un flux continu d’informations provenant du monde entier. Ces appareils augmentent nos capacités.

On pourra penser qu’il en va de même pour tous les outils. C’est en partie vrai, mais le propos de Wittes et Chong est de montrer que la dépendance de plus en plus grande vis-à-vis de ces nouveaux outils forme un bond technologique aussi important que la découverte de l’imprimerie. Pour l’instant, ces appareils sont encore des entités séparées de nous-mêmes, mais l’apparition d’autres dispositifs, tels que les Google Glass ou l’Apple Watch tendent à les rapprocher de plus en plus de nos corps. Nous pouvons, certes, les éteindre, mais il suffit de voir la précipitation avec laquelle les passagers d’un avion rallument ces dispositifs quand ils atterrissent pour se demander si ce n’est pas finalement une partie d’eux-mêmes qui a été éteinte pendant le vol.

Or, et c’est le propos de l’article, les lois qui régissent les données vous concernant et celles qui s’appliquent aux machines que vous possédez ne sont pas les mêmes. Si la confidentialité des données des individus est assez bien protégée par la loi, il n’en est pas de même pour les objets. D’où cette question : à l’heure où les machines deviennent de plus en plus des éléments constitutifs de nous-mêmes, est-ce que celles-ci ne devraient pas être couvertes par les mêmes droits ?

L’article cite l’exemple des pacemakers connectés. En plus de faire battre votre cœur, ces pacemakers collectent des données sur votre métabolisme qu’ils envoient à votre médecin traitant. Comme de nombreux objets ou services que nous utilisons, les pacemakers connectés fonctionnent avec des contrats d’utilisation. Ces mêmes contrats que personne ne lit jamais, parce qu’ils sont écrits en tout petit, qu’ils sont trop longs et que la vie est trop courte. Vous aurez sans doute remarqué que vous n’avez jamais eu à signer de contrat pour utiliser vos membres. Pourtant, dans un monde connecté, il n’y a pas une différence énorme entre le fait de vous servir de vos mains pour faire des crêpes et utiliser un pacemaker pour faire battre votre cœur. L’article signale, par exemple, que les cinq plus grands fabricants de pacemakers connectés au États-Unis empêchent les utilisateurs d’accéder aux données récoltées par le dispositif, tout simplement parce qu’aucune loi ne les oblige à le faire. Pour connaître les données récoltées, les utilisateurs doivent impérativement passer par un médecin qu’ils payeront de leur poche (nous sommes aux États-Unis).

Les sociétés qui construisent ces machines objectent généralement que personne ne vous force à utiliser un smartphone, un pacemaker connecté, ou une Apple Watch. Mais de plus en plus, les capacités qu’offrent ces objets deviennent indispensables à quiconque veut mener une vie à peu près normale, sans compter qu’ils rendent de grands services à l’humanité dans son ensemble en permettant une meilleure circulation de l’information. Parfois, c’est même sans votre consentement que vous êtes utilisateurs de ces services : Facebook, par exemple, demande régulièrement à des tiers des informations vous concernant : votre métier, le lycée dans lequel vous avez étudié, les membres de votre famille…

Par rapport aux Américains, les Européens pourraient se sentir davantage protégés : les lois concernant la vie privée sont plus restrictives sur le vieux continent. Ce n’est, malheureusement, que partiellement vrai, dans la mesure où la plupart des grands constructeurs sont américains, et qu’ils appliquent des lois américaines. Pour collecter vos e-mails, la NSA n’a eu qu’à attendre qu’ils transitent dans les tuyaux américains. Ce qui, dans un monde dématérialisé, est quasiment inévitable.

L’article montre, à travers de nombreux exemple, que les tribunaux américains sont déjà en train de prendre des décisions, et donc de constituer une jurisprudence. Tous ces cas permettent de saisir les questions auxquelles la société et la justice devront répondre très bientôt.

On trouve par exemple le cas de Steve Mann, un chercheur qui a inventé une caméra directement reliée à son crâne, lui permettant d’enregistrer tout ce qu’il voit, mais aussi de modifier sa perception, en ajoutant ou en retirant des éléments de la réalité. Steve Mann a été agressé par des employés de McDonalds, qui ne voulaient pas être filmés. Les questions soulevées par cet épisode montrent qu’il va falloir que les tribunaux réfléchissent aux droits des cyborgs, mais aussi aux droits de ceux qui ne sont pas des cyborgs et qui ne veulent pas avoir affaire à des technologies intrusives.

Dans le même ordre d’idée, l’association Stop the Cyborgs, s’est constituée au moment de l’apparition des Google Glass. Elle encourage les restaurateurs à placer des signes « interdit aux Google Glass » dans leurs restaurants et milite pour la création de zones sans surveillance. Mais ici aussi, d’autres questions seront bientôt soulevées : si l’on peut empêcher l’accès d’un restaurant à une personne qui peut éteindre son dispositif à tout moment, qu’en sera-t-il quand certains de ces dispositifs seront greffés au corps ? La justice pourrait par exemple considérer qu’il s’agit de discrimination et obliger les restaurateurs à accepter les cyborgs, bien que ceux-ci soient en train de les surveiller contre leur gré.

Ces problèmes peuvent sembler marginaux, mais ils constituent en réalité les premières pierres que nous posons pour construire la société de demain. Dans leur article, les deux auteurs ne tentent pas de dire ce qui est bien ou mal, ils constatent juste que nous entrons dans une société où la donnée informatique est une matière aussi importante que le pétrole au XXe siècle. C’est sans doute l’une des raisons pour lesquelles les révélations d’Edward Snowden, concernant les écoutes intrusives de la NSA, ont eu une résonance si forte. Sans que nous en ayons véritablement conscience, nous pressentons de plus en plus que les données que nous produisons font partie de nous-mêmes. Surveiller des données, c’est surveiller des gens.

Film Title: Watchmen

Le monde de demain

Il y a 25 ans, le philosophe Gilles Deleuze poursuivait la réflexion développée par Michel Foucault dans son ouvrage Surveiller et Punir. Dans ce livre, Foucault démontre que le modèle de société qui se met en place en Europe entre le XVIIIe siècle et la première moitié du XXe peut être considéré comme une « société de la discipline », dans laquelle l’individu passe successivement d’un milieu d’enfermement à un autre : la famille traditionnelle, l’école, l’armée, l’usine, l’hôpital, éventuellement la prison. C’est d’ailleurs dans les prisons qu’il va trouver la matrice de ces sociétés, démontrant que les actes de surveiller et de punir sont en fin de compte les bases sur lesquelles se fondent les organisations sociales. Mais Foucault sent déjà que ce modèle de société, ni pire ni meilleur qu’un autre, est lui-même en train de passer : c’est notamment ce qui se joue derrière les « crises des institutions » à partir des années 60 : crise de l’école, crise des prisons, crises des hôpitaux, crise de la famille…

Deleuze reprend cette idée et la développe pour émettre l’hypothèse qu’aux sociétés disciplinaires d’hier sont en train de succéder les sociétés du contrôle. Dans ces sociétés, telle que la nôtre, l’individu ne passe plus d’un milieu à l’autre par recommencement successif ; il glisse entre les différents milieux de manière beaucoup plus souple, les frontières entre les différentes étapes de la vie sont plus poreuses. Il l’observe, par exemple, dans la généralisation des peines alternatives à la prison, où l’individu n’est plus ni vraiment libre, ni vraiment enfermé, ou dans le contrôle continu des élèves, qui tend à se poursuivre de plus en plus pendant toute la vie active par le biais des concours, des formations ou des bilans de compétences dans les entreprises.

« Les enfermements sont des moules, des moulages distincts, mais les contrôles sont une modulation, comme un moulage auto-déformant qui changerait continûment, d’un instant à l’autre, ou comme un tamis dont les mailles changeraient d’un point à un autre. Dans les sociétés de discipline, on n’arrêtait pas de recommencer (de l’école à la caserne, de la caserne à l’usine), tandis que dans les sociétés de contrôle on n’en finit jamais avec rien, l’entreprise, la formation, le service étant les états métastables et coexistants d’une même modulation, comme d’un déformateur universel.« 

Le cyborg est l’individu type de la société du contrôle. Il produit continuellement de la donnée ; donnée qui lui permet à la fois de contrôler son environnement et d’être contrôlé. Le cyborg est à la fois surveillant et surveillé : les machines dont il est constitué lui permettent de filmer, photographier, cartographier, communiquer, mais aussi d’être tracé, analysé, conseillé et sollicité. Au panopticon de Foucault – le point depuis lequel le gardien de la prison peut observer tous les détenus, s’oppose la disparition programmée du surveillant, tout le monde contrôlant tout le monde. Avec cet homme nouveau, qui prend place dans une société nouvelle, il convient de prendre conscience des enjeux que recouvre le droit des objets, car en ne le faisant pas, nous laissons la possibilité à tous ceux qui fabriquent ces objets et ces services de s’accaparer des données qui permettent de prendre le contrôle des droits de chacun, et donc d’asseoir leur domination.

Ne nous y trompons pas : il ne suffira pas simplement de pester contre la NSA à l’occasion d’une énième révélation pour que, brutalement, les agences de renseignements et les géants de la technologie décident qu’ils n’ont plus le droit de se servir dans nos données comme si elles leurs appartenaient. A chaque modèle de domination correspondent des modalités de résistance. Contre les sociétés disciplinaires, de nombreux moyens de lutte ont été tentés, certains avec succès, d’autres non. Le syndicat et la grève, par exemple, semblent être les moyens qui ont traversé le XIXe et le XXe siècle pour s’opposer au régime de la discipline. Tout l’enjeu, pour ceux qui n’accepteront pas la marche des choses, sera de découvrir les modalités de la lutte dans une société du contrôle. Au syndicats et aux grèves d’hier sont déjà en train de succéder d’autres formes de contestations : anonymous, hackers, lanceurs d’alerte…

Il est sans doute encore trop tôt pour se faire une idée très précise de la manière dont le droit évoluera pour correspondre de plus en plus aux mutations de la société. La transformation de l’être humain en cyborg est un processus relativement récent, dont nous observons aujourd’hui les premières étapes. Néanmoins, il est nécessaire de prendre conscience de ces transformations si nous voulons avoir une vision claire de l’avenir que nous souhaitons construire. Si nous ne le faisons pas, nous pouvons être certains que d’autres le feront pour nous. Et ce jour là, nous n’aurons plus que nos yeux bioniques pour pleurer des larmes électroniques…