ibm-truenorth

Il nous faut encore aborder un domaine de recherche sur lequel travaille l’équipe de Kevin Warwick en marge des projets Cyborg et de la robotique : la stimulation cérébrale par le biais d’électrodes. Il s’agit de déchiffrer plus précisément ce qui se passe dans le cerveau d’une personne quelques secondes avant qu’elle ne soit victime d’une crise d’épilepsie. Le but est de pouvoir anticiper la crise et d’agir afin d’éviter qu’elle ne se produise, ce qui va bien au-delà de la stimulation cérébrale visant à atténuer les effets d’une crise. La personne concernée ne se rendra peut-être même pas compte qu’elle était sur le point d’avoir une crise. Mise en place dans le champ du thérapeutique, une telle technique ne peut que réjouir. Par contre, dans un contexte où les neurosciences tendent à faire des manifestations supérieures de l’esprit des processus physico-chimiques, on conçoit aisément les problèmes que poseraient de telles technologies si elles pouvaient être appliquées un jour au déchiffrage anticipé de phénomènes tels que la conscience. La logique de biologisation des comportements sociaux qui découle de cette vision du monde suppose que, poussée à l’extrême, l’anticipation pourra aussi s’appliquer à des actes dont on pourrait déceler les signes précurseurs.

Même si les techniques d’anticipation mises en scène y sont différentes, c’est le film Minority Report — réalisé par Steven Spielberg en 2002 et tiré d’une nouvelle que Philip K. Dick [17] a écrite en 1956 — qui sera le mieux à même d’apporter l’éclairage SF à ce projet scientifique. Cette adaptation cinématographique, différant en de nombreux points de la nouvelle, met en scène les conséquences du sérieux penchant d’une société désireuse de gérer l’incertitude, dont elle contrôle ici l’élément criminel. À travers la science, la société aspire en effet à maîtriser, toujours plus loin à rebours, les causes supposées de l’infortune et les germes des calamités diverses.

En 2054, le Département Précrime de la ville de Washington est capable d’arrêter les criminels avant que ceux-ci ne commettent leur crime. Les précogs — humains dont les capacités cérébrales ont été modifiées in utero par la toxicomanie de leur mère — voient en effet certains événements à venir sous forme d’horribles cauchemars. Ils fournissent ainsi le moment du crime, le nom de l’agresseur et celui de la victime. En traitant les images fournies par les précogs — quatre jours à l’avance pour les crimes prémédités (qui disparaissent de fait rapidement), quelques minutes pour les crimes passionnels —, le Département Précrime peut arrêter les meurtriers en puissance pour « le futur crime de ». Nous suivons les pérégrinations de l’agent John Anderton, désigné un jour dans une des prédictions comme le meurtrier, dans les trente-six prochaines heures, d’un homme qu’il n’a jamais vu. Il va fuir, et essayer de mettre au jour les failles de ce système de « préscience » dans lequel la science permet une connaissance de l’avenir — virtuel mais probable — et le contrôle de ces événements à travers des mesures présentes. Côté réalité, fin 2009 à Zurich, la population a accepté par une large majorité que la police procède à l’enregistrement des fans potentiellement violents. Comme c’est déjà le cas dans d’autres pays, une base de données recensera « les noms de supporters qui n’ont pas exercé eux-mêmes de violences mais se sont tenus à proximité de heurts autour des stades et des patinoires [18] ». L’individu est traité au présent comme s’il avait déjà commis des actes dans le futur. Ainsi, le proverbe Mieux vaut prévenir que guérir trouve dans notre société des applications dans des domaines toujours plus nombreux et toujours plus en aval. Sur le plan médical aussi, un nouveau pas est franchi dans cette direction avec l’apparition de la génétique préventive. Elle permet par exemple de déterminer grâce à des tests génétiques quels sont les risques pour une femme de développer un jour un cancer du sein. La chirurgie prophylactique, c’est-à-dire l’ablation préventive d’un sein, est choisie par certaines femmes — pas encore patientes — pour éviter que ce scénario n’advienne (Bourret et Julian-Reynier, 2007). De retour à la fiction, Bienvenue à Gattaca développe ce thème, où règnent les individus au profil génétique supérieur grâce à la maîtrise de la science. Vincent Freeman, conçu naturellement, explique : « Dix doigts, dix orteils, c’est tout ce qui importait autrefois. Plus maintenant. Le jour où je suis né, alors que je n’étais âgé que de quelques secondes, le moment exact et la cause de ma mort étaient déjà connus. » L’infirmière prélève une goutte de sang sur le bébé nouvellement né et « lit » l’avenir de Vincent sur le document que produit instantanément la machine : « Infection neurologique 60 % de probabilité, psychose maniaco-dépressive 40 % de probabilité, hyperactivité, 89 % de probabilité, troubles cardiaques 89 % de probabilité. Risques de mort prématurée. Espérance de vie : 30 ans et deux mois. » Dans les expériences de Warwick aussi, le contrôle est intériorisé d’une part et il précède l’événement d’autre part. Quelle est l’identité de la personne épileptique qui n’a pas de crises d’épilepsie et dont une partie du cerveau, la chair, est contrôlée par une puce, le métal ? Vincent Freeman, lui, n’a aucune chance de faire valoir ses qualités effectives et actuelles dans une société où son destin est déterminé et tracé par ses gènes, déficients selon les critères en vigueur.

On voit que, aussi bien dans la réalité que dans la fiction, la technique rend l’impossible possible : un individu peut désormais porter deux étiquettes antithétiques, celle de l’innocence et de la culpabilité, de la santé et de la maladie. C’est alors une potentielle identité future qui se trouve juxtaposée à son identité présente.

Dans Minority Report, les découvertes d’Anderton posent une autre question : dans quelle mesure les bénéfices du Précrime — et par extension de n’importe quel système — justifient-ils d’ignorer le (petit) pourcentage d’erreur qu’il peut commettre ? La science est dans notre société le pôle dominant en matière de légitimation, c’est vers elle qu’on se tourne en dernier recours pour la définition d’une situation ou d’une personne. Quand la science dit de vous — individu présentement et extérieurement « normal » — que vous êtes un criminel ou un malade (peut-être, plus tard) et que par ailleurs toute prédiction inclut nécessairement une marge d’erreur, comment doivent réagir l’intéressé et la société ? Là encore, nous n’avons que des questions, et les extrapolations d’auteurs SF. La réponse de Minority Report est l’annulation pure et simple du programme Précrime.

Vers une société de contrôle ?

Il est évident que nous concédons tous les jours du terrain de notre intimité en contrepartie de « bénéfices réels ou supposés : paiement par carte, accès à un réseau sans fil, accès sécurisé (biométrie), réduction du prix » (Laurent, 2007 : 75) et services de localisation par GPS. Ces pratiques se traduisent concrètement par un contrôle croissant de nos faits et gestes. Il s’opère désormais « sous des formes fluides à travers tout le champ social » (Hardt, 1998 : 359). La société disciplinaire décrite par Foucault (1975) et les institutions qui en constituaient la base sont en crise depuis quelques décennies. À en croire Deleuze, cette évolution a permis à une société de contrôle de se mettre en place. Alors que la discipline opérait par l’enfermement, et donc de manière discontinue, le contrôle est continu car il se base sur une communication instantanée (Deleuze 1990 : 236). Dans cette société de contrôle, les « individus sont devenus des « dividuels » [souligné par l’auteur], et les masses, des échantillons, des données, des marchés » (Deleuze, 1990 : 244). C’est cette humanité morcelée qui transparaît à travers les pratiques et les imaginaires dont il est question ici. En vertu d’une logique héritée de la cybernétique, les humains et les machines sont interchangeables non seulement entre eux, mais aussi sous forme de pièces détachées constituées de différentes matières que nulle différence ontologique ne sépare désormais fondamentalement (Cerqui, 2003). Ainsi naît l’idée que des hybrides peuvent être constitués à partir des pièces les plus efficaces chez l’un et chez l’autre. Cependant, alors que la fusion de la chair et du métal est souvent perçue, dans la réalité et dans la fiction, comme pourvoyeuse d’un pouvoir supplémentaire pour celui qui fusionne, elle est en réalité synonyme d’un contrôle social accru puisque, comme le soulignent Haggerty et Ericson (2000), c’est par le corps que passent principalement les mécanismes du contrôle.

Lorsque, en 1998, Kevin Warwick a été le premier à se faire implanter une puce RFID, il était en concurrence avec une entreprise américaine du nom de Applied Digital Solutions, basée en Floride. Cette dernière n’est arrivée seconde dans la course que parce que la Food and Drug Administration impose une longue procédure avant toute expérimentation sur des êtres humains. La stratégie marketing de l’implant a débuté bien avant la première expérience. L’implant était alors nommé Digital Angel, et les arguments de promotion mis en avant étaient avant tout liés à des applications plus anodines telles que retrouver des personnes disparues. Après les événements du 11 septembre, la stratégie a changé, et les arguments promotionnels sont devenus plus offensifs. Sous prétexte de lutte contre le terrorisme, il semblait subitement politiquement correct de surveiller ouvertement son prochain. Le nom de l’implant, actuellement commercialisé aux États-Unis, est alors devenu Verichip, nom qui associe l’idée de vérité à la puce. Si la récupération politique de cet implant, et du contrôle qu’il permet intrinsèquement, est d’ores et déjà évidente, il n’en va pas encore de même pour des techniques plus invasives. Mais qu’en sera-t-il demain ?

La figure du savant en SF : l’échec du contrôle

Il convient, pour conclure, de revenir au protagoniste central de cette problématique du contrôle : le créateur. Ainsi, si l’utilisation de l’implant tend vers une pratique de surveillance, on ne peut en incriminer unilatéralement les usagers : il faut se souvenir que ces implants ont été pensés et fabriqués avant d’être mis à la disposition du public. S’il arrive qu’on l’oublie dans la réalité, ce n’est pas le cas en science-fiction qui place, au fondement de la mise en danger de l’humanité, clairement et de manière récurrente, le savant, l’ingénieur, le scientifique ou le chercheur, sur le banc des accusés. C’est eux qui, par leur malfaisance ou leur insouciance, mènent la civilisation humaine à sa perte. Ainsi Frankenstein porte le nom du créateur et non de la créature. Dans L’Armée des douze singes, le virus disséminé qui cause la disparition de 99 % de la population et la fuite du 1 % restant dans une vie souterraine et difficile est l’oeuvre de scientifiques. Dans Terminator 2, le Dr Dyson, cybernéticien responsable de la création de SkyNet — l’intelligence artificielle créée à des fins militaires et de défense qui lancera la guerre destinée à anéantir les êtres humains —, est horrifié quand il est mis face aux conséquences à venir de ses actes. Son sacrifice, dans la tentative de destruction des données de ses recherches, n’empêchera pas ce qu’il a amorcé d’advenir. En vérité, l’archétype du « savant fou », foncièrement mauvais ou un peu illuminé, est extrêmement courant dans la fiction : Dr. Moreau, Rotwang, Dr. Griffin, Dr. Strangelove, Dr. Benway, Dr. Emmett Brown, Dr. Seth Brundle, Dr. Eldon Tyrell, Dr. Frank N. Furter, Edward Nigma, Dr. Gediman, Dr. Finkelstein [19] sont autant de personnages qui ont perdu, pour une raison ou une autre, le contrôle de leur création. Cette abondance de scénarios où un scientifique rongé par l’ambition ou la soif de connaissances et inconscient des répercussions possibles de ses recherches qui finissent par lui échapper et mettre en danger ses congénères démontre une angoisse culturellement ancrée face au pouvoir du savant et à la puissance potentielle de ses oeuvres.

La science, la connaissance et la découverte sont des activités enthousiasmantes. Elles ouvrent des portes et créent des environnements nouveaux. La maîtrise à long terme de ces possibilités n’est pas, culturellement, une préoccupation majeure de ses instigateurs. Les éthiciens, les futurologues ou les chercheurs en sciences sociales peuvent y réfléchir. Mais quand l’apprenti sorcier perd le contrôle de ce qu’il a engendré, dans la réalité ou la fiction, il n’est pas sûr qu’un sorcier plus expérimenté et plus puissant pourra y remédier, comme l’illustre une ballade bien connue.

Mon vieux maître sorcier
Pour une fois s’est absenté :
Désormais, les esprits vivront
Comme je l’aurai décidé.

[]

Voici revenir le vieux sorcier.
Mon maître, quelle misère,
Je ne puis me défaire
De ces esprits que je viens d’éveiller.

L’Apprenti sorcier, Goethe (1797)

Parties annexes

Bibliographie

  1. Anderson, W. F. (1994), « Genetic Engeneering and Our Humanness », inHuman Gene Therapy, 5, p. 755-760.
  2. Arenas, C. (2003), « Cyborg Iconography. Constructing the Image of the Cyborg », in D. Riha, (dir.), Cybercultures : Visions of the Human in Science Fiction and Cyberpunk, Oxford, Inter Disciplinary Press.
  3. Asimov, I. (2008 [1940]), I, Robot, Oxford, Macmillan.
  4. Ballard, J. (2005 [1973]), Crash !, Paris, Denoël.
  5. Bay, M. (2005), The Island, DreamWorks SKG et Warner Bros. Pictures.
  6. Bear, G. (2001 [1999]), L’Échelle de Darwin, Paris, Robert Laffont.
  7. Bianchi, B. et al. (1983), Inspecteur gadget, DiC Entertainment.
  8. Bourret, P., C. Julian-Reynier (2007), « Prédiction des risques génétiques de cancer : complexités et incertitudes de la communication médicale », in I. Rossi, Prévoir et prédire la maladie, De la divination au pronostic, Montreuil, Aux lieux d’être.
  9. Bozzeto, R. (2002), « La science-fiction explore les territoires de la création. Modernité de la hard science-fiction », IRIS — les Cahiers du GERF, nº 24, p. 59-65.
  10. Breton, P. (1995), À l’image de l’Homme. Du Golem aux créatures virtuelles, Paris, Seuil.
  11. Cameron, J. (1984), Terminator, Hemdale Film Corporation, Pacific Western, Euro Film Funding et Cinema 84.
  12. Capek, K. (1997 [1921]), Rossum’s Universal Robots, La Tour d’Aigues, Éditions de l’Aube.
  13. Cerqui, D. (2003), « Quelques éléments pour une ontologie du cyborg », in C. Fintz (dir.), Le corps comme lieu de métissages, Paris, L’Harmattan, p. 125-142.
  14. Cerqui, D. (à paraître), Humain, machine, cyborg : le paradigme informationnel dans l’imaginaire technicien, Genève, Labor et Fides.
  15. Clark, A. (2003), Natural-Born Cyborgs : Minds, Technologies, and the Future of Human Intelligence, Oxford, Oxford University Press.
  16. Clynes, M. N. (1961), Drugs, Space and Cybernetics : Evolution to Cyborg, New York, Columbia University Press.
  17. Cronenberg, D. (1979), Chromosome 3, Claude Héroux, Pierre David et Victor Solnicki.
  18. Cronenberg, D. (1986), La mouche, Brooksfilms.
  19. Cronenberg, D. (1996), Crash, David Cronenberg.
  20. Cronenberg, D. (1999), eXistenZ, David Cronenberg, Andras Hamori, Robert Lantos.
  21. Deleuze, G. (1990), Pourparlers (1972-1990), Paris, Minuit.
  22. Dick, P. K. (1986 [1968]), Blade Runner (Titre original : Do Androids Dream of Electric Sheep ?), Paris, J’ai Lu.
  23. Dyens, O. (2008), La condition inhumaine, Paris, Flammarion.
  24. Evangelisti, V. (2005), « La Science-fiction, métaphore du présent », Cycnos, vol. 22, n° 1.
  25. Feenberg, A. (2004), (Re)penser la technique, vers une technologie démocratique, Paris, La Découverte.
  26. Fontaine, F. (1996), La science-fiction, Paris, Éditions Milan.
  27. Forsythe, D. (2001), Studying Those Who Study Us, An Anthropologist in the World of ArtificialIntelligence, Stanford, Stanford University Press.
  28. Foucault, M. (1975), Surveiller et punir, Paris, Gallimard.
  29. Gaggi, S. (2003), « The Cyborg and the Net : Figures of the Technological Subject », in D. Erben (dir.), Adrift in the Technological Matrix, Lewisburg, Bucknell University, p. 125-139.
  30. Gattégno, J. (1992), La science-fiction, Paris, PUF.
  31. Genefort, L. (2007), Architecture du livre-univers dans la science-fiction à travers cinq oeuvres, Nice, Université de Nice.
  32. Gilliam, T. 1995, L’armée des douze singes, Charles Roven, Lloyd Phillips
  33. Guiot, D., J.-P. Andrevon, G.-W. Barlow (1987), La science-fiction, Paris, MA Éditions.
  34. Hables Gray, C. (dir.) (1995), The Cyborg Handbook, New York, Routledge.
  35. Haggerty, K., R. Ericson (2000), « The Surveillant Assemblage », British Journal of Sociology, vol. 51, nº 4, p. 605-622.
  36. Haraway, D. (2006 [2002/1991]), « Manifeste cyborg : science, technologie et

Un article de la revue Sociologie et sociétés

Volume 42, Numéro 2, Automne, 2010, p. 43–65Quand le vivant devient politique : les avatars de la démocratie technique

Tous droits réservés © Les Presses de l’Université de Montréal, 2010