Cyberpunk Reality, Des machines et des hommes (2/5)

« Ici même l’espoir à le goût il faut croire,
du règne des machines. »
– Saez

Les androïdes rêvent-ils de moutons électriques ?

Comme pour toute science-fiction, l’un des piliers du cyberpunk est celui de la technologie et des sciences. Les concepts d’intelligence artificielle (IA), de robots et de fusion entre l’homme et la machine font partie des thèmes récurrents du genre. Mais à l’opposé du space opera, plein jusqu’aux yeux de technologie kitsch, le cyberpunk développe l’idée d’une relation plus intime entre la robotique, l’informatique et le vivant. Une conception de l’avenir plus réaliste que les voyages intergalactiques, mais aussi beaucoup plus insidieuse et perverse.

Les réseaux relient tout, connaissent tout, contrôlent tout. L’informatique s’immisce dans tous les aspects de la vie. Grâce aux technologies biométriques, le fichage des populations est systématique et donne aux autorités un contrôle total. Les organes robotiques envahissent la vie quotidienne, chacun peut se faire opérer pour augmenter ses capacités physiques et mentales comme ses perceptions. La médecine utilise les nanotechnologies, la génétique et le clonage pour accomplir des prouesses… accessibles uniquement aux privilégiés. A l’instar des cyborgs de Deus Ex Human Revolution, le cyberpunk est le royaume incontesté de l’humain augmenté et du transhumanisme [1]. La machine s’insère dans toutes les vies, tous les corps, jusqu’à fusionner avec l’âme des individus elle-même.

Parallèlement, les machines autonomes conquièrent toujours une puissance plus importante, jusqu’à développer une IA très supérieure à l’intelligence humaine,  et jusqu’à la capacité de ressentir des émotions. Si la plupart des univers cyberpunk conçoivent le robot comme un esclave contrôlé par l’humain, c’est pour mieux lui permettre de transcender cette condition. Le roman Frankenstein ou le Prométhée moderne de Mary Shelley est à nouveau fondateur de ce concept. Dans un autre ouvrage de référence, Do Androids Dream of Electric Sheep? de Philip K. Dick, les robots « Nexus 6 » se mélangent aux humains sans se faire remarquer, et sont uniquement détectables grâce à un test d’empathie capable de les confondre. Dans leur cavale ces répliquants se surprennent à rêver, à tomber amoureux, et à s’émerveiller de la beauté de l’univers. La même idée est reprise dans le Her de Spike Jonze, qui met en scène des ordinateurs capables de tomber amoureux des humains, mais que la super-intelligence artificielle éloigne de fait. Au contraire, dans les sagas cinématographiques Matrix et Terminator, les machines mues par une intelligence supérieure en réseau, entrent en guerre ouverte contre l’humanité.

Les droïdes intelligents de la fiction clament leur droit d’exister à l’égal des hommes. Entre humains de plus en plus robotiques et cyborgs de plus en plus humains, les œuvres cyberpunk questionnent la définition même de l’humanité.

Du téléphone portable au transhumanisme

Je vous l’accorde : nous n’en sommes pas vraiment là aujourd’hui. Pourtant, les avancées technologiques de ces dernières années laissent entrevoir de possibles bonds de géants à venir, et pas seulement pour le meilleur. Voici longtemps que l’informatique n’est plus une lubie réservée à quelques savants et prouve sa puissance dans tous les domaines. En médecine notamment, on commence à créer des organes bioniques et à recourir aux nanotechnologies pour agir sur le corps humain de l’intérieur [2]. La biométrie, par ailleurs, s’ouvre à de nombreux usages, mais peine encore à se faire accepter comme autre chose qu’une nouvelle méthode de fichage des individus [3]. Utilisées au départ pour leur côté pratique et novateur, les nouvelles technologies sont souvent détournées dans des applications inattendues. N’oublions pas également que l’armée américaine est l’un des plus gros mécènes de l’innovation [4], et que l’usage des technologies passe souvent par la récupération militaire et le contrôle des populations.

D’autre part, le culte de la performance entraîne bon nombre d’individus à recourir à des moyens artificiels pour repousser leurs capacités propres. Le transhumanisme commence ainsi à voir le jour depuis longtemps sous des formes variées, comme par glissement. Certaines pratiques ancestrales d’amélioration de soi finissent par rejoindre les fantasmes de la littérature : le dopage dans les sports de haut niveau pourrait être une illustration de cette tendance. Toujours dans une logique de concurrence et de dépassement des records établis (la sacro-sainte croissance), les sportifs recourent en masse à des produits chimiques et des procédés issus du domaine médical pour augmenter leurs performances. Dans un autre domaine, l’implantation de prothèses mammaires, le Botox ou la suppression des rides au laser relèvent exactement de la même logique. La chirurgie esthétique, donc, est une forme d’optimisation physique utilisée dans un souci d’amélioration (subjective) de soi, lorsque le naturel devient insuffisant pour se conformer à des canons de beauté portés en religion. La technologie médicale est alors détournée pour lutter contre les aléas naturels de la vie, à commencer par les signes normaux du vieillissement tellement décriés par nos standards de beauté.

Cryogénisation, rajeunissement, reprogrammation ADN, les pistes ne manquent pas qui sont explorées très sérieusement par les nombreux entrepreneurs et idéologues transhumanistes de la Silicon Valley. Selon leurs propres termes, ils cherchent à « ouvrir la prochaine frontière de l’humanité ». Le corps humain étant perçu comme une machine, l’idée de le réparer indéfiniment (notamment grâce à des greffes d’organes imprimés en 3D sur mesure) permet d’envisager des progrès incroyables dans le domaine de la santé. Sont ainsi prédits, au-delà du culte de l’apparence, l’abolition de la maladie, l’augmentation de l’espérance de vie, voire même une « guérison de la mort » dans les prochaines décennies [5].

Sans s’égarer dans d’incertaines spéculations sur le futur, il est marquant de voir que le principe de l’humain augmenté a déjà rejoint la réalité sous une forme assez inattendue : celle du smartphone. Même moins photogénique qu’un bras bionique, la faculté accessible à un individu isolé de contacter n’importe qui, de se géolocaliser sur une carte en temps réel, d’accéder à une somme de savoirs considérable, de prendre et partager des photos via Internet relève pourtant exactement du même principe : l’augmentation technologique des capacités humaines [6]. Il en va de même pour la tendance du « Quantified Self », qui permet à chacun de collecter sur son smartphone de nombreuses données statistiques liées à sa vie quotidienne : rythme cardiaque, heures de sommeil, nombre de kilomètres parcourus…

Les avancées actuelles dans le domaine de la réalité augmentée et des interfaces intuitives (comme l’Oculus Rift et les Google Glass [7]) confirment d’ailleurs que nous ne voyons encore que les balbutiements de cette tendance. Irons-nous jusqu’à l’utilisation massive d’organes robotiques, ou au vieux fantasme des puces implantées sous la peau ? Certains « body-hackers » l’imaginent déjà concrètement [8].

Au premier abord ces technologies ouvrent sur des univers entiers de possibilités à explorer, et l’humain augmenté semblerait bien être l’avenir de l’humanité. Impossible de le nier : la technique nous rend bien des services et sait se rendre indispensable au mode de vie contemporain. Le risque survient lorsque les populations se soumettent volontairement à des pratiques dangereuses pour leur intégrité physique et mentale, favorisant du même coup l’aliénation générale au profit du contrôle et de la logique économique.

Rappelons par exemple qu’il n’a pas été prouvé que le Wi-Fi et les ondes de téléphone portable sont sans danger pour les utilisateurs [9]. De même le Quantified Self peut-il être analysé comme une démission des individus des perceptions de leur propre corps ! Alain Damasio, auteur (entre autres) de La Zone du Dehors, nous met en garde contre l’externalisation des facultés humaines via la machine :

« Le Quantified Self, c’est la lutte de la quantité contre la qualité. La qualité est complexe, perturbante, difficile à circonscrire. A l’inverse le chiffre est rassurant : il fixe, mesure, étalonne, hiérarchise sur un axe simple : plus/moins. Il est ce qui existe de plus simple pour gérer l’incertain et se sécuriser. Réduire sa vie à un tableau de bord chiffré est une fuite du rapport complexe que l’on peut entretenir avec la qualité. Tout le paradoxe du Quantified Self est là : en se chiffrant les gens croient mieux contrôler leur corps alors qu’ils ne font qu’intercaler entre eux et leur corps une médiation qui les éloigne d’un ressenti direct. Ils perdent le rapport intuitif à soi, aux autres et au monde.

En vérité, nous avons délégué tellement de nos capacités à la technologie que si l’on n’y prend garde, il ne nous restera que l’émotion brute. Sans cette mémoire de travail, sans ces structures cognitives de base que sont l’analyse, la synthèse, l’effort de classer ou de hiérarchiser, nous deviendrons tout doucement des légumes qui feront des likes et des dislikes sur Internet, transfèreront des tweets et singeront des mèmes parce que nous n’aurons plus l’appareil cognitif pour manipuler tout ça. » [10]

Le piège technologique

Les multiples révolutions technologiques induisent une perversité aux multiples facettes. Premièrement, la technologie rend les hommes dépendants. A force de simplifier un grand nombre de tâches quotidiennes, nos appareils prennent une importance telle dans nos vies qu’il devient impensable de s’en priver. Se passer de portable ? Bien sûr, nous y arriverions. Mais pas sans ressentir un terrible vide accompagné du sentiment d’être amoindri, de ne plus pouvoir faire tout ce à quoi nous avons été habitués. C’est la première preuve que le smartphone est ce qui s’approche le plus des greffes informatiques décrites par nombre d’auteurs cyberpunk. D’un point de vue plus immédiat, ces nouvelles technologies pénètrent si largement nos quotidiens qu’elles créent de grands bouleversements dans nos relations et modes de vie. Si certains de ces changements sont anodins, d’autres relèvent d’une véritable aliénation. Contrairement au téléphone fixe, le portable nous enferme dans l’obligation souvent inconsciente de rester joignable en permanence. Si, bien sûr, nous pouvons toujours éteindre notre appareil, nous ne le faisons pourtant jamais. Le smartphone nous fait échanger notre liberté contre des pouvoirs transhumains, qui s’assortissent d’une dépendance. C’est une servitude consentie [11]. Lorsqu’une entreprise offre un téléphone ou un ordinateur portable à ses employés, elle exige d’eux une disponibilité totale, sous couvert de générosité.

De plus, cette dépendance à la technologie place d’emblée les individus en situation de faiblesse face aux multinationales qui la conçoivent. Ces dernières peuvent alors dicter leurs lois aux publics captifs, devenus inaptes à la vie sans l’accès à des services inimaginables il y a un siècle. L’utilisateur troque une compétence intrinsèque au profit d’un service commercial, qui devient alors constitutif de son être. La technologie, plus facile à obtenir, dépossède des compétences propres à chacun. On perd le sens de l’orientation au profit du GPS, la mémoire au profit des moteurs de recherche… Et Alain Damasio d’enfoncer le clou :

« Les transhumanistes voudraient obtenir de la technologie des capacités que nous n’avons pas actuellement, sans faire l’effort de se construire, physiquement ou spirituellement, pour les développer de l’intérieur.

[…] La liberté d’utiliser ou de repousser la technologie est inexistante aujourd’hui. Il est bien sûr possible de ne pas se connecter à Internet ou de ne pas avoir de portable, mais ça devient extrêmement difficile parce que la quasi-totalité des rapports sociaux quotidiens passe par la médiation du portable. Comment se construire, adolescent, sans les réseaux sociaux ? Comment apprendre sans le Web ?

Nous sommes toujours libres, mais nous sommes libres en situation et la nôtre est de vivre dans un technococon. » [12]

L’analyse est pertinente, et nous pourrions ajouter celle-ci aux questions qu’elle soulève : qu’adviendra-t-il lorsque le propriétaire des sources d’information décidera d’en limiter l’accès, ou d’en falsifier le contenu à son propre profit ou à celui d’un pouvoir totalitaire ? L’infrastructure numérique (le « technococon ») est en passe de devenir indispensable à la vie quotidienne, avec le risque de devenir, entre de mauvaises mains, la pire des infrastructures panoptiques.

En allant plus loin, on peut également supposer que la démocratisation des modifications corporelles présente le risque de créer à travers le monde des castes de posthumains technologiquement supérieurs aux autres suivant les pays et l’accès à ces technologies. Avec des disparités liées à la vie, à la mort et aux facultés cognitives des individus, l’idée même d’une condition humaine commune risque une remise en question, et avec elle les droits communs  de l’humanité [13]. Kevin Kelly, fondateur du magazine Wired consacré aux nouvelles technologies, partage cette idée.

« Je fais l’hypothèse que l’évolution de notre espèce va se séparer en plusieurs branches […].  Il y aura des humains semblables à ceux que nous connaissons aujourd’hui, mais aussi des humains modifiés génétiquement, des humains augmentés technologiquement, des hybrides etc. L’humanité ne sera plus une. » [14]

Les nouveaux Terminators

L’un des concepts clé du transhumanisme est celui de « singularité » : une révolution fondamentale de l’histoire, la création « au moyen de la technologie d’une entité plus puissante que l’intelligence humaine ». Celle-ci pourrait advenir via un superordinateur, l’éveil d’une conscience artificielle en réseau, ou le rapprochement entre cerveau humain et machine. Dans tous les cas, cette singularité est supposée pouvoir modifier définitivement le cours de l’Histoire et faire ni plus ni moins qu’ouvrir l’ère posthumaine en remplaçant l’homme dans l’organisation et l’optimisation des échanges et des sociétés. C’est la rationalité infaillible au secours de l’humanité, objectif assumé de nombreuses entreprises et universités notamment aux Etats-Unis [15].

Sur le sujet Eliezer Yudkowsky, chercheur au Machine Intelligence Research Institute (MIRI), insiste sur l’importance d’introduire rapidement une dimension éthique dans la recherche sur les intelligences artificielles. On éviterait ainsi -lors de l’avènement de l’ère posthumaine- que l’intelligence rationnelle implacable issue de la singularité ne décide de « sélections drastiques » destinée à optimiser la société en supprimant les individus considérés par la machine comme des poids morts : personnes âgées ou handicapées notamment [16]. Sans doute Eliezer Yudkowsky connait-il bien la saga Terminator, dans laquelle l’hyperintelligence artificielle Skynet décide, pour le bien de la planète Terre, d’éliminer totalement la race humaine.

Si la Singularité n’est pas (encore ?) advenue et si la guerre totale avec des régiments de Schwarzenegger-cyborgs n’est pas à l’ordre du jour, il n’en demeure pas moins que les intelligences artificielles connaissent un véritable essor et leurs premières applications à grande échelle. Les drones militaires sont de plus en plus utilisés par les forces armées à travers le globe. Bientôt entièrement mus par des algorithmes d’analyse statistique, ces engins de combat pourront décider de la vie ou de la mort d’êtres humains depuis le ciel, en se basant sur une analyse statistique.

Auteur d’un livre sur le sujet (Théorie du drone, éditions La Fabrique), le philosophe Grégoire Chamayou revient sur les limites de ce système dans une interview à Libération :

« Le droit des conflits armés impose aux belligérants de ne cibler directement que des combattants, pas des civils. Les partisans des drones affirment que, grâce à leur «veille persistante», ils permettent de mieux établir cette distinction. Sauf que, lorsqu’on remplace les troupes au sol par des drones, il n’y a plus de combat. A quoi peut-on alors voir la différence, à l’écran, entre la silhouette d’un non-combattant et celle d’un combattant sans combat ? A rien. On ne peut plus la constater, seulement la soupçonner. De fait, la majorité des frappes américaines ont lieu contre des individus dont on ne connaît pas l’identité exacte. En croisant des cartes d’itinéraires, des relevés d’appels téléphoniques, on établit des profils. C’est la méthode du pattern of life analysis : votre mode de vie nous dit qu’il y a, mettons, 90% de chance que vous soyez un militant hostile, donc nous avons le droit de vous tuer. Mais là, on glisse dangereusement de la catégorie de combattants, à celle, très élastique, de militants présumés. Cette technique de ciblage implique d’éroder le principe de distinction, pierre angulaire du droit international. » [17]

Entre les robots tueurs de Terminator et les condamnations préventives de Minority Report, le drone est l’arme de demain pour les totalitarismes démocratiques. On cherche à maximiser l’efficacité militaire (y compris hors des théâtres d’opérations officiels) [18] tout en minimisant le coût humain, et donc le mécontentement des électeurs. Mais pour leurs cibles potentielles les drones sont avant tout la perspective d’une surveillance permanente et invisible, et de bombardements décidés par ordinateur, sans aucune responsabilité humaine. Pour les victimes, la mort n’a rien de virtuel.

Ces intelligences artificielles basées sur des algorithmes sont également omniprésentes dans le monde opaque de la finance internationale. Le « trading à haute fréquence » représenterait actuellement entre 40 et 70% des ordres passés sur les marchés financiers [19]. Conçus par des mathématiciens experts en analyses statistiques et probabilités financières, des logiciels ultrapuissants passent, chaque seconde, des millions d’ordres sur les marchés. Concevant des stratégies excessivement complexes et dépassant de loin les capacités cognitives des humains, ces logiciels se font la guerre à l’échelle du millionième voire du milliardième de seconde et déclenchent des crashs boursiers spectaculaires. Ce fut le cas lors du « flash crash » de mai 2010 à la bourse de New-York [20]. Totalement déconnectées de toute réalité économique, ces intelligences artificielles tiennent dans leurs algorithmes le destin d’entreprises et de travailleurs réels, victimes collatérales de leur guerre mathématique. Les Terminators financiers agissent au profit de quelques donneurs d’ordres en cols blancs, incapables eux-mêmes de comprendre précisément l’action de leurs machines de guerre. Ils échappant à toute réglementation ne serait-ce que par leur vitesse délirante.

Vers un pacte homme / machine ?

Devant l’ensemble de ces constats, le philosophe Pascal Chabot propose une intéressante redéfinition des enjeux :

« Face à la démesure de la technologie, nous manquons d’un idéal régulateur. De la même façon que les philosophes du XVIII^e siècle ont su fonder un nouveau pacte entre l’homme et la nature, il appartient à notre siècle de formuler un pacte entre l’homme et la technologie qui statuerait clairement  sur la question « qui sert qui ? », en faisant de l’humain et de son environnement la vraie finalité du progrès. » [21]

Bien que le pacte entre l’homme et la nature du XVIII^e soit aujourd’hui bien malmené par le productivisme, l’idée d’un pacte entre l’homme et la machine semble plus que jamais nécessaire. Il parait pertinent de s’interroger sur l’origine des problèmes liés à l’innovation technologique. A qui profite l’asservissement volontaire des individus à la technique ?

Comme je l’évoquais précédemment, les grandes entreprises multinationales sont les maîtresses des nouvelles et futures technologies. Etendant leur pouvoir bien au-delà de celui des états, elles sont la source de ces innovations dont le seul objectif est la puissance économique, et donc le pouvoir.

Comme notre monde actuel, les imaginaires cyberpunk connaissent plus que tout autres le règne incontesté des puissances de l’argent.

-Saint Epondyle-
Version augmentée, janvier 2015.

Vous appréciez ce texte ? Achetez-le.

 Si vous voulez me soutenir en tant qu’auteur, Cyberpunk Reality est disponible à la vente en eBook et impression à la demande.

Tout savoir sur la démarche

Converture : « ..Losing Humanity.. » par thenewbie.