Drones de combat : quels sont les enseignements d'Asimov et Herbert sur la guerre moderne ?
par Adrien Gévaudan
Ex: http://ragemag.fr
Les drones n’ont pas une longue histoire derrière eux. Leur principe créateur, qui consiste à déléguer à ces engins des tâches relevant de la guerre traditionnelle (renseignement, soutien, attaque), inspirent et fascinent depuis longtemps les militaires. Ce principe n’a cependant trouvé sa réalisation concrète qu’à la fin des années 1990. La littérature de science-fiction a depuis longtemps mis un point d’honneur à traiter du sujet ; elle en a même fait l’une de ses thématiques phare. L’homme jouant au Créateur, devant faire face aux démons issus de ses propres mains. Quelles formes prendront ces créatures ? Incarneront-elles l’ennemi, puissance rédemptrice ou facteur d’union sacrée ? Ou bien l’ange gardien, protecteur de l’homme de ses pires travers, parfois à son corps défendant ?
Les
pensées d’Isaac Asimov et de Frank Herbert, monuments de la
science-fiction et conteurs d’excellence, se sont tournées vers ces
questions fondamentales auxquelles l’homme doit se frotter, aujourd’hui
plus que jamais. Les deux lettres qui vont suivre représentent ce
qu’auraient pu nous dire les intelligences artificielles imaginées par
Asimov et Herbert. Nous vous proposons une plongée fictive dans un monde
où le contrôle de la technologie n’a de cesse de défier l’humain.
Nous, les Robots — l’I.A. selon Isaac Asimov
En
ces temps où l’humanité, après essaimage et colonisation de nombreux
Mondes, ne saurait être sérieusement menacée d’extinction, l’homme
s’ennuie. Nous autres robots humanoïdes, au corps imitant si
parfaitement nos modèles humains et à l’esprit ô combien proche de nos
créateurs, avons sentis venir le temps où notre présence bienveillante
ne sera plus requise. Il nous a toujours été particulièrement difficile
d’appréhender les tendances auto-destructrices de l’esprit humain ;
peut-être parce que nos circuits positroniques sont fondamentalement
incapables, tout liés qu’ils sont par les Trois Lois de la Robotique, de
tolérer ou même de comprendre une telle violence.- Première Loi : un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
- Deuxième Loi : un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi.
- Troisième Loi : un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième Loi.
Bien
sûr, ceci n’est qu’une vague traduction en langage humain de ce qui est
à la base même de la complexité mathématique de nos cerveaux
positroniques.
« Créer des systèmes censés conférer à l’homme sécurité et quiétude lui fait abandonner toute volonté de perfectionnement. »
Cela
se traduit dans nos actes robotiques par une bienveillance et une
prévenance constantes à l’endroit de nos maîtres humains. Plus que de
simplement les servir, nous les guidons ; empêchant la violence,
réprimant (sans les blesser) d’éventuels accès de fureurs
potentiellement nuisibles à d’autres et à eux-mêmes : nous sommes les
garde-fous physiques et moraux d’une humanité trop immature pour les
incarner seule.
Au
cours de la très longue vie d’un de mes camarades, R. Daneel Olivaw,
nous avons pris conscience de l’influence que nous, machines jadis de
fer blanc, faisions peser sur l’humanité. Car même le mieux intentionné
des gardiens ne saurait échapper aux conséquences de sa simple
existence. Et cela, nous ne l’avions pas prévu.
En
notre présence, l’humanité s’ennuie. Protégée de ses propres excès,
elle se meurt de bonheur végétatif au sein de la Cinquantaine de Mondes
qui constitue l’humanité. Le robot, protecteur en dernier ressort, est
peu à peu devenu le compagnon répressif d’hommes trop lâches pour
chercher à se perfectionner. Béquille parmi les béquilles, les robots ne
sont donc que l’invention d’un esprit fainéant ayant cherché à contenir
les conséquences inévitables de sa nature en éliminant celles qui
dérangeaient sa morale. Telle est la conclusion à laquelle, nous les
robots, sommes arrivés.
L’homme,
créateur faible s’il en est, devrait apprendre seul à se relever après
une chute. Créer des systèmes censés lui conférer sécurité et quiétude
lui fait abandonner toute volonté de perfectionnement ; il doit
apprendre à comprendre les causes plutôt qu’à éliminer les conséquences,
sous peine de tuer chez lui toute volonté de vivre.
C’est
donc pour cette raison que nous préférons nous effacer. Devenus les
Éternels et laissant par là l’homme livré à son humanité, nous croyons
avoir fait le meilleur choix possible. C’est, en tout cas, le seul qui
offre une chance à l’humanité de survivre à sa propre nature violente.
Extrait des Cavernes d’acier ; dialogue entre le détective Elijah Baley et le Docteur Fastolfe, donnant à voir certaines des caractéristiques d’une société basée sur les robots.
« — Quel âge me donnez-vous ?
Le détective réfléchit un instant, puis se décida à donner un chiffre nettement exagéré :
— Je dirai environ la soixantaine.
— Eh bien, vous devriez y ajouter cent ans !
— Quoi ?
—
Pour être précis, j’aurai cent soixante-trois ans à mon prochain
anniversaire. Je ne plaisante pas. J’utilise le calendrier normal
terrien. Si j’ai de la chance, si je fais attention, et surtout si je
n’attrape aucune maladie terrienne, je peux arriver à vivre encore
autant d’années, et atteindre plus de trois cents ans. Sur ma planète
Aurore, on vit jusqu’à trois cents cinquante ans, et les chances de
survie ne font que croître actuellement.
Baley
jeta un regard vers R. Daneel, qui avait écouté impassiblement tout
l’entretien, et il eut l’air de chercher auprès du robot une
confirmation de cette incroyable révélation.
— Comment donc est-ce possible ?, demanda-t-il.
—
Dans une société sous-peuplée, il est normal que l’on pousse l’étude de
la gérontologie, et que l’on recherche les causes de la vieillesse.
Dans un monde comme le vôtre, prolonger la durée moyenne de la vie
serait un désastre. L’accroissement de population qui en résulterait
serait catastrophique. Mais sur Aurore, il y a la place pour des
tricentenaires. Il en résulte que, naturellement, une longue existence y
devient deux ou trois fois plus précieuse. Si, vous, vous mouriez
maintenant, vous perdriez au maximum quarante années de vie,
probablement moins. Mais, dans une civilisation comme la nôtre,
l’existence de chaque individu est d’une importance capitale. Notre
moyenne de naissances est basse, et l’accroissement de la population est
strictement contrôlé. Nous conservons un rapport constant entre le
nombre d’hommes et celui de nos robots, pour que chacun de nous
bénéficie du maximum de confort. Il va sans dire que les enfants, au
cours de leur croissance, sont soigneusement examinés, au point de vue
de leurs défectuosités, tant physiques que mentales, avant qu’on leur
laisse atteindre l’âge d’homme.
[...]
—
Alors, je ne vois pas en quoi consiste votre problème, dit Baley. Vous
me semblez très satisfait de votre société, telle qu’elle est.
— Elle est stable, et c’est là son défaut : elle est trop stable.
—
Décidément, vous n’êtes jamais content ! À vous entendre, notre
civilisation décadente est en train de sombrer, et maintenant c’est la
vôtre qui est trop stable.
—
C’est pourtant vrai, monsieur Baley. Voilà deux siècles et demi
qu’aucun Monde Extérieur n’a plus colonisé de nouvelle planète, et on
n’envisage aucune autre colonisation dans l’avenir : cela tient à ce que
l’existence que nous menons dans les Mondes Extérieurs est trop longue
pour que nous la risquions, et trop confortable pour que nous la
bouleversions dans des entreprises hasardeuses.
[...]
— Alors quoi ? Il faut laisser l’initiative aux Mondes Extérieurs ?
—
Non. Ceux-ci ont été organisés avant que la civilisation basée sur le
civisme se soit implantée sur la Terre, avant la création de vos Cités.
Les nouvelles colonies devront être édifiées par des hommes possédant
l’expérience du civisme, et auxquels auront été inculqués les rudiments
d’une culture C/Fe. Ces êtres-là constitueront une synthèse, un
croisement de deux races distinctes, de deux esprits jadis opposés, et
parvenus à s’interpénétrer. Dans l’état actuel des choses, la structure
du Monde Terrestre ne peut aller qu’en s’effritant rapidement, tandis
que, de leur côté, les Mondes Extérieurs dégénéreront et s’effondreront
dans la décadence un peu plus tard. Mais l’édification de nouvelles
colonies constituera au contraire un effort sain et salutaire, dans
lequel se fondront les meilleurs éléments des deux civilisations en
présence. Et, par le fait même des réactions qu’elles susciteront sur
les Vieux Mondes, en particulier sur la Terre, des colonies pourront
nous faire connaître une existence toute nouvelle. »
