C’est la lecture de l’article d’Ancestral« Le
1% se débarrassera bientôt des 99% encombrants» sur le site de Paul Jorion qui
m’a fait découvrir le propos de Bill Joy publié en avril 2000 : les deux
sont très à propos.
Extrait d’Ancestral :
« […..]
Je relisais l’article très intéressant de Bill Joy, fondateur de Sun
Microsystems : Pourquoi l’avenir n’a pas besoin de nous. Et je me faisais
la réflexion que la société, telle qu’elle avance aujourd’hui, continuant son
mouvement initié avec la révolution industrielle, ressemble à une personne
désespérée qui veut mettre fin à ses jours.
En effet, une personne qui veut se suicider et veut se faire du mal, n’a
pas forcément envie de se tuer, mais lance le plus souvent un appel à l’aide
pour qu’on la sauve de ses douleurs et de son désespoir. Noyée dans les
douleurs, elle perd tout espoir, toute croyance en la vie, et elle ne voit plus
qu’une solution : mourir vite et bien. Si elle est foncièrement
désespérée, convaincue que personne ne l’écoute et ne la comprend, elle se
fichera même des douleurs physiques causée par sa tentative de suicide. Elle
n’a plus rien à perdre.
[….]
La suite ci-dessous :
Article de Bill Joy :
« Dès le moment où j'ai commencé à être impliqué dans la création de
nouvelles technologies, je me suis senti concerné par leurs dimensions
éthiques, mais c'est seulement en automne 1998 que je suis devenu sérieusement
conscient de l'importance des dangers qui nous attendent au 21e siècle. Je peux
dater le début de mon malaise du jour où j'ai rencontré Ray Kurzweil, l'inventeur
justement célèbre de la première machine de lecture destinée aux aveugles et de
beaucoup d'autres choses étonnantes.
Ray et moi étions tous deux orateurs à la conférence Telecosm de George
Gilder et je l'ai rencontré par hasard dans le bar de l'hôtel après la fin de
nos deux sessions. J'étais assis avec John Searle, un philosophe de Berkeley
qui étudie la conscience. Tandis que nous parlions, Ray s'est approché et une
conversation a commencé, dont le sujet me hante jusqu'à ce jour.
J'avais manqué la conférence de Ray et l'atelier suivant auquel Ray et John
avaient participé, et ils reprenaient maintenant la discussion là où ils
s'étaient arrêtés, Ray disant que le taux d'amélioration de la technique allait
s'accélérer et que nous allions devenir des robots ou fusionner avec des robots
ou quelque chose comme ça, et John protestant que cela ne pouvait pas arriver,
parce que les robots ne pouvaient pas devenir conscients.
Bien que j'avais déjà entendu une telle conversation auparavant, j'avais
toujours estimé que des robots sensibles relevaient de la science-fiction. Mais
là j'entendais, de quelqu'un je respectais, un argument fort selon lequel ils
étaient une possibilité à court terme. J'étais déconcerté, particulièrement à
cause de la capacité prouvée de Ray à imaginer et créer l'avenir. Je savais
déjà que de nouvelles techniques comme le génie génétique et la
nano-technologie nous donnaient le pouvoir de refaire le monde, mais un
scénario réaliste et imminent pour des robots intelligents me stupéfiait.
Il est facile de se lasser de telles percées. Nous entendons presque chaque
jour aux informations parler de quelque avance technologique ou scientifique.
Mais ceci n'était pas une une prédiction ordinaire. Au bar de l'hôtel, Ray me
donna un "preprint" partiel de son prochain livre The Age of
Spiritual Machines, qui décrit une utopie qu'il prévoit - dans laquelle les
hommes atteignent une quasi-immortalité en devenant un avec la technologie
robotique. En le lisant, mon impression de malaise ne fit que s'intensifier;
j'étais convaincu qu'il avait dû minimiser les dangers, minimiser la
probabilité d'un mauvais résultat en chemin.
Je me trouvai particulièrement troublé par un passage détaillant un
scénario dystopique :
[…..]
La suite ci-dessous :
Jean Vinatier
Seriatim2015
