… et ils vécurent tous technologiquement heureux

« Dans les prochaines décennies, nous aurons l’opportunité d’appliquer des idées pour résoudre des problèmes très anciens – et d’introduire par là de nouveaux problèmes. »

Transcendance technologique

Ray Kurzweil, inventeur et futurologue américain, affirme que les êtres humains sont sur le point de transcender leur biologie. Il rappelle à ses lecteurs que dans son livre paru en 1998 et intitulé The Age of Spiritual Machines, il prévoyait déjà la nature de la vie humaine « après le point où la machine et la connaissance humaine se mélangeaient. »

Avec grande insistance, il note dans son dernier livre que lorsque les experts de différents domaines estiment où nous en serons dans 50 ans, ils utilisent des calculs linéaires – c’est-à-dire que le taux de changement estimé pour les 50 prochaines années se base sur les 50 dernières années. Mais il fait remarquer que les progrès technologiques s’accélèrent de manière exponentielle : « Nous n’allons pas vivre 100 ans de progrès technologique lors du 21^ème siècle – nous allons être les témoins de vingt mille ans de progrès » (The Singularity Is Near, 2005). Pour ajouter de la crédibilité à son affirmation, il affirme que ses prédictions pour les années 90 et 2000 se sont avérées jusqu’à présent assez correctes.

Allant encore plus loin, Kurzweil indique que le taux de croissance exponentiel d’aujourd’hui est lui-même souvent exponentiel – ce qu’il appelle une « croissance doublement exponentielle ». Il croit que les deux dernières époques de l’évolution (qui en compte six) sont très proches. La cinquième époque, qui est imminente, marquera l’émergence de la technologie et de l’intelligence humaine. Kurzweil affirme que la croissance de la connaissance, de la puissance du traitement informatique et de l’intelligence informatique seront tellement immenses que l’intelligence humaine, qui elle, n’aura pas avancé, sera dépassée. Répétant une phrase très souvent citée d’un papier rédigé en 1965 par le statisticien anglais Irving John Good, il écrit que « la première machine ultra intelligente est la dernière invention que l’homme aura besoin de faire. » Chose intéressante, comme beaucoup d’autres qui citent cette déclaration provocatrice, Kurzweil omet la deuxième partie de la phrase de Good : « […] à condition que ladite machine soit assez docile pour nous dire comment la contrôler ». Comme Good lui-même l’a fait observer, « il est curieux que cette remarque soit peu souvent faite en dehors de la science-fiction. »

« D’ici la fin du siècle, la portion non biologique de notre intelligence sera des milliards de milliards de fois plus puissante que l’intelligence humaine non assistée. »

Tandis que Good décrit son papier comme étant « spéculatif », Kurzweil, lui, est plus certain de ses prévisions. Il croit qu’il y aura des modèles de logiciels d’intelligence humaine efficaces dès 2020. Avec d’autres, il parle de « singularité », où le taux de progrès technologique atteint « la phase verticale de la croissance exponentielle », ou vitesse infinie.

La sixième et dernière époque de Kurzweil sera une époque où la matière et l’énergie dans l’univers « deviendront saturées de processus et de connaissances intelligentes » et où « l’univers se réveillera ». Ce qu’il veut dire par là, c’est que l’humanité – ou ce qu’elle sera devenue à cette époque – ne sera plus contrainte par des limitations physiques, mortelles. Même si un tel pronostic peut paraître improbable, il cite différents modèles mathématiques et statistiques et examine des recherches d’experts sur l’accélération de la connaissance et de la technologie de l’information (TI), et en particulier celle de la puissance de traitement de la TI, qui est l’une de ses spécialités.

Comparé à la puissance informatique présente et dans un futur proche, le cerveau humain accomplit certaines tâches de manière phénoménale, et d’autres de manière médiocre. Il est incroyablement impressionnant pour le traitement des données en parallèle, recueillant et donnant un sens à de nombreux points d’information en même temps : Kurzweil mentionne des recherches indiquant que la rétine à elle seule accomplit quelque 10 millions de détections de mouvement par seconde. Mais elle n’est pas aussi bonne au niveau de la puissance de traitement, de la vitesse et de l’exactitude à l’état pur. Le traitement au niveau moléculaire et en trois dimensions semble être la prochaine révolution conceptuelle dans la puissance informatique, et en fait il est déjà en phase avancée de développement. Comme les machines et les ordinateurs nous devancent de plus en plus là où nous sommes faibles, ce n’est qu’une question de temps jusqu’à ce qu’ils empiètent sérieusement sur des domaines que nous considérons peut-être comme uniquement réservés aux humains, y compris certaines subtilités de l’intelligence. En fait, Kurzweil déclare que nous devrions assister à des révolutions simultanées en génétique, en nanotechnologie et en robotique dès la première moitié du siècle.

Anticipant les changements spectaculaires qu’ils prédisent, certains scientifiques, futurologues et investisseurs, y compris Kurzweil, multiplient leurs efforts et dépensent beaucoup d’argent pour s’acheter la chance de rester en vie jusqu’à ce qu’ils soient élevés, par une technologie qui ne cesse d’accélérer, à une certaine forme d’immortalité.

Esprits à venir : plus, c’est moins ?

Bien qu’elle soit sceptique que les capacités supérieures des ordinateurs se traduiront par un intellect supérieur, la baronne Susan Greenfield, neuroscientifique anglaise de renom et professeur de pharmacologie à Oxford, se demande à quel point la TI se montrera présente : les nouvelles technologies auront peut-être « pour effet de nous placer dans un état passif, chargé au niveau sensoriel où nos cerveaux personnalisés – nos esprits – deviendront moins importants » (Tomorrow’s People, 2003).

À son  avis, « l’empiètement de la TI et l’attirance du monde virtuel signifieront que, pour le meilleur ou pour le pire, vous ne serez plus vraiment seuls. Et vu que les frontières entre vous et le monde extérieur, entre vous et vos désirs, deviennent de moins en moins nettes, vous-même deviendrez peut-être un phénomène plus vague. » La baronne note que dans ce monde futur, « nous n’aurions plus de pensées privées ; au contraire, nous ferions effectivement partie d’un immense réseau, un simple nœud dans un système pensant, conscient qui irait bien au-delà de l’esprit individuel ».

De plus, dit-elle, il y a la question de l’interaction sociale détériorée. Les êtres humains sont des créatures sociables, mais pendant que la famille est en train de devenir une nouvelle institution, avec différentes alternatives au modèle traditionnel mari-épouse-enfants, nous voyons qu’il existe des opportunités de relations virtuelles imaginaires. En vue de ces « réalités », on peut se demander si les gens perdront la signification du terme « être humain » d’aujourd’hui.

« Conscients ou pas, les systèmes artificiels vont bientôt devenir bien plus interactifs et personnalisés, et changeront ainsi nos vies de manière drastique. »

Greenfield connaît avec inquiétude les risques que présentent les effets de la technologie sur l’humanité. Elle considère comme quasi certaines les prédictions de ceux qui croient que dans ce siècle, les machines éclipseront l’humanité « non seulement dans la prouesse mentale brute mais également en tant que citoyens à l’esprit large et raisonnant en profondeur. » Comme Kurzweil, elle se demande si la profonde distinction entre le système artificiel (silicone) et le système biologique (carbone) restera valable. Par contre, contrairement à Kurzweil, elle n’est pas enthousiaste concernant la fusion du cerveau humain et de la machine. Elle considère que la « cohésion entre le cerveau et le corps » chez les humains est « un facteur essentiel de conscience » et souhaiterait que cette cohésion soit mieux comprise avant que des systèmes d’intelligence artificielle ne soient placés dans nos corps, « faisant de nous de vrais cyborgs ». Comme de récents rapports venant du Japon et d’autres pays l’indiquent, le génie robotique a déjà atteint le point où un mélange dangereux a lieu entre ce qui est réel et ce qui est virtuel.

Les scientifiques et les futurologues qui sont à l’écoute de ce qui se passe dans le monde de la technologie semblent être d’accord pour dire qu’une fois que les ordinateurs auront atteint un certain point, ils seront alors capables d’évoluer artificiellement et prendront le contrôle de la planète sous certains aspects. Comme Greenfield nous rappelle, le cosmologue Stephen Hawking est allé jusqu’à nous prévenir que nous, les humains, devons changer notre ADN et développer des connexions entre le cerveau et les ordinateurs aussi vite que possible si nous souhaitons éviter de nous retrouver dans une situation où nous serons opposés à une intelligence artificielle plus développée et plus puissante.

Il y a aussi la possibilité évidente qu’il y ait, comme toujours dans l’histoire de l’homme, les riches et les pauvres, ou dans ce cas, les « améliorés » et les « naturels ». Déjà, ceux qui peuvent profiter des opportunités d’améliorer ou allonger leur vie physique le font. Donc lorsque la technologie va permettre d’améliorer la capacité du cerveau ou l’intelligence naturelle, un marché tout prêt n’attendra que l’occasion. Le parti pris de l’opportunité ira, bien sûr, en faveur des plus nantis, ceux qui pourront se payer de telles améliorations, ce qui creusera encore plus le pénible fossé qui existe déjà entre les peuples et les nations.

Et il existe un scénario encore plus sombre, encore plus négatif. Par exemple, que se passerait-il si une crise énergétique éclatait et poussait l’humanité au bord de la destruction,  la lutte pour la survie nous faisant basculer dans un nouvel âge des ténèbres où la fragile toile de technologie se désintègrerait ? Ou, comme un auteur scientifique l’écrit, que se passerait-il s’il y avait « un accident sur la route menant à la singularité » ? Ça laisserait l’humanité dans quel état ?

Au bord du précipice

Comme nous l’avons vu, la condition formulée par Good en 1965 pour un monde avancé sans dommages par l’intelligence artificielle était l’espoir que « la machine soit assez docile pour nous dire comment la contrôler ». Cependant, si la machine devenait incontrôlable, tout prendrait une autre tournure. Une guerre faite par une intelligence artificielle devenue folle serait une chose terrible. Et d’un point de vue biblique, ça concorderait avec un scénario décrit au premier siècle. Reconnaissant que l’ingéniosité humaine pervertie nous causerait le plus grand des problèmes, le Nouveau Testament prédit une « détresse […] si grande qu’il n’y en a point eu de pareille depuis le commencement du monde jusqu’à présent, et qu’il n’y en aura jamais. Et, si ces jours n’étaient abrégés, personne ne serait sauvé » (Matthieu 24 : 21-22). Ce sont les paroles de Jésus de Nazareth. Il a mis en garde contre le fait que les êtres humains mettraient les espèces au bord de l’annihilation. Selon ces paroles, si Dieu n’intervenait pas, la dernière « époque » de notre « évolution » ne serait pas l’immortalité mais la destruction causée par nous-mêmes.

Le but de tels avertissements n’est pas de nous angoisser par des visions cauchemardesques et apocalyptiques et de nous faire peur pour que nous nous repliions sur un « salut » égoïste. Au contraire, dans les versets qui suivent, nous sommes encouragés, dans ce monde, à « veiller » (du grec gregoreuo – voir Matthieu 24 : 36-44 ; 25 : 1-13). Ce terme signifie « faire attention à l’indolence envers les soudaines calamités destructrices qui peuvent survenir soudainement », ou, métaphoriquement, « porter une attention stricte, active » (Enhanced Strong’s Lexicon).

Ces versets bibliques nous encouragent à reconnaître que l’attitude des hommes finira par amener l’humanité au bord du précipice. Ils nous invitent également à focaliser sur notre responsabilité personnelle et notre comportement moral et éthique afin que nous puissions être sauvés de la destruction qui, sinon, anéantirait l’humanité à jamais.