« Nous devrions essayer de devenir de bons ancêtres »
Quel est le rapport entre les guerres nucléaires, les pandémies d’origine humaine et les câbles Internet, d’une part, et les bâtisseurs de cathédrales du Moyen Âge, d’autre part ? Entretien avec le futurologue Lord Martin Rees, de l’université de Cambridge.
Interview : Sebastian Sele
Selon la théorie du chaos, même un battement d’ailes de papillon peut déclencher des bouleversements à l’échelle planétaire. En effet, une succession de décisions apparemment insignifiantes peut avoir des conséquences immenses. Des conséquences existentielles. Les chercheurs du Centre for the Study of Existential Risk (CSER) de l’université de Cambridge s’intéressent à ces risques existentiels qui pourraient anéantir notre espèce.
Martin Rees est l’un des trois fondateurs du CSER. L’ancien professeur de cosmologie et d’astrophysique à Cambridge a vu comment les inventeurs de la bombe atomique s’étaient opposés à son utilisation. Il a alors compris qu’une nouvelle génération devait prendre le relais pour poursuivre cet engagement en faveur de l’éthique. Rees, 83 ans, membre de la House of Lords, ancien président de la Royal Society et l’un des scientifiques les plus reconnus au monde, s’est engagé et continue de s’engager dans la lutte pour le bien.
Monsieur Rees, vous avez fondé et dirigez le Centre for the Study of Existential Risk. Pourquoi ?
En tant que professeur spécialisé en recherche spatiale, astronomie et physique, j’ai développé deux perspectives essentielles : d’une part, une compréhension profonde des échelles de temps cosmiques. Nous, les humains, ne sommes pas l’aboutissement du cosmos – notre Soleil n’en est même pas à la moitié de sa vie, ce qui signifie que nous ne sommes peut-être qu’au tout début de notre évolution en termes de complexité et de conscience. D’autre part, j’ai réalisé que nous sommes la première espèce capable d’impacter l’ensemble de la planète. Je m’inquiète des aspects négatifs des technologies puissantes. Et de nombreux scientifiques partagent mon inquiétude.
À quoi ressemble le travail au CSER ?
Nous nous intéressons aux risques extrêmes depuis 2012. Nous étudions des domaines aussi variés que l’intelligence artificielle, la biotechnologie, le changement climatique ou encore la sécurité alimentaire. Des chercheurs issus de diverses disciplines, de la biologie à la philosophie, se réunissent pour mieux comprendre ces risques existentiels et ainsi œuvrer pour un monde meilleur.
Le CSER ne se limite donc pas à la simple recherche ?
Non, nous conseillons également les gouvernements et les organisations internationales. Lorsque nous avons commencé, beaucoup considéraient notre travail comme alarmiste. On nous traitait de pessimistes. Mais depuis la Covid, plus personne n’ose l’affirmer. Le SRAS-CoV-2 avait un taux de mortalité inférieur à 1 % alors imaginez un virus avec un taux de mortalité de 70 %.
Ces scénarios apocalyptiques relèvent presque de la science-fiction. Comment pouvez-vous garantir que vous n’alimentez pas la panique avec de la pseudo-science ?
Nous sommes à l’université de Cambridge, l’une des institutions les plus prestigieuses au monde, et nous travaillons selon les standards qui en découlent. Certes, il est impossible d’anticiper tous les scénarios, mais qui serait mieux placé que nous pour identifier les menaces qui pèsent sur l’humanité ? Les universités ne doivent pas se replier dans des tours d’ivoire : elles ont la responsabilité de réfléchir aux conséquences de leurs découvertes.
En 2003, vous écriviez que les chances de l’humanité de survivre au 21e siècle étaient de 50 %. Aujourd’hui, un quart de siècle plus tard, où en sommes-nous ?
(Rires) Ce chiffre n’était pas à prendre au pied de la lettre. Mon argument principal était que les progrès scientifiques entraînent de nouveaux dangers.
Lesquels ?
À l’époque, les armes nucléaires constituaient la préoccupation principale. J’ai été l’un des premiers à attirer l’attention du grand public sur les risques liés à la biotechnologie. Les pandémies naturelles se propagent aujourd’hui plus facilement, car nous sommes interconnectés à l’échelle mondiale ; la peste du Moyen Âge n’a jamais atteint l’Australie. S’y ajoute la création d’agents pathogènes rendus plus mortels, plus contagieux ou plus résistants, à travers des expériences en laboratoire dites de « gain de fonction ».
Vous préoccupez-vous davantage aujourd’hui de la technologie biologique que de la technologie nucléaire ?
Contrairement aux armes nucléaires, les armes biologiques ne requièrent pas d’installations gigantesques difficiles à dissimuler. L’équipement nécessaire est répandu dans le monde entier, y compris dans les universités et les petits laboratoires. Un individu malveillant ou un petit groupe pourrait ainsi provoquer une catastrophe, intentionnellement ou par négligence.
Comment minimiser ce risque ?
Les scientifiques doivent garder à l’esprit les dangers liés à leur travail et sensibiliser les gouvernements à ces dangers. La biotechnologie est sous-réglementée. Il n’existe pas non plus d’organisme de contrôle contraignant, tel que l’AIEA pour l’énergie nucléaire.
Quels autres risques vous préoccupent particulièrement ?
Notre dépendance vis-à-vis des réseaux mondiaux (contrôle du trafic aérien, réseau électrique, Internet) devient un sujet de préoccupation majeur.
Pouvez-vous donner des exemples concrets ?
99 % du trafic Internet mondial passe par des câbles sous-marins. Si ceux-ci sont coupés, ce qui ne nécessite aucune technologie de pointe, la communication mondiale s’effondre. Il en va de même pour le GPS, le contrôle aérien et, de manière générale, les chaînes d’approvisionnement mondiales.
Les chercheurs considèrent régulièrement la guerre nucléaire comme un risque existentiel. Les déchets radioactifs sont rarement évoqués. Où se situent-ils sur votre liste ?
Comme pour le climat, les déchets radioactifs constituent une menace silencieuse et progressive. Cela nous confronte à une question éthique essentielle : dans quelle mesure la société se soucie-t-elle des générations futures ? La planification du dépôt en profondeur requiert une réflexion à l’échelle de dizaines de milliers, voire d’un million d’années. Il s’agit du seul domaine où une telle réflexion à long terme est nécessaire.
En tant que société, nous accordons toutefois de plus en plus d’attention au court terme.
Oui, cela n’est pas valable uniquement pour les déchets radioactifs mais aussi pour le changement climatique : les effets les plus importants ne se feront sentir que dans 100 ou 200 ans. Il reste difficile de faire prendre conscience que le changement climatique est déjà une urgence. Nous avons naturellement tendance à nous soucier davantage des personnes que nous connaissons déjà plutôt que de celles que nous ne connaissons pas encore.
Cela influence également la politique.
Tout à fait, les gouvernements ne prennent généralement pas suffisamment au sérieux les risques existentiels. Il est peu probable que ces risques se concrétisent, et encore moins probable qu’ils se concrétisent pendant leur mandat. Nous devons néanmoins nous y préparer. En effet, bon nombre de ces risques deviennent chaque année plus probables et leurs conséquences seraient désastreuses.
Comment y remédier ?
Nous devrions essayer de devenir de bons ancêtres et prendre conscience de ce que les générations précédentes ont accompli pour nous. Nous savons aujourd’hui que la Terre existera encore pendant plusieurs milliards d’années. Au Moyen Âge, les bâtisseurs de cathédrales pensaient que le monde disparaîtrait dans quelques siècles. Ils ont néanmoins érigé des édifices qui n’ont été achevés qu’après leur mort. Aujourd’hui, il nous est plus difficile de planifier à long terme. En seulement cinquante ans, nos technologies et nos vies peuvent changer du tout au tout.
Revenons au présent : vous ne voyez donc aucune menace à court terme dans les déchets radioactifs ?
À court terme, les déchets radioactifs ne représentent pas une menace globale. Le danger principal réside dans l’exposition locale aux radiations. Toutefois, des installations insuffisamment sécurisées pourraient être ciblées par des actes terroristes. Les déchets radioactifs constituent ainsi un risque permanent, qui ne devrait pas faiblir dans les décennies à venir.
Où vous situez-vous dans cette guerre de croyances : la technologie est-elle notre salut ou notre perte ?
Je pense que le battage médiatique autour du fait que l’IA deviendra bientôt surhumaine et « prendra le contrôle » est exagéré. Mais je m’inquiète de notre dépendance excessive à l’égard de systèmes fragiles et interconnectés à l’échelle mondiale. Si ceux-ci tombent en panne, que ce soit à cause d’une défaillance ou d’une cyberattaque, l’économie mondiale et l’ordre social pourraient être ébranlés en quelques jours. Ce qui est particulièrement délicat, c’est que ces développements sont portés par quelques entreprises très puissantes. C’est pourquoi il faut des gouvernements qui les réglementent et les surveillent.
La régulation de l’IA peut-elle vraiment fonctionner ? Prenons l’exemple du développement des systèmes d’armes autonomes : il pourrait y avoir 192 pays qui adoptent une régulation, il suffit qu’un seul pays fasse cavalier seul pour en compromettre l’efficacité.
C’est effectivement un grand défi. Je considère qu’un consensus international, comme celui qui a été recherché pour le changement climatique, est la meilleure solution. Si un État s’en écarte, il faut exercer une pression internationale et menacer de sanctions. Nous ne pouvons guère faire plus.
Il est incontestable que l’IA va profondément transformer notre quotidien au cours de la prochaine décennie. Comment devrions-nous utiliser cette technologie ?
Elle présente de nombreux avantages : une IA peut analyser 30 000 radiographies, soit bien plus qu’un médecin au cours de toute sa carrière, et détecter un cancer du poumon avec plus de précision. Dans le domaine des prévisions météorologiques, en exploitant des décennies de données météorologiques liées à la couverture nuageuse, l’intelligence artificielle parvient à prédire les tempêtes avec une précision que les simulations traditionnelles ne peuvent égaler. Nous devons tirer parti de ces avantages, mais sans négliger les risques, comme celui d’un effondrement des systèmes.
Vous l’évoquez : l’IA va transformer le monde du travail et bouleverser profondément le marché de l’emploi.
Oui, l’IA entraînera la disparition de certains postes. Les centres d’appels et les bureaux auront besoin de moins de personnel. C’est inévitable. Au lieu d’essayer d’arrêter cette évolution, nous devrions la rendre socialement acceptable. Il est essentiel que nous taxions les entreprises spécialisées dans l’IA et que nous aidions les personnes qui perdent leur emploi. Sinon, nous risquons non seulement des bouleversements économiques, mais aussi des tensions sociales croissantes.
Compte tenu de ces changements, vers quel métier les jeunes devraient-ils se tourner ?
Les métiers qui résistent le mieux à l’automatisation ainsi que ceux qui ont une utilité sociale évidente, comme la médecine, l’enseignement ou le droit. D’autres professions, telles que plombier·ère ou jardinier·ère, conservent également toute leur importance. Les activités reposant sur une interaction humaine directe, notamment les soins aux personnes âgées ou le travail social, sont peu susceptibles d’être remplacées par l’IA. Et bien sûr, il restera toujours essentiel que des humains supervisent, interrogent et encadrent le développement de l’IA elle-même.
Et quelle profession déconseilleriez-vous ?
Les professions basées sur le codage.
Une compétence qui, il y a dix ans, était encore considérée porteuse d’avenir.
Oui.
De nombreuses certitudes sont actuellement remises en question : depuis 2020, nous avons connu une pandémie, une guerre a éclaté en Europe, et maintenant l’IA.
Beaucoup avaient une vie meilleure autrefois – nous vivions dans de petites communautés et connaissions notre médecin, notre enseignante, etc. Mais nous devons accepter que le changement est réel. Il facilite bien des choses, mais menace aussi la cohésion de notre société. Ce qui me préoccupe profondément, c’est que, via Internet et les réseaux sociaux, chacun a accès à la communication et à la propagande. Cette dynamique accentue les clivages sociaux et alimente les mouvements populistes. Toutefois, l’histoire nous enseigne que les vagues d’innovation technologique tendent à perdre de leur intensité avec le temps.
Que voulez-vous dire ?
L’aéronautique en est un bon exemple : entre le premier vol transatlantique et le Boeing 747, il ne s’est écoulé que cinquante ans, et depuis, il y a eu peu de progrès. Et le Concorde, l’avion supersonique, a même disparu. Ce schéma montre que tout ne continue pas à croître de manière exponentielle.
Vous vous occupez jour après jour de scénarios catastrophes. Pourtant, vous souriez et semblez détendu. Comment faites-vous pour ne pas devenir paranoïaque et voir la fin du monde partout ?
J’essaie de garder un certain équilibre. Une grande partie des menaces que nous évoquons pourraient ne jamais se réaliser, et nous avons les moyens d’en atténuer certaines. Ce qui devrait non pas nous faire sombrer dans la paranoïa mais plutôt nous déprimer, c’est l’écart croissant entre le monde tel qu’il est et celui qu’il pourrait être. Les tragédies que nous observons au Soudan, à Gaza et ailleurs en sont le reflet poignant.
Certains affirment également que le monde ne cesse de progresser.
Oui, Steven Pinker a par exemple écrit un livre dans lequel il explique que beaucoup de choses se sont améliorées : l’espérance de vie, le taux d’alphabétisation, la diminution de la violence. Mais il sous-estime les nouveaux risques qui nous menacent et qui sont souvent négligés.
Les statistiques donnent raison à Pinker.
J’ai moi-même discuté publiquement avec lui à ce sujet : dans une certaine mesure, il a raison. Pinker soutient que non seulement le monde progresse, mais que notre sens de l’éthique s’élève également. Pour ma part, je ne partage absolument pas cet avis : je ne perçois aucun véritable progrès en matière d’éthique à l’échelle mondiale.
Pouvez-vous développer ?
Lorsque l’on se penche sur le Moyen Âge et sur ceux qui bâtissaient les cathédrales, on constate que leur existence était rude et souvent marquée par la précarité. Pourtant, le décalage entre ce qu’ils vivaient et ce qu’ils pouvaient espérer était relativement faible, car les possibilités de transformation étaient limitées. Aujourd’hui, en revanche, nous disposons de la technologie nécessaire pour permettre à tous de mener une vie agréable. Le fait qu’il y ait encore tant de guerres, d’inégalités et d’obstacles ne tient pas à nos capacités, mais à la politique et à l’économie. C’est une bonne raison d’être déprimé.
Êtes-vous du genre à aimer le risque ou à l’éviter ?
Je me qualifierais plutôt de prudent. Je mène une vie confortable et tranquille, sans rechercher les sensations fortes ou pratiquer des activités sportives à haut risque comme l’alpinisme.
Il semble que vous ne soyez pas le seul. La propension au risque semble globalement diminuer. Nous assurons tout ce qui peut l’être, et même les risques liés aux loisirs sont calculés avec rigueur. Partagez-vous cette impression ?
C’est vrai. Il y a certes des gens qui font des choses très dangereuses et qui y trouvent satisfaction, mais ce n’est pas nécessaire pour mener une vie épanouie. Au contraire, c’est une bonne chose que l’on puisse aujourd’hui vivre sans être contraint de prendre des risques extrêmes. Les personnes en détresse sont parfois contraintes de prendre des routes périlleuses, comme celles qui tentent actuellement de traverser la Manche à bord d’embarcations de fortune.