X-Risiken und das Schicksal der Menschheit

DH Die Erforschung der „X-Risiken“ – der Faktoren, die dazu führen könnten, dass die Menschheit fast oder gänzlich ausstirbt – ist für Sie sehr zentral geworden. Sie haben schon früher darüber geschrieben. Viele dieser Risiken hat es immer gegeben, z. B. Vulkane und Erdbeben; andere sind relativ neu, z. B. Umweltverschmutzung und Kernwaffen. Warum haben Sie und Ihre Kollegen das Centre for the Study of Existential Risks erst 2012 gegründet?

MR In den letzten Jahrzehnten haben sich zwei Dinge geändert. Erstens kommen die größten Gefahren für uns nicht mehr aus der Natur – Asteroiden, Erdbeben und dergleichen. Heute sind es die Folgen menschlichen Handelns. Wir haben ein neues Zeitalter erfunden, das Anthropozän, in dem die Zukunft unseres Planeten mehr von dem abhängt, was wir kollektiv und individuell tun, als von der Natur selbst. Die erste Manifestation war wohl das Atomzeitalter; da hätten wir während des Kalten Krieges (irrtümlich oder absichtlich) in ein reales Armageddon stolpern können, mit Zehntausenden von abgefeuerten Kernwaffen. Heute sind wir also in einer Situation, wo uns die Kehrseiten unserer eigenen Technologien gefährden.

Die zweite Veränderung ist: Wir leben in einer globalen, vernetzten Welt; deshalb ist es unwahrscheinlich, dass ein großer Teil der Welt verwüstet wird, ohne dass der Rest der Welt davon betroffen ist. Es ist nicht wie in früheren Jahrhunderten, als es in einer Region eine lokale Katastrophe geben konnte, die keinerlei Auswirkungen auf den Rest der Welt hatte. Wir sind vernetzter und anfälliger.

DH Francis Bacon hat in New Atlantis ein wissenschaftliches Utopia beschrieben. Ich frage mich, was er zum Anthropozän sagen würde. Hat die Naturwissenschaft in dieser Hinsicht versagt?

MR Ich würde auf keinen Fall sagen, dass die Naturwissenschaft versagt hat. Ich meine, wir leben heute weit besser als jede Generation vor uns, und ohne die technischen Fortschritte könnten wir den 7,3 Milliarden Menschen, die heute auf diesem Planeten leben, mit Sicherheit kein irgendwie geartetes Leben ermöglichen. Aber wir müssen beachten, dass es auch negative Seiten gibt. Es steht immer mehr auf dem Spiel. In den kommenden Jahrzehnten wird es darauf ankommen, die Vorteile der spannenden neuen Entwicklungen nutzbar zu machen – insbesondere der Biotechnologie und der künstlichen Intelligenz – und die Nachteile zu vermeiden.

DH Wie trägt künstliche Intelligenz (KI) Ihrer Meinung nach zu einer besseren Zukunft bei?

MR Wir haben enorm von der Informationstechnik profitiert. Dass jemand mitten in Afrika Zugang zu Informationen aus aller Welt hat und wir alle miteinander in Kontakt stehen – das ist etwas Wunderbares. Aber wenn man weiter vorausschaut, fragt man sich, ob KI etwas erreichen wird, das menschlicher Intelligenz nahekommt, und das wirft weitere Fragen auf. Maschinen und Roboter übernehmen immer mehr Segmente des Arbeitsmarkts. Dabei handelt es sich nicht nur um Fabrikarbeit: Auch routinemäßige Buchhaltung, medizinische Diagnostik und Chirurgie, sowie Aufgaben von Juristen werden von ihnen übernommen. Mit am schwersten zu automatisieren sind ironischerweise die Arbeiten von Klempnern und Gärtnern. Um angesichts dieser Entwicklungen eine anständige Gesellschaft zu verwirklichen, muss es eine massive Umverteilung von Wohlstand geben, sodass das Geld – das sozusagen von den Robotern verdient wird – dazu verwendet wird, in gewaltigem Umfang würdige, gut bezahlte, sichere Arbeitsplätze in der Alten- und Kinderpflege, diese Art von Arbeitsplätzen für Menschen im öffentlichen Sektor zu finanzieren.

DH Der Biologe E. O. Wilson hat gesagt, dass wir dabei sind, die Biosphäre niederzureißen und dass dies nicht mehr zu ändern sein wird, wenn wir nicht schleunigst etwas dagegen unternehmen. Ist der Zusammenbruch der Biosphäre das kritischste Risiko, das Sie sehen?

MR Ich denke, das ist etwas, wofür wir in besonderer Weise verantwortlich sind, denn, wie E. O. Wilson selbst gesagt hat, wenn menschliches Handeln zu massenhaftem Artensterben führt, ist das die Sünde, die uns die kommenden Generationen am wenigsten vergeben werden, denn es wird einen unwiederbringlichen Verlust an Artenvielfalt bedeuten. Das ist eine ethische Frage: Wie viel bedeutet uns das? Viele Umweltschützer denken, dass der Wert der Natur über das hinausgeht, was sie für uns Menschen bedeutet, doch sie bedeutet eine Menge für uns. Wenn die Fischbestände schrumpfen und aussterben oder wir die Regenwälder abholzen, verlieren wir vielleicht ihren Nutzen für Menschen. Aber das ist nicht alles. Wir sollten die Erhaltung unserer Artenvielfalt sicherlich als einen davon unabhängigen ethischen Imperativ sehen.

„Wenn menschliches Handeln zu massenhaftem Artensterben führt, ist das die Sünde, die uns die kommenden Generationen am wenigsten vergeben werden, denn es wird einen unwiederbringlichen Verlust an Artenvielfalt bedeuten.“

DH Sie haben gesagt, die Chancen stehen 50 : 50, dass wir es bis zum Ende dieses Jahrhunderts schaffen. Worauf basiert diese Berechnung?

MR Nun, wir können es nicht wirklich berechnen, aber ich würde mit Sicherheit davon ausgehen, dass wir mindestens ein Risiko von 50 % haben, zwischen heute und dem Ende des 21. Jahrhunderts einen schweren Rückschlag für unsere Zivilisation zu erleben, verursacht durch den kollektiven Druck von neun oder zehn Milliarden Erdbewohnern oder, noch wahrscheinlicher, einen Zusammenbruch infolge des Missbrauchs dieser immer mächtigeren Technologien durch kleine Gruppen – irrtümlich oder absichtlich.

DH Aber Ihre Schriften machen auf mich den Eindruck, dass Sie eigentlich ein Optimist sind.

MR Ich bin insofern ein technischer Optimist, aber ein politischer Pessimist, als ich denke, dass die Fortschritte in Technik und Naturwissenschaft enorm nützlich sind; wir werden nicht durch das Jahrhundert kommen, indem wir sie nicht nutzen. Wir müssen diese Technologien entwickeln, aber wir müssen uns der Tatsache bewusst sein, dass sie umso größere negative Potenziale haben, je mächtiger sie werden. Sie machen es vor allem möglich, dass das Handeln kleiner Personengruppen, sogar einzelner Personen, weltweite Auswirkungen haben kann. Ich sage gern, dass es in einem globalen Dorf auch Dorfidioten gibt, deren idiotischen Taten globale Auswirkungen haben. Es wird eine neue Herausforderung für Regierungen sein, sicherzustellen, dass wir die Spannung zwischen Privatsphäre, Sicherheit und Freiheit ausbalancieren können, wenn ein paar Leute derart katastrophale weltweite Schäden anrichten können, zusätzlich zu den Risiken infolge unseres kollektiven Einwirkens auf die Erde.

DH Ein Autor, der sich ebenfalls mit Existenzrisiken auseinandergesetzt hat, nennt die Selbsttäuschung als weiteres schwerwiegendes Problem. Im Angesicht existenzieller Risiken erlauben wir uns, zu glauben, die Naturwissenschaft werde immer eine Lösung finden und „ich muss mir darüber nicht den Kopf zerbrechen“. Machen wir uns da etwas vor?

MR Es stimmt mit Sicherheit, dass wir uns weigern, wahrzunehmen, was uns betrifft – insbesondere diese Risiken, die so katastrophal sein könnten, dass schon ein einmaliges Ereignis einmal zu viel ist. Hinzu kommt, dass man sich als einzelner Mensch hilflos fühlt. Man weiß nicht, was man tun kann. Und deshalb, meine ich, ist es sehr wichtig, dass wir unsere Politiker damit nicht in Ruhe lassen. Angesichts des Drucks von kurzfristigen Problemen ist es für Politiker schwer, sich auf langfristige, globale Themen zu konzentrieren. Politiker werden davon beeinflusst, was in der Presse steht und was in ihrem Posteingang zu finden ist. Deshalb sind wir als Wissenschaftler dafür verantwortlich, sicherzustellen, dass die besten wissenschaftlichen Ideen in den politischen Prozess eingebracht werden.

DH Wenn es um Lösungen für X-Risiken geht, haben Sie und Ihre Kollegen sich vorgenommen, das Beste aus Physik, Computerwissenschaft und Philosophie zusammenzubringen. Ich fand es interessant, dass die Philosophie darunter war; für die Natur- und die angewandten Wissenschaften ist das ungewöhnlich.

MR Ich denke, wir brauchen die Sozialwissenschaften und geisteswissenschaftliche Erkenntnisse selbstverständlich ebenso wie die Naturwissenschaften. Ein einfaches Beispiel: Selbst in Entwicklungsländern hat in einer Großstadt jeder ein Mobiltelefon. Wird eine potenzielle Epidemie dadurch noch schlimmer oder besser? Mobiltelefone können Panik und Gerüchte verbreiten. Aber sie können auch guten Rat verbreiten. Hier werden die Sozialwissenschaften gebraucht, um zu sehen, wie wir die Auswirkungen von Katastrophen minimieren können. Eine andere Frage, die mich sehr beschäftigt: Wenn es zu einer natürlichen Epidemie käme, befürchte ich, dass selbst bei nur einem Erkrankten pro tausend Einwohnern ein sozialer Störfall einträte, weil die Krankenhäuser überlastet wären. Im Mittelalter waren die Menschen fatalistisch; ein Drittel der Bevölkerung starb, der Rest lebte weiter wie zuvor. Wenn die Krankenhauskapazitäten heute überlastet werden, was in den USA ganz bestimmt der Fall ist, fürchte ich, könnte es einen schlimmen sozialen Störfall geben. Und das ist ein Thema für die Sozialwissenschaften.

DH H. G. Wells hat geschrieben, dass es keinen Weg zurück in die Vergangenheit gibt. Wir haben die Wahl: das Universum oder nichts. Stimmen Sie ihm zu? Wie kommen wir durch den existenziellen Engpass, den Sie angesprochen haben?

„Ich habe keine Lösungen. Ich denke in der Tat, dass die Fahrt durch dieses Jahrhundert holprig wird.“

MR Ich habe keine Lösungen. Ich denke in der Tat, dass die Fahrt durch dieses Jahrhundert holprig wird. Es gibt Vermutungen, dass H. G. Wells meinte, wir könnten weitermachen und neue Kolonien im Weltraum einrichten. Ich habe recht viel über die langfristige Zukunft der Spezies Mensch nachgedacht und glaube, wir werden dazu in der Lage sein, die Menschen mithilfe von Cyborg- und Genkorrekturtechniken zu modifizieren, sie im Endeffekt umzugestalten. Ich glaube, wir werden versuchen, all diese Techniken auf der Basis von Achtsamkeit und Ethik zu regulieren, aber wir werden bei dieser Regulierung nicht viel ausrichten, denn was getan werden kann, wird irgendwo und von irgendwem auch getan. Es ist nicht wie vor 40 Jahren, als die ersten Wissenschaftler, die mit rekombinanter DNS arbeiteten, sich zusammensetzten, um Leitlinien zu beschließen. Sie einigten sich auf ein Moratorium und hielten sich daran, aber heute ist das Unternehmen global, unterliegt einem starken kommerziellen Druck, und den Einsatz dieser neuen Technologien tatsächlich zu kontrollieren ist meines Erachtens ebenso aussichtslos, wie die globale Einhaltung der Arzneimittel- oder Steuergesetze zu kontrollieren. Was das betrifft, bin ich also sehr pessimistisch.

Es ist auch davon die Rede, von der Erde aus den Mars oder andere Himmelskörper zu besiedeln. Ich bin kein großer Fan der bemannten Raumfahrt, denn der praktische Nutzen wird immer weniger plausibel, je besser die Roboter werden. In der feindlichen Umgebung des Weltraums werden Roboter als Hersteller und Erkunder das Mittel sein, mit dem wir tatsächlich dort Dinge bauen und den Raum erkunden. Wenn Menschen ins All fliegen, wird das nur zum Zweck des Abenteuers sein – so, wie Menschen zum Südpol reisen oder den Mount Everest besteigen. Es ist eine gefährliche Selbsttäuschung, zu denken, dass es je eine Siedlergemeinschaft auf dem Mars geben wird, die den Problemen der Erde entkommt. Ein „Planet B“ ist keine Option. Aber es wird – meiner Ansicht nach bis zum Ende des Jahrhunderts – eine kleine Gemeinschaft von exzentrischen Pionieren geben, die (wahrscheinlich) auf dem Mars leben. Sie werden außerhalb der Reichweite aller Regulierungen sein, die auf der Erde für Cyborgs und Biotechnik gelten. Zudem werden sie jeden denkbaren Anreiz haben, ihre Nachkommen an diese überaus feindliche Umwelt anzupassen, an die der Mensch absolut nicht angepasst ist.

DH Werden sie ihre menschliche Natur mitnehmen, frage ich mich?

MR Nun, die menschliche Natur ist eindeutig sehr formbar; wir tun uns schwer, die Einstellungen und Belange früherer Generationen zu verstehen. Die menschliche Natur könnte sich also wirklich verändern. Hoffen wir, dass sie dies auf eine Weise tun wird, die es ermöglicht, dass sich eine kooperative Gesellschaft entwickelt. Auf ganz lange Sicht – das wird uns klar, wenn wir unsere Science-Fiction lesen – werden wir vielleicht nicht eine Zivilisation haben, sondern ein einziges, riesiges Bewusstsein. Selbst H. G. Wells hat darüber nachgedacht.

DH Nach Hiroshima und Nagasaki sagte Einstein den berühmten Satz: „Es ist einfacher, Plutonium zu denaturieren, als das Böse in der Natur des Menschen unschädlich zu machen“. Was tun wir, um den Existenzrisiken zu begegnen, die mit der menschlichen Natur einhergehen?

MR Ich denke, das ist sehr schwer. Wir haben im Moment natürlich Sorgen, die insbesondere von religiösem Extremismus kommen. Man kann hoffen, dass sich diese Situation mit der Zeit abschwächt. Außerdem ist es Aufgabe der Politiker, eine Gesellschaft zu fördern, die Chancen für Missstände und Anlässe für legitimen Protest minimiert. Mit fortgeschrittener Technik wird eine enttäuschte Minderheit natürlich künftig mehr Handlungsmöglichkeiten haben. Das ist ein noch stärkerer Anreiz, die Art von fairer Gesellschaft mit mehr Gleichberechtigung zu haben, die viele von uns ohnehin wollen – denn sonst wird es mit deutlich höherer Wahrscheinlichkeit zu schweren Zerrüttungen kommen.

DH Das anthropische Prinzip besagt, dass das Universum auf den Menschen ausgerichtet geschaffen wurde. Nun befassen Sie sich mit den Vor- und Nachteilen des Anthropozäns – des Zeitalters, in dem der Mensch der bestimmende Einflussfaktor ist. Worin besteht die Beziehung zwischen den beiden, falls es eine gibt?

MR Eine Frage, die wir Astronomen uns stellen, ist, ob es woanders Leben gibt – vielleicht sogar Lebensformen wie uns –, denn wir haben, hauptsächlich in den letzten zehn Jahren, die wichtige Entdeckung gemacht, dass die meisten Sterne, die wir am Himmel sehen, von einer Schar von Planeten umkreist wird – so wie die Sonne von der Erde und den anderen bekannten Planeten. Das macht das Universum wesentlich interessanter und wirft die Frage auf, wie wichtig Leben im Universum ist. Innerhalb von zehn Jahren wird es ausreichend gute Beobachtungen von einigen der erdähnlichen Planeten in den Umlaufbahnen anderer Sterne geben, um eine Vorstellung davon zu haben, ob sie Biosphären haben. Wir werden – wohl in den nächsten zehn oder 20 Jahren – etwas darüber wissen, wie verbreitet eine Art Leben im Universum ist. Und das wirft eine ganz eigene Frage auf: Gibt es da intelligentes oder entwickeltes Leben, denn es ist ein großer Unterschied, ob man sagt, dort gibt es eine Art Biosphäre, oder ob man sagt, dort gibt es eine Art intelligentes, technologisches Leben. Es wäre eine enorme Entdeckung, wenn wir etwas Künstliches feststellen könnten; das würde darauf hindeuten, dass Vorstellungen von Logik und Physik nicht ausschließlich in der feuchten Hardware von Menschenschädeln entstehen können.

Wir befinden uns in diesem riesigen Universum, wo es hundert Milliarden Galaxien gibt, jede mit hundert Milliarden Sternen, von denen wiederum viele erdähnliche Planeten um sich herum haben werden. Wir sind der Auffassung, dass dieser riesige Raum von grundlegenden Gesetzen der Physik beherrscht wird und zudem von Gesetzen, die überall dort, wo unsere Beobachtung hinreicht, die gleichen zu sein scheinen. Wenn wir das Spektrum des Lichts aus einer fernen Galaxie nehmen, können wir daraus ableiten, dass die Atome dort genauso sind wie die Atome hier auf der Erde. Die Schwerkraft ist dieselbe. Aber das hat zu einer anderen Entwicklung geführt, die eine zweite kopernikanische Wende sein könnte, denn es gibt keinen Grund, zu denken, dass das beobachtbare Universum, so riesig es auch ist, die Gesamtheit der physischen Realität darstellt. Und deshalb besteht die Möglichkeit, dass es jenseits dessen, was wir sehen können, noch viel mehr Raum gibt. Obgleich die Gesetze der Physik innerhalb der Region, die wir beobachten können, universal sind, bleibt es ausgehend von der Annahme, dass diese riesige Region nur einen winzigen Teil der physischen Realität darstellt, vorstellbar, dass andere Teile dieser umfassenderen physischen Realität anderen Gesetzen der Physik gehorchen. Wir wissen es aber nicht. Aber ich würde hoffen, dass wir in 50 Jahren fähig sind, unter anderem folgende Fragen anzugehen: Umfasst die physische Realität nur einen Urknall oder viele? Umfasst sie Bereiche, in denen sich die Gesetze der Physik von denen auf der Erde unterscheiden?

DH In einem aktuellen Artikel, den ich gelesen habe, kam mir Jaan Tallinn, einer Ihrer CSER-Mitbegründer, ein wenig abfällig vor, als er sagte, Philosophen gäben ständig Unsinn von sich und man bräuchte mathematische Modelle, um ihre Ahnungen auf das zu reduzieren, was man testen kann. Gibt es im CSER Raum für die großen philosophischen und/oder religiösen Traditionen?

MR Ich denke schon. Ein Thema ist, in welchem Maß wir die Rechte künftiger und noch nicht geborener Generationen berücksichtigen sollten. Das ist eine große philosophische Frage. [Der englische Moralphilosoph] Derek Parfit hat berühmte Schriften darüber verfasst – neben anderen. In welchem Maß man das Wohl noch nicht geborener Menschen berücksichtigt, ist natürlich eine ethische Frage.

Eine weitere Frage stellt sich im Kontext der KI. Wenn wir tatsächlich Maschinen haben, die mit mehr und mehr menschlichen Fähigkeiten ausgestattet sind (was ich für sicher halte – bedenken Sie, dass wir seit 40 Jahren Maschinen haben, die besser rechnen können als wir), in welchem Maß werden wir sie dann als Zombies sehen oder werden sie ein Bewusstsein haben? Eine große philosophische Frage ist auch, ob Bewusstsein ein Emergenzphänomen ist, das ab einem bestimmten Komplexitätsgrad eintritt, oder ob es eine spezielle Eigenschaft der besonderen feuchten Hardware ist, die wir, Menschenaffen und Hunde haben. Das ist eine sehr wichtige Frage an der Schnittstelle zwischen Computerwissenschaft und Philosophie. Um es ein wenig trivial auszudrücken: Wenn wir einen Roboter haben, der ziemlich humanoid wirkt, müssen wir uns dann Gedanken machen, ob er arbeitslos ist oder sich langweilt? Immerhin machen wir uns ja Gedanken über Menschen, die ihr Potenzial nicht ausleben können. Selbst bestimmte Tierarten sollen unserer Überzeugung nach ein naturgemäßes Leben führen können. Werden wir also anfangen, so über diese Maschinen zu denken? Das ist eine ethische und philosophische Frage.

DH Gibt es einen evolutionären Selektionsdruck, der die Menschen von der Art Sabotage der Zivilisation, über die Sie gesprochen haben, abhalten kann?

„Die darwinsche Selektion gilt heute nicht für Menschen. Wir halten Menschen am Leben, und wenn Selektion stattfindet, ist sie künstlich und sozusagen geplant.“

MR Nun, ein wichtiger Punkt ist: Die darwinsche Selektion gilt heute nicht für Menschen. Wir halten Menschen am Leben, und wenn Selektion stattfindet, ist sie künstlich und sozusagen geplant. In der Zukunft wird es möglich sein, durch Genmanipulation den Körper und die Persönlichkeit von Menschen zu verändern, und das wird ein großes Thema sein. Welche Art Menschen wollen wir haben? Wollen wir diese Techniken überhaupt erlauben? Und sollte das einer Elite erlaubt sein, wenn nicht alle Zugang dazu haben? Mein Bauchgefühl sagt mir, dass wir versuchen sollten, dies auf der Erde zu beschränken und zu regulieren, aber wenn es auf dem Mars ein paar Irre gibt, dann sollten wir ihnen viel Glück bei der Entwicklung einer neuen Spezies wünschen.

DH Wenn man an die Makro- und die Mikroaspekte unserer Existenz denkt, an das Ausmaß des Universums und an die neuesten Ergebnisse vom Großen Hadronen-Speicherring [einem Teilchenbeschleuniger im Genfer CERN], ist es großartig, was wir heute verstehen können.

MR Aber das wichtige Element, das wir noch nicht haben, ist natürlich die Theorie, die das sehr Große und das sehr Kleine unter einen Hut bringt; um die Natur des Raums selbst zu verstehen, brauchen wir die aber. Eine solche Theorie kann man nur indirekt testen, denn dabei wird man sich auf die Berechnung von Folgen stützen müssen, die sich innerhalb der beobachtbaren Welt oder der experimentellen Größenordnung bewegen, und wenn wir keine Folgen haben, die wir validieren können, werden wir diese Theorien niemals ernst nehmen. Im Moment gibt es massenweise Theorien, doch keine von ihnen ist in dieser Weise feuererprobt. Ich denke, es herrscht Einigkeit darüber, dass der entscheidende Maßstab sehr winzig ist. Solange wir keine Theorie haben, die diesen Maßstab erfasst, werden wir die ganz frühen Stadien des Urknalls nicht verstehen – und wir werden die Natur des Raums selbst auf der tiefsten Ebene nicht verstehen.

DH Hat Einstein deshalb den Ausdruck „spukhaft“ gebraucht?

MR Nun, er empfand die gesamte Quantentheorie als spukhaft. Der springende Punkt ist: Wir sollten nicht überrascht sein, dass das spukhaft ist. Ich würde sagen, es ist ziemlich bemerkenswert, dass wir tatsächlich so viele Fortschritte darin gemacht haben, etwas von der Quantenwelt zu verstehen (sodass auf ihr sogar unsere Technologie beruht) und etwas über den Kosmos zu verstehen, aber ich meine, wir müssen bedenken, dass es tiefere Ebenen der Realität geben kann, die unser Gehirn ebenso wenig begreifen kann wie ein Affe die Quantentheorie.