Alles tanzt nach dem Algorithmus

Algorithmen sagen uns, was wir ansehen, kaufen, teilen und anziehen sollen. Sie können unsere Vorlieben bei Dates und bei Wahlen korrekt voraussagen, unsere sexuelle Orientierung und unsere Angewohnheiten – die guten wie die schlechten. Das muss man sich einmal vorstellen. Mathematik-Schrittchen an vielen Stellen unseres Erlebens; sie laufen wie ein Uhrwerk, ungesehen, und bestimmen mit, wie wir die Welt erleben. Ihre ständig wiederholte Aktivität, Tag und Nacht, kann beginnen, ziemlich unheimliche Konnotationen zu wecken: ein unhörbarer, aber unablässiger Trommelschlag, der uns nach dem Takt ihrer Schöpfer tanzen lässt, ohne dass wir es merken.

Woher kommen Algorithmen? Was könnte uns ihr Wesen über unser eigenes Wesen sagen – und darüber, was das für die Zukunft bedeutet?

„Ich denke, was man feststellen wird, ist, dass die Algorithmen vor allem die Wünsche der Menschen selbst zum Vorschein bringen, im Guten wie im Bösen.“

Die Herkunft des Algorithmus

Weil man Algorithmen nicht sehen kann, ist ihr wachsender Einfluss auf Entscheidungsprozesse bisher möglicherweise wenig bemerkt worden. Auch hält man sie wahrscheinlich für ein modernes Phänomen.

Der Grundgedanke stammt jedoch aus der Antike. Um 300 v. Chr. entwickelte der griechische Mathematiker Euklid das, was heute als „euklidischer Algorithmus“ bezeichnet wird. Der Begriff selbst entstand im achten oder neunten Jahrhundert n. Chr. in Bagdad. Algorithmus ist eigentlich ein Eponym, ein Wort, das nach einer Person benannt wurde:in diesem Fall nach einem bedeutenden persischen Universalgelehrten namens Abu Dschaʿfar Muhammad ibn Musa al-Chwārizmī (ca. 780–850). Als Direktor des Hauses der Weisheit in Bagdad interessierte er sich für Mathematik, Astronomie, Astrologie, Geografie und Kartografie.

Al-Chwārizmī schrieb das Buch Über die indische Kunst des Rechnens, in dem er dafür eintrat, im Abendland die römischen Ziffern durch das indisch-arabische Zahlensystem (einschließlich Dezimalpunkt bzw. -komma und der Ziffer Null als Platzhalter) zu ersetzen. Heute wird dieses System nicht nur in der westlichen, sondern in der gesamten Welt verwendet.

Vor etwa 900 Jahren wurde dieses Buch aus dem Arabischen ins Lateinische übersetzt. Ein Übersetzer machte aus dem Namen al-Chwārizmī das mehr nach Latein klingende Algoritmi, und davon wurde Algorithmus abgeleitet. Auch das Wort Algebra verdankt die Welt al-Chwārizmī; es ist der Titel eines anderen Buches von ihm.

Über al-Chwārizmī selbst ist wenig bekannt, trotz seines anhaltenden Einflusses. In mindestens einem seiner Bücher präsentiert er sich als frommer Muslim, doch erstellte er Horoskope, was besser zum Zoroastrismus gepasst hätte. Vielleicht wuchs er als Zoroastrier auf; mit Sicherheit lebte er in einer Zeit, in der Bekehrungen von dieser Religion zum Islam häufig vorkamen.

Ein Bericht des mittelalterlichen persischen Geschichtsschreibers Abū Dschaʿfar Muhammad ibn Dscharīr at-Tabarī könnte die Möglichkeit zoroastrischer Einflüsse stützen. Er gibt al-Chwārizmī den Beinamen „al-Majusi“ – der Magus. Von diesem Wort stammen Magie/Magier/magisch ab. Magi befassten sich mit Astronomie und Astrologie. Der Titel wurde spezifisch als ethnische Bezeichnung für einen praktizierenden Priester der Zoroaster-Religion verwendet. Über at-Tabarīs isolierten Verweis herrscht in der Wissenschaft Uneinigkeit; einige halten ihn für glaubhaft, andere sind fest davon überzeugt, dass es sich um einen Übertragungsfehler handelt. Kein Zweifel herrscht jedenfalls daran, dass al-Chwārizmī wie die zoroastrischen Magi Astrologie praktizierte.

Beachtenswert ist auch, dass Zoroastrier glaubten, der höchste, transzendente Schöpfergott Ahura Mazda („weiser Herr“ oder „Herr der Weisheit“) wirke durch Emanationen als erste Ursache einer spezifisch sequenziellen Schöpfung. S. A. Nigosian, der über Weltreligionen forscht, schreibt: „Alles folgt der Sequenz, die er von Anbeginn bestimmt hat.“

All dies ist insofern interessant, als solche zoroastrischen Einflüsse bei al-Chwārizmīs Beschreibung von Algorithmen als mathematische Sequenzen eine Rolle gespielt haben könnten.

Der Weg zur Allgegenwart

Angesichts der seismischen Auswirkungen von al-Chwārizmīs Mathematik auf das Abendland ist es erstaunlich, dass nicht in weiteren Kreisen über ihn gesprochen wurde, obgleich das Wort, dem er seinen Namen gab, allmählich geläufig wurde. In mittelalterlichem Latein bedeutete algorismus das dezimale Zahlensystem. Im 13. und 14. Jahrhundert tauchte das Wort wieder auf, u. a. in den Werken Chaucers.

Bis zum 19. Jahrhundert war Algorithmus eine Abfolge von Regeln zur Lösung einer Aufgabe. 1936 entwickelte der britische Mathematikpionier Alan Turing die Theorie, dass eine Maschine Schritt-für-Schritt-Anweisungen ausführen und damit hochkomplizierte mathematische Aufgaben lösen könnte. Turing, der neben Konrad Zuse heute als einer der Väter des Computers bekannt ist, baute dann die „Bombe“, eine algorithmusbasierte Maschine, die im Zweiten Weltkrieg erfolgreich die Enigma-Codes der Nationalsozialisten knackte.

Seither verbindet man Algorithmen hauptsächlich mit Computern. Marcus du Sautoy, Professor für Mathematik an der Oxford University, weist darauf hin, dass eine ihrer Hauptfunktionen im Zusammenhang mit Rechnern darin besteht, Daten zu sortieren und neu zusammenzusetzen.

Ihr Einsatzgebiet ist allerdings viel breiter. Du Sautoy bezeichnet sie sogar als „das Geheimnis unserer digitalen Welt“ und erklärt: „Das Wesen eines wirklich guten Algorithmus, seine Magie, wenn man so will, ist Mathematik.“ Er beschreibt sie als „auf seltsame Weise schön, aus der mathematischen Ordnung schöpfend, die dem Funktionieren des Universums zugrunde liegt“.

„Algorithmen sind überall. Diese häppchengroßen Stücke Mathematik sind aus unserem Alltag nicht mehr wegzudenken. Aber weil sie unsichtbar sind, halten wir sie leicht für selbstverständlich – verstehen sie sogar falsch.“

Handel auf unsicherem Boden

Der potenzielle geschäftliche Nutzen von Computeralgorithmen ist in der Geschäfts- und Finanzwelt nicht unbemerkt geblieben. Hier sehen wir ihren entscheidenden Wert für die Werbung des Einzelhandels und der sozialen Medien. Berichten zufolge erzielt Facebook rund 98 % seiner Einnahmen mit Werbung; im Jahr 2019 waren das 69,7 Milliarden Dollar. Bei Google waren es 134,8 Milliarden und bei Twitter über 3 Milliarden. Amazons Nettoumsatz in seiner Kategorie „Sonstiges“, die hauptsächlich Werbeeinnahmen umfasst, betrug im selben Jahr 14,1 Milliarden Dollar. Algorithmen sind entscheidend für die immensen Gewinne dieser Unternehmen und immer zahlreicherer anderer, großer und kleiner Firmen.

Auf der Seite der Werbetreibenden haben Algorithmen die zielgenaue Ansprache („Targeting“) potenzieller Kunden über solche Plattformen revolutioniert. Diese Technik hat ihre Art, Werbezeit und Werbeflächen zu buchen, radikal verändert. „Programmatisches Marketing“ verwendet Algorithmen, um Online-Anzeigen oder Werbezeit auf sozialen Medien, Einzelhandelswebsites und Plattformen wie YouTube zu buchen. Wo also einst Menschen Werbefläche buchten, können Computer nun im digitalen Raum Daten nutzen, um Werbung nicht nur zu buchen, sondern auch festzustellen, was sie wert ist, und das oft in Echtzeit. Diese Daten können riesige Mengen hochdetaillierter Informationen in ihr Targeting einfließen lassen, vom Alter einer Zielperson über ihre persönlichen Vorlieben und vermutlichen gesundheitlichen Probleme bis hin zum Wetter und Pollenflug an ihrem Wohnort. 2018 waren 83 % (49,2 Milliarden Dollar) der digital angezeigten Werbung in den USA programmatisch. Natürlich ist das nicht nur ein amerikanisches Phänomen: China soll 2018 z. B. 65,4 Milliarden US-Dollar für digitale Werbung ausgegeben haben.

Wie man erwarten könnte, ist programmatische Werbung keine fehlerlose Technik. Das FBI hat die Buchungspraktiken in Medien untersucht und vor allem Transparenz als Problem genannt. Weitere mögliche Folgen dieser automatisierten Methode, wo menschliches Urteilvermögen sich nicht mehr einmischt, sind Verschwendung von Werbedollars, Betrug oder die Schaltung einer Anzeige an einem Ort, wo eine Marke nicht in Erscheinung treten möchte. Zwei der größten Auftraggeber für Werbung, Unilever und Procter & Gamble, haben ihre Sorge um Markensicherheit auf algorithmusgesteuerten Plattformen wie Instagram und YouTube deutlich zum Ausdruck gebracht. Trotz Verbesserungen auf Seiten der Social-Media-Konzerne weigern sich einige Firmen mit großen Werbeetats noch immer, auf bestimmten Websites zu inserieren.

Ein weiteres algorithmusbasiertes Instrument, das im Bereich des Marketing interessiert, ist die Biometrie, „die Wissenschaft, die einzigartigen biologischen Merkmale von Personen zu verfolgen und zu analysieren“, zu der auch die wachsende Sparte Gesichtserkennung zählt. Ein Bericht im eMarketer merkt an: „Biometrische Technologie könnte Vermarktern bald die Möglichkeit geben, mehr über ihre Kunden zu erfahren und personalisierte Werbung zu verschicken.“ Doch wird gewarnt: „Dies könnte ein potenzieller Segen für das Geschäft sein, geht aber mit erheblichen Folgen für die Privatsphäre einher.“

Auch an der New Yorker Börse und anderen Finanzplätzen der Welt spielen Algorithmen eine zentrale und immer größere Rolle. Beim automatisierten Handel, auch Black Box oder Algo Trading genannt, sind Computer darauf programmiert, schnelle, emotionsfreie, aber ziemlich intransparente Kauf- und Verkaufsentscheidungen zu treffen. Eine ihrer eingebauten Strategien besteht darin, eine riesige Transaktion in kleine Stücke zu zerteilen, sodass sie nicht auffällt und das Risiko eines plötzlichen Kurseinbruchs vermieden wird. Natürlich setzen Konkurrenten ihrerseits Computer und Algorithmen ein, um solche Transaktionen zu erkennen und sofort ihre eigenen Kauf-/Verkaufsentscheidungen zu treffen. Kevin Slavin sagte 2011 in einem sehr populären TED-Vortrag: „Die gleiche Mathematik, die man anwendet, um das große Ding in eine Million kleine Dinge zu zerteilen, kann man anwenden, um eine Million kleine Dinge zu finden und sie wieder zusammenzunähen und herauszubekommen, was am Markt tatsächlich passiert. [...] Sie können sich das vorstellen als einen Haufen Algorithmen, die im Wesentlichen programmiert sind, etwas zu verstecken, und einen Haufen Algorithmen, die programmiert sind, sie aufzuspüren und zu handeln.“

Innerhalb dieser kämpferischen mathematischen Clouds läuft manchmal etwas sehr falsch. Als Beispiel nennt Slavin den „Flash-Crash von 2:45“, als der Index Dow Jones Industrial Average am 6. Mai 2010 plötzlich um 9 % einbrach. Die Katastrophe dauerte nur Minuten und führte zu einem billionenschweren Aktiencrash, von dem sich der Markt fast ebenso schnell wieder erholte.

Damals hatte niemand auch nur eine Ahnung, was den Crash ausgelöst hatte. Erst am 21. April 2015, fast fünf Jahre später, erhob das US-Justizministerien in 22 Punkten Anklage, u. a. wegen Betrug und Marktmanipulation, gegen Navinder Singh Sarao – einen Händler, der von seinem Zuhause in der Nähe des Londoner Flughafens Heathrow aus operierte. Vorgeworfen wurde ihm auch der Einsatz von sogenannten Spoofing-Algorithmen, um schneller als andere Marktteilnehmer zu sein und durch Vortäuschen von Interesse die Märkte zu manipulieren.

Intransparenz ist ein Merkmal von Algorithmen. Um ihr entgegenzuwirken, haben einige Akteure versucht, die Bewegungen und Auswirkungen von Algorithmen zu visualisieren. Einer von ihnen ist die Firma Nanex. Sie verfolgt den Markt – also die Algorithmen, die am Werk sind – und stellt die Ergebnisse grafisch dar, sodass Finanzmarktteilnehmer besser sehen können, was vor sich geht. Mit einer Ausdrucksweise, die an du Sautoy erinnert, witzelt Slavin, Nanex erstelle diese Visualisierungen mit „Mathematik und Magie“.

„Wir schreiben Dinge, die wir nicht mehr lesen können. Wir haben etwas unleserlich gemacht, und wir haben das Gespür dafür verloren, was in dieser Welt, die wir gemacht haben, tatsächlich passiert.“

Menschliche und fast menschliche Algorithmen

Ketten von Algorithmen bilden die Grundlage der künstlichen Intelligenz (KI). Durch maschinelles Lernen absorbieren die Algorithmen unaufhörlich Daten und bauen sich dadurch selbst aus, was den Eindruck des Magischen nur verstärkt. Manche Theoretiker sprechen sogar von einem internetbasierten „global webmind“ (globalen Netzbewusstsein), einem weltweiten Netz, das sich seiner selbst bewusst ist und sein eigenes System zur Optimierung von Funktion und Handel überwachen kann.

Doch trotz all ihrem verborgenen, scheinbar metaphysischen Einfluss sind Algorithmen nicht magisch; sie sind mathematisch und somit inert. Das macht sie allerdings nicht harmlos, denn ein Teil der Gleichung ist das Wesen des Menschen.

Es ist wahr, dass wir als Verbraucher wenig oder gar nichts mitbestimmen konnten, als hinter dem digitalen Interface unserer Welt Algorithmen versteckt wurden. Nur ein relativ kleiner Kreis von Menschen in Wirtschaft, Finanzen und Regierung hat bestimmt, dass diese mathematischen Programme in aller Stille viele unserer individuellen und kollektiven Entscheidungen, Reaktionen und Handlungen leiten sollen. Die Annahme, dass diese wenigen Menschen weitgehend von der Aussicht auf politische oder kommerzielle Vorteile motiviert waren, dürfte nicht weit hergeholt sein.

Doch es wird noch komplizierter, weil manche Algorithmen vordergründig dafür konzipiert sind, uns zu helfen, indem sie uns die Notwendigkeit abnehmen, zu denken oder irrelevante Informationen zu durchforsten. Wir geben uns aber oft große Mühe, sie zu stoppen, indem wir Werbung blockieren, uns nicht tracken lassen, Cookies abschalten etc. Wir wollen die Annehmlichkeit einer personalisierten Erfahrung, aber wir haben gelernt, Datensammlern bezüglich der Nutzung der riesigen Datenmengen zu misstrauen – man spricht auch von „Datenkraken“. Allerdings ist es für Technologieunternehmen möglich, eine personalisierte Erfahrung zu liefern, ohne ihre Nutzer auszuspionieren oder ihnen nachzustellen. Wird das auch getan? Die Realität ist: Wie unsere Daten genutzt werden, wird letztlich immer von jemandem entschieden – von Menschen.

Wem können wir dann im Hinblick auf eine Regulierung vertrauen, dass er oder sie für uns das Denken über das „Denken“ übernimmt, das Algorithmen für uns übernehmen? Können wir verhindern, dass Entscheidungen aus egoistischen oder ausbeuterischen Gründen getroffen werden? Reicht die aktuelle Gesetzgebung aus, um die kommerziellen Machenschaften von Technologiekonzernen einzudämmen – oder sogar, im Fall der Vorwürfe gegen Chinas Huawei, potenzielle Spionage durch Staatsregierungen?

In einigen Aspekten arbeitet das menschliche Gehirn wie eine Serie von Algorithmen; deshalb sagen manche Leute, der Mensch sei ein Tier, das man „hacken“ könne. Tatsächlich laufen Versuche, das menschliche Gehirn mit Computeralgorithmen zu simulieren. Das Ziel ist, der Menschheit etwas zu geben, was manche für den einzigen Weg zu höheren Formen von Intelligenz halten, die uns vor unserem eigenen, mängelbehafteten Wesen retten können. Hier stellt sich allerdings eine kritische Frage: Kann ein digitales Gehirn jemals mit Eigenschaften wie Moral und Gewissen programmiert werden?

„Wir müssen der Vorstellung widerstehen, die uns eine Techno-Elite und ihre Ideologen im Silicon Valley aufdrängen: dass es zwischen uns und den Algorithmen, die sie benutzen wollen, um unser Denken und Handeln zu ihrem Vorteil zu verbiegen, keinen Wesensunterschied gibt.“

Am meisten an der KI zu fürchten ist vielleicht das Ausmaß, in dem sie das Wesen des Menschen widerspiegelt – eine digitale Version höchst fehlbarer Leute. Tatsächlich scheinen die Probleme und Herausforderungen, mit denen wir konfrontiert sind, mit unseren eigenen, inneren Algorithmen verbunden zu sein, den wiederholten Verhaltensweisen und Gewohnheiten, die bestimmen, was wir tun.

Nur wenige Fachleute dürften bestreiten, dass problematische menschliche Wesenszüge bei jeder Diskussion über KI von zentraler Bedeutung sind. Insbesondere wird, wenn KI auch nur zum Teil Funktionen des menschlichen Gehirns replizieren kann, unsere Unzulänglichkeit unausweichlich in ihr stecken. Das ist keine geringe Sorge, denn Versuche, die über 86 Milliarden vernetzter Neuronen und Billionen von Synapsen des menschlichen Gehirns zu simulieren, sind, wie gesagt, voll im Gange. Obgleich es derzeit noch an der benötigten Rechenkapazität fehlt, werden die Algorithmen selbst immer raffinierter. Ängste vor einer dystopischen Zukunft sind deshalb nicht unbegründet. Informatiker sind sehr vertraut mit dem Prinzip „Garbage In, Garbage Out“ (wird Mist eingegeben, kommt Mist heraus), und hier gilt es mit Sicherheit. Schließlich sind Algorithmen Produkte ihrer Entwickler, und so werden sich deren Tendenzen, Voreingenommenheiten und Einstellungen unweigerlich darauf auswirken, was am Ende herauskommt.

Beispiele dafür sind leider nicht schwer zu finden. Ein Bericht von Mai 2016 behauptete, dass ein Computerprogramm, das von vielen US-Gerichten genutzt wurde, um Rückfallwahrscheinlichkeiten vorauszusagen, rassistisch war – nachweislich voreingenommen gegen schwarze Straftäter. Laut der Organisation ProPublica für investigativen Journalismus neigte das Programm „Correctional Offender Management Profiling for Alternative Sanctions“ (COMPAS) dazu, bei schwarzen Angeklagten eine höhere Wahrscheinlichkeit anzugeben, nach ihrer Haftentlassung wieder straffällig zu werden. Die Fehlerquote (Entlassene, die laut der Software ein höheres Rückfallrisiko hatten, aber nicht rückfällig wurden) war bei Schwarzen fast doppelt so hoch wie bei Weißen: 45 % statt 23 %.

Dies ist eine weitere Bestätigung der Sorge, dass wir durch die Entwicklung von Technik, der wir einen Teil unserer Entscheidungen übertragen, wirklich einige der negativsten Eigenschaften des Menschen weitergeben. Es scheint klar, dass KI die Grundprobleme in unserem eigenen Wesenskern nicht lösen wird; deshalb besteht nur Hoffnung auf eine Lösung, wenn wir uns selbst ändern.

Nach einer anderen Musik tanzen

Vielen Geschäften liegt ein Streben nach Gewinn um jeden Preis zugrunde, und wir als einzelne Personen können daran nichts ändern. Aber wir sind aktive Teilnehmer an unserem eigenen Leben. Was können wir also tun? Wie können wir die Fäden kappen, an denen uns andere wie Marionetten tanzen lassen?

Zweifellos sind Algorithmen nützlich, aber sie sind kein Allheilmittel, und sie werden von Menschen missbraucht. Wir können einfach nicht lückenlos kontrollieren, wie unsere personenbezogenen Daten verwendet oder zweckentfremdet werden könnten, aber wir können es uns nicht leisten, uns untätig zurückzulehnen. Wir müssen Verantwortung für die Daten übernehmen, die andere sammeln können. Ein guter Einstieg dafür ist, die Datenschutzeinstellungen auf unseren digitalen Geräten zu überprüfen.

Angesichts scheinbar zahlloser Gründe, anderen zu misstrauen, sollten wir uns außerdem bemühen, die Art Mensch zu werden, der andere vertrauen können. Ehrlichkeit, Integrität, Güte, Fairness und Diskretion sind universale Aspekte eines guten Charakters, die nie überholt sein werden, selbst wenn sie offenbar nicht viele praktizieren. Den Charakter anderer Menschen können wir nicht ändern, vielleicht auch nicht ihr Geschäftsgebaren. Aber wir können uns anstrengen, um selbst besser zu werden, um andere so zu behandeln, wie wir behandelt werden möchten, und so zu werden, wie wir uns andere Menschen wünschen.

Uns selbst zu ändern, mag nicht einfach sein, aber es ist möglich – Schritt für Schritt.