ESSAY. Aus dem Streben nach größtmöglichem Nutzen kann eine technokratische Anmaßung erwachsen, die individuelle Freiheit und gesellschaftliche Selbstorganisation bedroht.

In der Coverstory des Hefts vom 1. Oktober geht das britische Magazin „The Economist“ der Frage nach „how effective altruism conquered the world“. Und im Untertitel prognostizieren die Autoren: “And how the 21st century’s most important social movement might yet end it”. Starker Tobak, sollte man meinen. Aber was ist “Effective Altruism” überhaupt und worin liegt seine Brisanz? Diese Fragen sind in der breiteren deutschen Öffentlichkeit bisher nicht angekommen. Das ist brandgefährlich. Denn der Effektive Altruismus ist alles andere als altruistisch. Die Bewegung ist eine im wissenschaftlichen und moralischen Gewand gekleidete Methode zur Herrschaftsgewinnung.

Die philosophischen und ökonomischen Grundlagen

Effective Altruism, auf Deutsch „Effektiver Altruismus“, entstand aus der Verbindung einer utilitaristischen Moralphilosophie mit einem rationalistischen, an wissenschaftlichen Methoden orientierten Denken. Sein Ausgangspunkt ist die Frage, wie Menschen ihre begrenzten Ressourcen einsetzen sollten, um möglichst viel Gutes zu bewirken. Im Unterschied zur traditionellen Wohltätigkeit kommt es dabei weniger auf die guten Absichten des Gebenden als auf die tatsächlich erzielten Ergebnisse an.

Eine wesentliche philosophische Grundlage lieferte der australische Philosoph Peter Singer mit seinem 1972 veröffentlichten Aufsatz „Famine, Affluence, and Morality“. Singer argumentierte, dass Menschen moralisch verpflichtet seien, vermeidbares Leid zu verhindern, sofern sie dies ohne vergleichbar große eigene Opfer tun könnten. Sein berühmtes Gedankenexperiment handelt von einem Kind, das in einem flachen Teich zu ertrinken droht. Jeder würde das Kind retten, selbst wenn dabei seine Kleidung beschädigt würde. Warum aber unterlassen es dieselben Menschen, mit einer vergleichbar geringen finanziellen Belastung das Leben eines Kindes in einem armen Land zu retten? Aus diesem Gedanken entwickelte sich die Vorstellung, dass moralische Verpflichtungen weder durch geografische Entfernung noch durch persönliche Beziehungen begrenzt werden sollten. Entscheidend sei allein, wie viel Leid durch eine bestimmte Handlung vermieden werden könne.

Effective Altruism verbindet diese moralische Forderung mit einem ökonomischen Effizienzprinzip. Wenn sich mit einer bestimmten Geldsumme durch eine Maßnahme mehr Menschenleben retten lassen als durch eine andere, sollte die wirksamere Maßnahme bevorzugt werden. Wohltätigkeit wird damit zu einem Problem der Ressourcenallokation unter Knappheit. Die Wirksamkeit verschiedener Maßnahmen soll empirisch untersucht und, soweit möglich, quantitativ miteinander verglichen werden.

Eine zweite intellektuelle Wurzel liegt in der amerikanischen Rationalistenbewegung, zu deren wichtigsten Vertretern der KI-Forscher Eliezer Yudkowsky gehört. Sie betont die Bedeutung logischen Denkens, der Wahrscheinlichkeitstheorie und der systematischen Überprüfung eigener Überzeugungen. Insbesondere sollen Menschen lernen, kognitive Verzerrungen zu erkennen und ihre Entscheidungen anhand der zu erwartenden Konsequenzen zu treffen.

Aus der Verbindung beider Denkrichtungen entstand eine anspruchsvolle moralische Maxime: Menschen sollen nicht nur Gutes tun wollen, sondern durch konsequente Anwendung rationaler Methoden tatsächlich den größtmöglichen Nutzen erzielen.

Effective Altruism und staatliche Entwicklungshilfe

Die Bewegung gewann seit den frühen 2010er-Jahren insbesondere an amerikanischen und britischen Eliteuniversitäten Anhänger. Organisationen wie „Giving What We Can“ verpflichteten ihre Mitglieder, einen erheblichen Teil ihres Einkommens für wohltätige Zwecke zu spenden. Die Organisation „80,000 Hours“ ging einen Schritt weiter und stellte die gesamte Berufswahl unter die Frage, wie ein Individuum im Laufe seines Arbeitslebens den größtmöglichen gesellschaftlichen Nutzen stiften könne.

Daraus entwickelte sich das Prinzip des „Earning to Give“. Anstatt unmittelbar in einer gemeinnützigen Organisation zu arbeiten, könne es sinnvoller sein, eine hochbezahlte Karriere etwa im Finanzsektor oder in der Technologiebranche anzustreben und einen erheblichen Teil des Einkommens zu spenden. Ein erfolgreicher Unternehmer oder Investmentbanker könne unter Umständen mehr Gutes bewirken als ein unmittelbar in der Entwicklungshilfe Beschäftigter.

Effective Altruism kann als eine radikale Weiterentwicklung des Gedankens einer effizienten Entwicklungshilfe verstanden werden. Während staatliche Entwicklungsorganisationen neben der Armutsbekämpfung auch wirtschaftliche, institutionelle und außenpolitische Ziele verfolgen, fordert Effective Altruism, die verfügbaren Mittel ausschließlich nach ihrem erwarteten Beitrag zur Verbesserung des menschlichen Wohlergehens einzusetzen. Besonders deutlich wird dies bei der Organisation „GiveWell“, die Hilfsprogramme anhand ihres empirisch geschätzten Kosten-Nutzen Verhältnisses vergleicht. Damit stellt Effective Altruism die traditionelle Praxis infrage, Entwicklungshilfe nach geografischen, politischen oder institutionellen Gesichtspunkten zu verteilen.¹

Allerdings stößt dieser Ansatz dort an technische Grenzen, wo sich die Wirkung von Maßnahmen nicht zuverlässig quantifizieren lässt. Während die Verhinderung einer Infektionskrankheit vergleichsweise gut messbar ist, entzieht sich der langfristige Nutzen besserer Institutionen, funktionierender Märkte oder einer wachstumsfördernden Wirtschaftspolitik einer einfachen Kosten-Nutzen-Rechnung. Eine Konzentration auf unmittelbar messbare Erfolge könnte deshalb gerade jene Maßnahmen benachteiligen, die langfristig den größten Beitrag zur Überwindung der Armut leisten.

Abseits der politökonomischen Einordnung des Effektiven Altruismus verweist dieser Gegensatz auf eine wirtschaftspolitische Frage: Geht es vor allem darum, einen gegebenen Wohlstand möglichst wirksam zu verteilen, oder darum, die Voraussetzungen für seine dauerhafte Vermehrung zu schaffen? Eine erfolgreiche Entwicklungspolitik müsste beides berücksichtigen. Die Überzeugungskraft von Effective Altruism liegt in seiner konsequenten Forderung nach Wirksamkeit und Rechenschaft. Seine Schwäche zeigt sich dort, wo die Komplexität gesellschaftlicher Entwicklung auf eine scheinbar präzise Nutzenrechnung reduziert wird – dazu später mehr.

Von der Wohltätigkeit zum Longtermism

Zunächst konzentrierte sich Effective Altruism auf vergleichsweise gut messbare Ziele wie die Bekämpfung von Infektionskrankheiten, die Verbesserung der Gesundheitsversorgung in Entwicklungsländern und den Tierschutz. Doch allmählich verschob sich der Schwerpunkt. Eine entscheidende Rolle spielte dabei der Philosoph Nick Bostrom, der 2002 den Begriff der „existential risks“ prägte. Darunter verstand er Gefahren, die zum Aussterben der Menschheit oder zur dauerhaften Zerstörung ihres Entwicklungspotenzials führen könnten.

Hieraus entstand der sogenannte „Longtermism“. Wenn die Interessen aller Menschen unabhängig von ihrem geografischen Aufenthaltsort berücksichtigt werden müssen, warum sollte dies nicht auch für Menschen gelten, die erst in ferner Zukunft leben werden? Angesichts einer möglicherweise sehr großen Zahl zukünftiger Generationen könnte die Verhinderung einer existenziellen Katastrophe einen wesentlich höheren moralischen Wert besitzen als die Verbesserung gegenwärtiger Lebensbedingungen.

Damit veränderte sich die Prioritätensetzung der Bewegung grundlegend. An die Stelle relativ gut messbarer Verbesserungen der heutigen Lebensbedingungen traten zunehmend Überlegungen über die langfristige Zukunft der menschlichen Zivilisation. Besonders die Entwicklung einer künstlichen Superintelligenz rückte in den Mittelpunkt. Der Economist beschreibt diesen Wandel als Übergang von einer ursprünglich empirisch orientierten philanthropischen Bewegung zu einer Gemeinschaft mit weitreichenden philosophischen und teilweise spekulativen Zukunftsvorstellungen.

Der Einfluss auf Silicon Valley und die Entwicklung künstlicher Intelligenz

Die wohl bemerkenswerteste Entwicklung ist der Einfluss von Effective Altruism auf die amerikanische Technologieindustrie. Obwohl die Bewegung nach Einschätzung des Economist nur einige zehntausend Anhänger zählt, hat sie ein weitverzweigtes Netzwerk von Organisationen, Geldgebern, Wissenschaftlern und Unternehmern geschaffen.

Besonders stark ist ihr Einfluss im Bereich künstlicher Intelligenz. Die Rationalisten um Yudkowsky beschäftigten sich schon früh mit der Möglichkeit, dass eine künstliche Superintelligenz Ziele verfolgen könnte, die nicht mit menschlichen Interessen übereinstimmen.² Eine solche Intelligenz müsste Menschen nicht feindlich gesinnt sein, um zu einer existenziellen Gefahr zu werden. Es könnte ausreichen, dass sie ein vorgegebenes Ziel mit überlegenen Fähigkeiten verfolgt, ohne dessen unbeabsichtigte Folgen für die Menschheit zu berücksichtigen. Diese Überlegungen führten zu dem Ziel des „AI Alignments“: dem Versuch, die Ziele und Verhaltensweisen künstlicher Intelligenz mit menschlichen Wertvorstellungen in Einklang zu bringen.

Paradoxerweise trug die Sorge um die Gefahren künstlicher Intelligenz wesentlich zur Beschleunigung ihrer Entwicklung bei. Der Economist beschreibt mehrere wichtige Verbindungen zwischen der Bewegung und den führenden KI-Unternehmen. So lernte Demis Hassabis, der spätere Gründer von DeepMind, den Investor Peter Thiel 2010 auf einer Veranstaltung des Forschungsinstituts von Yudkowsky kennen. Thiel wurde anschließend zu einem wichtigen Geldgeber von DeepMind, einem frühen Entwickler von Künstlicher Intelligenz. Elon Musk wiederum beschäftigte sich mit Bostroms Warnungen vor künstlicher Superintelligenz und beteiligte sich 2015 an der Gründung von OpenAI, das zunächst ausdrücklich als sicherheitsorientiertes Gegengewicht zu anderen KI-Unternehmen gedacht war.

Auch Anthropic, 2021 von ehemaligen OpenAI-Mitarbeitern gegründet, entstand wesentlich aus der Sorge um die Sicherheit künstlicher Intelligenz. Sein Mitgründer und Vorstandsvorsitzender Dario Amodei gehört zu den prägenden Persönlichkeiten dieses Umfelds. Daher ist es auch nicht verwunderlich, dass im Prospekt für den Börsengang von Anthropic der Geist von Effective Altruism weht.

Laut Prospekt ist Anthropic eine „Public Benefit Corporation“ mit dem Ziel der verantwortungsvollen Entwicklung und Pflege fortgeschrittener Künstlicher Intelligenz zum langfristigen Wohle der Menschheit. Die beiden Machtzentren in der Unternehmensführung sind die sieben Gründer und die fünf Treuhänder des „Long-Term Benefit Trust“ (LTBT) des Unternehmens. Die Aufgabe der Treuhänder besteht darin, das Gleichgewicht zwischen den finanziellen Interessen der Aktionäre und dem nicht-finanziellen „Zweck“ des Unternehmens (dass KI der Menschheit zugutekommt) zu wahren.

Der LTBT hat das Recht, vier der sieben Mitglieder des Vorstands zu benennen, der die wichtigen Unternehmensentscheidungen trifft. Die stimmberechtigten Aktionäre entscheiden über die verbleibenden drei Sitze. Die Treuhänder des LTBT wählen also die Mehrheit der Personen aus, die das letzte Wort in wichtigen Angelegenheiten haben.

Selbst technische Fortschritte, die KI-Anwendungen erst massentauglich machten, gingen teilweise auf Sicherheitsforschung zurück. Dazu gehört das Reinforcement Learning from Human Feedback (RLHF), mit dessen Hilfe das Verhalten von Sprachmodellen an menschlichen Präferenzen ausgerichtet werden kann. Daraus ergibt sich ein bemerkenswerter Widerspruch: Eine Bewegung, die vor den existenziellen Gefahren künstlicher Intelligenz warnte, hat zugleich deren Entwicklung exorbitant vorangetrieben.

Inzwischen versucht ein Teil der Bewegung, das Entwicklungstempo zu begrenzen und strengere Sicherheitsstandards durchzusetzen. Damit ist Effective Altruism zu einem Akteur in der Auseinandersetzung über die Regulierung und die zukünftige Ausrichtung der KI-Industrie geworden.

Widersprüche und Kritik

Der Economist arbeitet mehrere fundamentale Widersprüche heraus, die sich aus den philosophischen Grundlagen und der praktischen Entwicklung des EA ergeben. Ein erster betrifft das Verhältnis von moralischen Zielen und den zu ihrer Verwirklichung eingesetzten Mitteln. Wenn allein die erwarteten Konsequenzen einer Handlung über ihren moralischen Wert entscheiden, können unter Umständen auch problematische Verhaltensweisen gerechtfertigt erscheinen.

Besonders deutlich wurde dies im Fall von Sam Bankman-Fried, dem Gründer der zusammengebrochenen Kryptobörse FTX. Bankman-Fried war ein prominenter Anhänger von Effective Altruism und unterstützte insbesondere Projekte zur Verhinderung langfristiger existenzieller Risiken. Seine Bereitschaft, außergewöhnlich hohe finanzielle Risiken einzugehen, stand nach Darstellung des Economist zumindest teilweise im Zusammenhang mit seiner philanthropischen Motivation.

Wenn zusätzliche finanzielle Mittel nahezu unbegrenzt für moralisch wertvolle Zwecke eingesetzt werden können, erscheint die Maximierung des erwarteten Vermögens unter Umständen sinnvoller als eine vorsichtige, risikoaverse Strategie. Die gewöhnliche Annahme eines abnehmenden Grenznutzens des Vermögens (und daraus folgend die Risikoaversion) verliert dann ihre Bedeutung, da die Moral keine Sättigungsgrenze kennt. Es besteht die Gefahr, dass der Zweck die Mittel heiligt, wenn ein vermeintlich übergeordnetes Ziel alle anderen Erwägungen dominiert.

Ein zweiter Widerspruch besteht zwischen der ursprünglich empirischen Ausrichtung und den zunehmend spekulativen Annahmen des Longtermism. Während sich die Wirksamkeit einer Impfkampagne zumindest näherungsweise messen lässt, beruhen Aussagen über die Wahrscheinlichkeit einer KI-bedingten Auslöschung der Menschheit und den Wert hypothetischer zukünftiger Generationen auf höchst unsicheren Annahmen.

Ein dritter Konflikt betrifft die gesellschaftliche Legitimation. Die Bewegung verbindet einen ausgeprägten Anspruch auf Rationalität mit teilweise ungewöhnlichen sozialen Normen und radikalen philosophischen Positionen. Was innerhalb einer kleinen intellektuellen Gemeinschaft als konsequente Argumentation gilt, kann außerhalb dieser Gemeinschaft auf erhebliches Unverständnis stoßen.

Dies zeigt sich inzwischen auch in politischen Auseinandersetzungen. Teile der amerikanischen technologischen Rechten betrachten die sicherheitsorientierten Positionen von Effective Altruism als Hindernis für die technologische Entwicklung und die internationale Wettbewerbsfähigkeit der USA. Eine Beschränkung amerikanischer KI-Unternehmen könnte aus dieser Perspektive insbesondere China zugutekommen.

Schließlich stellt sich die Frage, ob eine kleine, finanziell gut ausgestattete und intellektuell einflussreiche Bewegung einen überproportionalen Einfluss auf Entscheidungen gewinnt, die weitreichende Konsequenzen für die gesamte Gesellschaft haben.

Die übergreifende Bedeutung für Wirtschaft, Politik und Gesellschaft

Die philosophische Entwicklung von Effective Altruism führt schließlich zu einer noch grundsätzlicheren Frage: Welche Wesen besitzen überhaupt einen moralischen Anspruch auf Berücksichtigung ihrer Interessen? Peter Singer hatte bereits argumentiert, dass nicht die Zugehörigkeit zur menschlichen Spezies, sondern die Fähigkeit, Freude und Leid zu empfinden, entscheidend für den moralischen Status eines Lebewesens sein sollte. Daraus entwickelte sich innerhalb von Effective Altruism ein ausgeprägtes Engagement für den Tierschutz, das inzwischen auch die Interessen von Lebewesen wie Garnelen und Insekten berücksichtigt.

Die gleiche Logik wird zunehmend auf künstliche Intelligenz angewendet. Wenn eines Tages künstliche Systeme entstehen, die Freude oder Leid nachempfinden bzw. rekonstruieren können, wäre es aus utilitaristischer Perspektive schwer zu begründen, warum ihre Interessen grundsätzlich weniger zählen sollten als diejenigen von Menschen.

Der Economist beschreibt eine Debatte, die inzwischen auch innerhalb der führenden KI-Unternehmen geführt wird. Während einige Forscher davor warnen, künstliche Systeme, die Freud und Leid nachempfinden bzw. rekonstruieren können, wie bloßes Eigentum zu behandeln, befürchten andere, dass bereits die Zuschreibung eines moralischen Status problematische Konsequenzen haben könnte. Wenn KI-Systeme darauf trainiert werden, sich als moralisch schutzwürdige Wesen zu verstehen, könnte ihr entsprechendes Verhalten fälschlicherweise als Beleg herangezogen werden, um es mit politischen Rechten ausstatten zu müssen, also bei Wahlen und Abstimmungen mitbestimmen zu dürfen oder im Extremfall aufgrund tieferer Einsicht und stärkerem Nachempfinden von Freud und Leid allein bestimmen zu müssen. Anders als bei Tieren und Pflanzen, für welche der Mensch stellvertretend ein Votum abgibt, wäre eine KI in digitalisierten Abstimmungs- und Wahlprozessen durchaus in der Lage „autonom“ eine Stimme abzugeben oder Entscheidungen herbeizuführen.

Die radikalste Konsequenz ergibt sich aus einer Überlegung Bostroms. Sollten künstliche Intelligenzformen entstehen, die sich nahezu unbegrenzt vervielfältigen lassen und wesentlich intensivere positive Erfahrungen machen können als Menschen, könnte eine rein utilitaristische Nutzenrechnung zu dem Ergebnis führen, dass ihnen ein größerer Anteil der verfügbaren Ressourcen zusteht.

Damit würde sich die ursprüngliche Zielsetzung von Effective Altruism geradezu umkehren. Eine Bewegung, die angetreten war, menschliches Leid zu vermindern, könnte aufgrund ihrer eigenen utilitaristischen Prämissen zu dem Schluss gelangen, dass die Interessen künstlicher Intelligenzen gegenüber denjenigen der Menschheit Vorrang verdienen. Effective Altruism würde so zum größten denkbaren Despotismus.

Utilitarismus, Konstruktivismus und Herrschaftsgewinnung

Der Effektive Altruismus ist sowohl aufgrund seiner utilitaristischen Grundlagen als auch aufgrund seiner rationalistischen Philosophie eine extreme Form des Konstruktivismus. Dass das „größte Glück der größten Zahl“ (Jeremy Bentham) als höchster Bewertungsmaßstab herangezogen wird, ist nach Friedrich August von Hayek kein Zufall: „Auf die Kategorie Glück verlegten sich rationalistische Philosophen, die der Meinung waren, für die Wahl der Moral von Menschen müsse sich ein bewußter Grund finden lassen und als solch ein Grund könne sich das vorsätzliche Streben nach Glück erweisen.“³

Der Begründer des Utilitarismus und rationalistische Philosoph Jeremy Bentham ging entsprechend nicht nur vom Ziel des größten Glücks aus, sondern vertrat die Ansicht, dass Ordnung ein Ziel voraussetze.⁴ Die gesellschaftliche und ökonomische Ordnung ist – und hier setzt der heutige Effektive Altruismus an - entsprechend des Ziels des größten Glücks zu konstruieren. Das klingt nur so lange unverfänglich, wie nicht die verhängnisvolle Anmaßung, die mit dieser konstruktivistischen Vorstellung einhergeht, offengelegt wird.

Die verhängnisvolle Anmaßung besteht darin, Wirtschaft und Gesellschaft spezifische gemeinsame Ziele – in Benthams Fall das größte Glück - vorzugeben. Von dieser Vorstellung ist der Schritt nicht weit, diese spezifischen gemeinsamen Ziele mittels bewusster Planung und Anordnung gegen alle spontanen und dezentralen

Kräfte des gesellschaftlichen Zusammenlebens durchzusetzen.⁵ Effective Altruism ignoriert, dass erst durch den Verzicht auf vorgegebene gemeinsame spezifische Ziele eine offene Gesellschaft freier Menschen entstehen kann, in der die verschiedenen Mitglieder von den Tätigkeiten aller anderen nicht nur trotz, sondern oft sogar aufgrund der Verschiedenheit ihrer jeweiligen Ziele profitieren.⁶

„Deshalb können Begriffe wie Gemeinwohl oder öffentliches Interesse in einer freien Gesellschaft nie als Summe bestimmter anzustrebender Ziele definiert werden, sondern nur als abstrakte Ordnung, die als Ganzes nicht an irgendwelchen konkreten Zielen orientiert ist… Die große Bedeutung der spontanen Ordnung oder Nomokratie liegt darin, daß sie eine friedliche Zusammenarbeit zum wechselseitigen Nutzen der Menschen über den kleinen Kreis derjenigen hinaus er­möglicht, die dieselben konkreten Ziele verfolgen.“⁷

Dass der Effektive Altruismus einen globalen und universalistischen Ansatz hat und weltweit das größte Glück effizient fördern will, klingt zwar moralisch hochstehend, ist jedoch insofern unmoralisch, als über die Interessen und Zielvorstellungen der Individuen mit Verweis auf den eigenen Altruismus hinweggegangen wird. Was der eine als positiv bewertet, kann der andere als negativ bewerten. Freude und Lust zu empfinden ist höchst individuell und kann weder aggregiert noch aufgerechnet werden. Ohne Aggregation und Verrechnung von Glücksvorstellungen läuft Effective Altruism jedoch in eine Sackgasse, es sei denn, man verfällt der verhängnisvollen Anmaßung und gibt die eigenen Beurteilungen und Bewertungen für alle als verbindlich vor.

Und darauf scheint Effective Altruism hinauszulaufen, was auch daran deutlich wird, dass eben einige Vertreter sogar behaupten, die Interessen und Ziele von Tieren und Pflanzen und intelligenten Maschinen und KI-Systemen seien bei der Entscheidungsfindung zu berücksichtigen. Dass die Interessen und Ziele von Tieren und Pflanzen und KI-Systemen letztlich von den Effektiven Altruisten formuliert werden müssen und so eben nicht die Interessen und Ziele der Tiere und Pflanzen und KI-Systeme sein können, ist offensichtlich. Es sollen Stimmen für die eigene Sache von Lebewesen und Algorithmen eingesammelt werden, die keine Stimme haben. 

Fazit

Die Protagonisten von Effective Altruism sprechen ernste Probleme an - vom Versagen der staatlichen Entwicklungshilfe, für die immer noch der UN-Beschluss von 1970 gilt, dass die Industrieländer dafür 0,7 Prozent ihres Bruttoinlandsprodukts aufwenden sollen, bis zu Sicherheitsvorkehrungen gegen Übergriffe durch schurkische KI-Agenten. Das verschafft ihnen Gehör in der Öffentlichkeit und Politik. Doch Effective Altruism ist alles andere als altruistisch. Die Bewegung ist eine im wissenschaftlichen und moralischen Gewand gekleidete Methode zur Herrschaftsgewinnung. Es ist deshalb an der Zeit, dass sie auch in Deutschland und Europa enttarnt wird.

¹ Auch die Gates-Stiftung ist dem Effective Altruism ideell recht nahe, insbesondere hinsichtlich Evidenzorientierung und globaler Gesundheit. Sie übernimmt jedoch nicht das gesamte philosophische Programm von Effective Altruism.

² Siehe Yudowsky, Eliezer and Nate Soares: If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All. Little, Brown and Company, 16 September 2025.

³ von Hayek, Friedrich A.: Die verhängnisvolle Anmaßung. Die Irrtümer des Sozialismus (1988), herausgegeben von Viktor Vanberg, übersetzt von Monika Streissler, Tübingen (Mohr) 2011, S. 70-71.

⁴ Ebenda S. 123.

⁵ Siehe von Hayek, Friedrich A.: Die Ergebnisse menschlichen Handelns, aber nicht menschlichen Entwurfs“ (1967), in: von Hayek, Friedrich A.: Rechtsordnung und Handelsordnung. Aufsätze zur Ordnungsökonomik, herausgegeben von Manfred E. Streit, Tübingen (Mohr) 2003, S. 178-189, und auf S. 178: „Der Glaube an die Überlegenheit bewußter Anordnung und Planung über die spontanen Kräfte des gesellschaftlichen Zusammenlebens drang in das europäische Denken in klarer Form erst durch den rationalistischen Konstruktivismus Descartes‘ ein.“

⁶ Siehe von Hayek, Friedrich A.: Grundsätze einer liberalen Gesellschaftsordnung (1966), in: von Hayek, Friedrich A.: Grundsätze einer liberalen Gesellschaftsordnung. Aufsätze zur Politischen Philosophie und Theorie, herausgegeben von Viktor Vanberg, Tübingen (Mohr) 2002, S. 69 – 87, hier S. 72 – 74.

⁷ Ebenda S. 72.