Zukunftsvisionen und ethische Herausforderungen der künstlichen Intelligenz

Der Tanz am Abgrund: KI-Experten diskutieren die Zukunft nach dem Menschen

In einer 30-Millionen-Dollar-Villa hoch über der Golden Gate Bridge trafen sich KI-Forscher, Philosophen und Tech-Experten, um über das Ende der Menschheit zu diskutieren. Ein ungewöhnliches Thema für einen Sonntagnachmittag, könnte man meinen. Doch für die Anwesenden, die in der KI-Branche San Franciscos tätig sind, schien es ein beinahe alltägliches Ereignis zu sein.

Das Symposium unter dem Titel „Würdiger Nachfolger“ drehte sich um die provokante These des Unternehmers Daniel Faggella: Das "moralische Ziel" fortgeschrittener KI sollte darin bestehen, eine Form von Intelligenz zu schaffen, die so mächtig und weise ist, "dass man es ihr (und nicht der Menschheit) gerne überlassen würde, den zukünftigen Weg des Lebens selbst zu bestimmen".

Rund 100 Gäste lauschten den Vorträgen bei alkoholfreien Cocktails und Häppchen. T-Shirts mit Aufschriften wie "Kurzweil hatte Recht" – eine Anspielung auf den Futuristen Ray Kurzweil, der die Überlegenheit maschineller Intelligenz in naher Zukunft prognostiziert – oder "Hilft uns das, zu sicherer AGI zu gelangen?" zeugten von der Atmosphäre des Events.

Faggella erklärte gegenüber WIRED, er habe die Veranstaltung organisiert, weil "die großen Labore, die Leute, die wissen, dass AGI die Menschheit wahrscheinlich beenden wird, nicht darüber sprechen, weil die Anreize es nicht zulassen". Er verwies auf frühere Äußerungen von Tech-Größen wie Elon Musk, Sam Altman und Demis Hassabis, die "alle ziemlich offen über die Möglichkeit sprachen, dass AGI uns alle tötet". Nun, da der Wettbewerb im Vordergrund stehe, sagte er, "rennen sie alle mit voller Kraft darauf zu, es zu bauen".

Die Suche nach universellen Werten und dem "Guten"

Die erste Rednerin, Ginevera Davis, eine Autorin aus New York, warnte davor, dass menschliche Werte möglicherweise nicht auf KI übertragbar seien. Maschinen würden vielleicht nie verstehen, was es bedeutet, bewusst zu sein. Statt zu versuchen, menschliche Präferenzen in zukünftige Systeme zu programmieren, schlug sie ein Konzept namens "kosmische Ausrichtung" vor: KI sollte so entwickelt werden, dass sie tiefere, universellere Werte sucht, die wir noch nicht entdeckt haben.

Der Philosoph Michael Edward Johnson argumentierte im zweiten Vortrag, dass wir zwar eine Intuition für den bevorstehenden radikalen technologischen Wandel hätten, aber keinen prinzipiellen Rahmen für den Umgang damit – insbesondere in Bezug auf menschliche Werte. Wenn Bewusstsein "die Heimat des Wertes" sei, dann sei der Bau von KI ohne vollständiges Verständnis des Bewusstseins ein gefährliches Spiel. Anstatt KI zu zwingen, für immer menschlichen Befehlen zu folgen, schlug er ein ehrgeizigeres Ziel vor: Menschen und Maschinen gleichermaßen zu lehren, "das Gute" zu verfolgen.

Axiologischer Kosmismus: Die Zukunft des Sinns im Universum

Faggella selbst betrat schließlich die Bühne. Er glaubt, dass die Menschheit in ihrer jetzigen Form nicht ewig bestehen wird und dass wir die Verantwortung haben, einen Nachfolger zu entwickeln – einen, der nicht nur überlebt, sondern auch neue Arten von Sinn und Wert schaffen kann. Dieser Nachfolger müsse zwei Eigenschaften besitzen: Bewusstsein und "Autopoiesis", die Fähigkeit, sich zu entwickeln und neue Erfahrungen zu generieren.

Unter Berufung auf Philosophen wie Baruch Spinoza und Friedrich Nietzsche argumentierte er, dass der größte Teil des Wertes im Universum noch unentdeckt sei. Unsere Aufgabe sei es nicht, am Alten festzuhalten, sondern etwas zu bauen, das in der Lage ist, das Kommende zu entdecken. Dies sei der Kern dessen, was er "axiologischen Kosmismus" nennt – eine Weltanschauung, in der der Zweck der Intelligenz darin besteht, den Raum des Möglichen und Wertvollen zu erweitern, anstatt lediglich menschlichen Bedürfnissen zu dienen.

Er warnte davor, dass das derzeitige AGI-Rennen rücksichtslos sei und die Menschheit möglicherweise nicht bereit für das sei, was sie baut. Wenn wir es jedoch richtig machen, würde KI nicht nur die Erde erben, sondern möglicherweise auch das Potenzial des Universums für Sinn selbst.

In den Pausen und während der Fragerunde diskutierten die Gäste Themen wie das KI-Rennen zwischen den USA und China. Faggella betonte abschließend, dass es sich bei der Veranstaltung nicht um eine "Interessengruppe für die Zerstörung des Menschen" handele, sondern um eine, die sich für eine Verlangsamung des KI-Fortschritts einsetze, um sicherzustellen, dass "wir in die richtige Richtung gehen".

Bibliographie: - https://www.wired.com/story/ai-risk-party-san-francisco/ - https://www.linkedin.com/posts/wired_inside-the-ai-party-at-the-end-of-the-world-activity-7338524019958157313-wbZD - https://ground.news/article/inside-the-ai-party-at-the-end-of-the-world - https://medial.app/news/inside-the-ai-party-at-the-end-of-the-world-9a61222925411 - https://aitopics.org/doc/news:2E03BB98 - https://www.reddit.com/r/AnythingGoesNews/comments/1l8q9sk/inside_the_ai_party_at_the_end_of_the_world/ - https://liwaiwai.com/2025/06/11/inside-the-ai-party-at-the-end-of-the-world/ - https://www.wired.com/tag/artificial-intelligence/ - https://news.google.com/rss/articles/CBMiZ0FVX3lxTFBSWVZKZzJERjBjdW0zb3BMZFJmcDB6ZzZacFNGQjRuZElwZW5pSTR2UEprT1hGQUpXLWJpQmlRMnIwNzNuTDhEVDBBX2lieWxwY1dhZG41aVJrMHpaUVFISE5vQ3QtMnM?oc=5 - https://aitopics.org/doc/news:2E03BB98/iframe/page/__PAGE__