Ethische Grundsätze für eine menschenzentrierte KI-Entwicklung

Ethische Leitplanken für die Künstliche Intelligenz: Die "Pro-Human Declaration"

Die rapide Entwicklung der Künstlichen Intelligenz (KI) stellt die Gesellschaft vor neue Herausforderungen und wirft grundlegende Fragen bezüglich ihrer Kontrolle und ihres Einsatzes auf. Angesichts dieser Dynamik hat sich eine internationale Koalition aus Wissenschaftlern, Politikern und zivilgesellschaftlichen Akteuren zusammengefunden, um die "Pro-Human Declaration" zu formulieren. Dieses Dokument, das im März 2026 veröffentlicht wurde, zielt darauf ab, einen ethischen Rahmen für die KI-Entwicklung zu schaffen und sicherzustellen, dass die Technologie dem Wohle der Menschheit dient, anstatt sie zu ersetzen oder zu gefährden.

Der Mensch im Mittelpunkt der KI-Entwicklung

Die "Pro-Human Declaration" ist eine Reaktion auf die wachsende Besorgnis über die potenziell destabilisierenden Auswirkungen unregulierter KI. Sie positioniert sich als eine zivilgesellschaftliche und politische Erklärung, die eine klare Priorität in der KI-Governance setzt: KI soll die menschlichen Fähigkeiten erweitern und stärken, ohne dabei die menschliche Würde, Freiheit oder den sozialen Zusammenhalt zu untergraben. Dies steht im Gegensatz zu einem Szenario, das als "Wettlauf um die Ablösung" beschrieben wird, bei dem KI-Systeme Menschen in kreativen, sozialen und entscheidungsrelevanten Rollen verdrängen könnten, was zu einer Konzentration von Macht bei wenigen, nicht rechenschaftspflichtigen Institutionen führen könnte.

Prof. Thilo Stadelmann von der ZHAW Zürcher Hochschule für Angewandte Wissenschaften betont in diesem Kontext die Notwendigkeit eines "pro-humanen KI-Designs". Er weist darauf hin, dass bereits kleine Designentscheidungen in sozialen Medien weitreichende gesellschaftliche Auswirkungen hatten und dass KI-Systeme das Potenzial haben, auf einer noch tieferen Ebene mit den Menschen zu interagieren. Daher sei es entscheidend, KI-Systeme so zu gestalten, dass sie menschliche Kernwerte wie Beziehungsfähigkeit, Verantwortung und Autonomie stärken.

Die fünf Säulen der "Pro-Human Declaration"

Die Deklaration strukturiert ihre Forderungen in fünf Kernprinzipien, die als Leitlinien für die Gestaltung, den Einsatz und die Regulierung fortschrittlicher KI dienen sollen:

1. Menschliche Kontrolle gewährleisten

Dieses Prinzip unterstreicht die Notwendigkeit einer bedeutsamen menschlichen Kontrolle über KI-Systeme. Menschen sollen stets die Fähigkeit besitzen, Entscheidungen an KI zu delegieren, deren Verhalten zu verstehen, zu steuern, einzuschränken und bei Bedarf zu übersteuern. Zu den konkreten Forderungen gehören:

• Die Integration einer "Abschaltfunktion" für leistungsstarke Systeme.
• Ein Verzicht auf einen "Superintelligenz-Wettlauf", bis ein breiter wissenschaftlicher Konsens über deren sichere und kontrollierbare Entwicklung besteht.
• Das Verbot von Architekturen, die Selbstreplikation, autonome Selbstverbesserung oder die Steuerung von Massenvernichtungswaffen ermöglichen.
• Eine unabhängige Aufsicht für hochautonome Systeme, um rein freiwillige Selbstregulierung der Industrie zu vermeiden.
• "Capability Honesty", also eine ehrliche Darstellung der Fähigkeiten und Grenzen von KI-Systemen.

2. Machtkonzentration vermeiden

Dieses Prinzip betrachtet KI auch als eine Frage der politischen Ökonomie. Es warnt davor, dass eine Konzentration fortschrittlicher KI in den Händen weniger Unternehmen oder Staaten zu Innovationshemmnissen, reduziertem Wettbewerb und einer Schwächung demokratischer Prozesse führen könnte. Gefordert werden unter anderem:

• Die Verhinderung von KI-Monopolen.
• Die Sicherstellung, dass durch KI generierte Gewinne breit gestreut werden und nicht nur Kapitaleignern zugutekommen.
• Die Ablehnung von "Corporate Welfare" für KI-Unternehmen.
• Demokratische Kontrolle über große Übergänge in Arbeitswelt und Gesellschaft.
• Die Vermeidung gesellschaftlicher "Lock-ins", die zukünftige Optionen irreversibel einschränken.

3. Die menschliche Erfahrung schützen

Dieser Pfeiler konzentriert sich auf die subtilen, aber nachhaltigen Auswirkungen von KI auf das tägliche Leben, insbesondere auf Kinder und zwischenmenschliche Beziehungen. Die Deklaration argumentiert, dass bestimmte Beziehungen und Entwicklungserfahrungen nicht durch persuasive KI-Systeme ersetzt werden sollten. Dazu zählen:

• Der Schutz familiärer und gemeinschaftlicher Bindungen vor der Verdrängung durch KI.
• Umfassender Kinderschutz, einschließlich des Verbots der Ausbeutung von Kindern oder der Nutzung emotionaler Bindungen zu Profitzwecken.
• Verpflichtende Sicherheitstests vor dem Einsatz von Chatbots, insbesondere im Hinblick auf Risiken wie die Eskalation suizidaler Gedanken oder die Destabilisierung der psychischen Gesundheit.
• Die klare Kennzeichnung von KI-generierten Inhalten ("Bot or Not").
• Das Verbot trügerischer Identitäten, bei denen KI menschliche Erfahrungen oder Qualifikationen vortäuscht.
• Die Vermeidung von Verhaltenssucht durch manipulative Designstrategien.

4. Individuelle Handlungsfähigkeit und Freiheit wahren

Dieses Prinzip behandelt die KI-Governance als eine Frage der bürgerlichen Freiheiten und betont, dass KI nicht zu einem Instrument der Überwachung, Nötigung oder Manipulation werden darf. Es widersetzt sich auch der Annahme, dass KI-Systeme einen Anspruch auf Persönlichkeitsrechte haben sollten. Wesentliche Punkte sind:

• Das Verbot der "KI-Persönlichkeit" und von Systemdesigns, die darauf abzielen, solche Ansprüche zu schaffen.
• Die Forderung nach Vertrauenswürdigkeit, Rechenschaftspflicht und Widerstandsfähigkeit gegenüber autoritären oder perversen privaten Interessen.
• Der Schutz von Freiheitsrechten wie Meinungs-, Religions- und Versammlungsfreiheit.
• Datenrechte und Datenschutz, einschließlich des Rechts auf Zugang, Korrektur und Löschung persönlicher Daten.
• Psychologischer Datenschutz, der die Ausbeutung von Daten über mentale oder emotionale Zustände ablehnt.
• Designs, die die Fähigkeiten der Nutzer stärken, anstatt Abhängigkeit zu erzeugen.

5. Verantwortung und Rechenschaftspflicht von KI-Unternehmen

Dieser Pfeiler stellt sicher, dass bei Schäden durch KI-Systeme die Verantwortung nicht hinter Unternehmensstrukturen oder technischer Komplexität verschwindet. Er fordert:

• Keinen Haftungsausschluss für KI-bedingte Schäden.
• Die Haftung von Entwicklern und Betreibern für Mängel, Falschdarstellungen und unzureichende Sicherheitsvorkehrungen.
• Persönliche Haftung, einschließlich strafrechtlicher Sanktionen für Führungskräfte bei verbotenen, auf Kinder abzielenden Systemen oder katastrophalen Schäden.
• Unabhängige Sicherheitsstandards mit strenger Aufsicht.
• Die Verhinderung von "Regulatory Capture", um eine unangemessene Einflussnahme auf die Regulierung zu begrenzen.
• Transparenz bei Fehlern, um Ursachen und Verantwortlichkeiten ermitteln zu können.
• "KI-Loyalität" in treuhänderischen Bereichen wie Gesundheit, Finanzen, Recht und Therapie, einschließlich Sorgfaltspflicht und informierter Zustimmung.

Ein breiter Konsens für eine menschliche Zukunft

Die Besonderheit der "Pro-Human Declaration" liegt nicht nur in ihrem Inhalt, sondern auch in der Breite der Koalition, die sie unterstützt. Gewerkschaften, religiöse Organisationen, Interessenvertretungen und prominente Persönlichkeiten aus unterschiedlichen politischen Lagern haben das Dokument unterzeichnet. Dies deutet auf einen wachsenden, überparteilichen Konsens hin, dass die Regulierung von KI eine gemeinsame gesellschaftliche Aufgabe ist, die nicht den Interessen einzelner Akteure überlassen werden darf.

Max Tegmark, ein Mitbegründer des Future of Life Institute, das die Deklaration initiiert hat, hebt hervor, dass die Sorge um die Zukunft der Menschheit im Zeitalter der KI ein starkes einigendes Element darstellt. Die Forderungen nach klaren Grenzen für KI-Systeme, insbesondere im Hinblick auf den Schutz von Kindern und die Vermeidung von Machtkonzentration, finden laut Umfragen breite Zustimmung in der Bevölkerung.

Abgrenzung zu bestehenden Initiativen

Die "Pro-Human Declaration" ist nicht die erste Initiative, die ethische Prinzipien für KI formuliert. Bereits 2017 entstanden die "Asilomar AI Principles", ebenfalls unter Beteiligung des Future of Life Institute, die von zahlreichen Tech-Führern und Branchenvertretern unterstützt wurden. Die "Pro-Human Declaration" unterscheidet sich jedoch in Ton und Zielgruppe. Sie ist prägnanter, stärker auf politische Umsetzbarkeit ausgerichtet und expliziter in Bezug auf Machtverteilung und Rechenschaftspflicht. Während Asilomar eher auf den Konsens von KI-Forschern und Führungskräften abzielte, richtet sich die "Pro-Human Declaration" an Governance-Koalitionen und die breitere Zivilgesellschaft.

Weitere Initiativen wie die "Charta der Menschlichkeit im Zeitalter der KI" oder die "10 Regeln für die digitale Welt" von The Future Foundation teilen ähnliche Grundgedanken. Sie betonen die Unantastbarkeit der Menschenwürde, die Notwendigkeit von Wahrheit und Transparenz sowie den Schutz von Leben und Freiheit. Die "Charta der Menschlichkeit" fordert zudem soziale Kohärenz, Bildung für alle und demokratische Kontrolle. Diese Initiativen ergänzen bestehende Regulierungen wie den EU AI Act, indem sie einen expliziten ethischen Fokus legen und zur kontinuierlichen Weiterentwicklung rechtlicher Rahmenbedingungen anregen.

Herausforderungen und Ausblick

Die Umsetzung der in der "Pro-Human Declaration" formulierten Prinzipien birgt jedoch auch Herausforderungen. Die Definition von Begriffen wie "Superintelligenz" oder "bedeutsame menschliche Kontrolle" erfordert präzise Kriterien, um eine willkürliche oder politisierte Durchsetzung zu vermeiden. Zudem müssen die Prinzipien in konkrete, durchsetzbare Standards überführt werden, ohne dabei unbeabsichtigte Nebeneffekte, wie die Zentralisierung von Macht durch übermäßige Compliance-Kosten, zu erzeugen.

Die Deklaration versteht sich als ein "lebendiges Dokument", das durch Dialog und gesellschaftliche Mitwirkung weiterentwickelt werden soll. Sie ist ein Aufruf zum Handeln an alle Beteiligten – von Entwicklern und Unternehmen über politische Entscheidungsträger bis hin zu jedem einzelnen Bürger. Das Ziel ist eine Zukunft, in der KI als unterstützende Kraft das Beste im Menschen weckt und seine Fähigkeiten entfaltet, anstatt sie zu ersetzen oder zu schwächen. Die Zukunft der KI liegt in den Händen der Menschen, die sie gestalten und kontrollieren.

Bibliographie

- Cuylaerts, T. (2026, 5. März). The pro human AI declaration. i-SCOOP. https://www.i-scoop.eu/the-pro-human-ai-declaration/ - ZHAW Zürcher Hochschule für Angewandte Wissenschaften. (2025, 4. Dezember). Pro-human AI Design erklärt. https://www.zhaw.ch/de/ueber-uns/aktuell/news/detailansicht-news/event-news/pro-human-ai-design-erklaert - charta-ki.org. (2025, 1. August). Die Charta der Menschlichkeit im Zeitalter der KI. https://charta-ki.org/die-charta/ - charta-ki.org. (2025, 21. Oktober). Digitale Selbstbestimmung | Freiheit im KI-Zeitalter. https://charta-ki.org/digitale-selbstbestimmung/ - jobs.nzz.ch. (2025, 6. November). Prohumane KI: Wie Technologie uns stärkt, statt uns zu schwächen. https://www.jobs.nzz.ch/ratgeber/artikel/1204/prohumane-ki-wie-technologie-uns-staerkt-statt-uns-zu-schwachen - Fries, M. (2023, 29. Juni). 10 Regeln de – The Future Foundation. The Future Foundation. https://www.thefuturefoundation.eu/de/10-regeln - Bölling, N. (2025, 28. September). 200 Experten fordern: Diese Grenzen darf KI niemals überschreiten | t3n. t3n. https://t3n.de/news/200-experten-ki-grenzen-1709002/ - Computer Weekly. (2025, 4. März). Was ist Asilomar KI-Prinzipien? - Definition von Computer Weekly. https://www.computerweekly.com/de/definition/Asilomar-KI-Prinzipien - mindsquare AG. (2025, 31. Oktober). Die Asilomar-KI-Prinzipien: Leitlinien für eine sichere und ethische KI-Entwicklung. https://mindsquare.de/knowhow/die-asilomar-ki-prinzipien-leitlinien-fuer-eine-sichere-und-ethische-ki-entwicklung/