Sicherheitsherausforderungen und ethische Überlegungen bei humanoiden Robotern

Sicherheitsbedenken bei Humanoiden Robotern: Der Fall Figure AI

Die fortschreitende Entwicklung humanoider Roboter verspricht eine Revolution in verschiedenen Industriezweigen und im Alltag. Doch mit der zunehmenden Leistungsfähigkeit dieser Maschinen wachsen auch die Diskussionen über ihre Sicherheit und die damit verbundenen Risiken. Aktuelle Schlagzeilen rund um das Robotik-Startup Figure AI werfen ein Schlaglicht auf diese komplexe Thematik.

Klage gegen Figure AI: Warnungen vor potenziell tödlicher Kraft

Im Zentrum der Debatte steht eine Klage, die der ehemalige Sicherheitschef von Figure AI, Robert Gruendel, vor einem Bundesgericht in Kalifornien eingereicht hat. Gruendel behauptet, im September 2025 entlassen worden zu sein, weil er wiederholt auf gravierende Sicherheitsmängel bei den humanoiden Robotern seines früheren Arbeitgebers hingewiesen hatte. Laut seiner Klage fehlten Figure AI grundlegende Sicherheitsvorkehrungen, darunter ein System zur Meldung von Vorfällen und Prozesse zur Risikobewertung für die Roboter.

Besonders brisant sind Gruendels Angaben zu Tests, die im Sommer 2025 durchgeführt wurden. Demnach soll ein Figure-Roboter aufgrund eines Fehlers mit erheblicher Kraft gegen einen Kühlschrank geschlagen und dabei eine Person nur knapp verfehlt haben. Der Vorfall hinterließ einen sechs Millimeter tiefen Riss in der Stahltür des Kühlschranks. Gruendel berechnete daraufhin, dass die Roboter über eine Kraft verfügen, die doppelt so stark sei wie die, die zum Brechen eines menschlichen Schädels notwendig wäre. Diese Erkenntnisse, so Gruendel, seien von der Firmenleitung ignoriert oder zurückgenommen worden, obwohl sie zunächst einen von ihm erstellten Sicherheitsplan genehmigt hatte.

Reaktion von Figure AI und die Bedeutung der Vorwürfe

Figure AI hat die Vorwürfe umgehend zurückgewiesen. Gegenüber dem Sender CNBC erklärte das Unternehmen, Gruendel sei aufgrund mangelnder Leistungen gekündigt worden und seine Anschuldigungen seien unwahr. Man werde diese vor Gericht "gründlich widerlegen".

Unabhängig vom juristischen Ausgang des Falls beleuchten die Anschuldigungen eine zentrale Herausforderung in der Entwicklung und Implementierung humanoider Roboter: die Gewährleistung der Sicherheit im Umgang mit diesen leistungsstarken Maschinen. Die Fähigkeit von Robotern, Aufgaben selbstständig auszuführen und auf gesprochene Befehle zu reagieren, wie im März 2024 ein Video des Figure AI Modells 01 zeigte, unterstreicht das enorme Potenzial. Gleichzeitig verdeutlicht es die Notwendigkeit robuster Sicherheitskonzepte.

Hintergrund: Humanoide Roboter und ihre Integration

Humanoide Roboter sind darauf ausgelegt, menschenähnliche Bewegungen und Interaktionen zu ermöglichen, was sie besonders attraktiv für den Einsatz in menschenzentrierten Umgebungen macht. Unternehmen wie Amazon, Mercedes-Benz, BMW, Hyundai und Tesla testen bereits humanoide Roboter in Logistik, Fertigung und anderen Bereichen. Der globale Robotik-Markt wächst rasant und wird voraussichtlich bis 2029 über 73 Milliarden US-Dollar erreichen. Treiber dieser Entwicklung sind unter anderem der Fachkräftemangel, eine alternde Gesellschaft und technische Fortschritte in der Künstlichen Intelligenz (KI) und "Physical AI", die Robotern das Verständnis ihrer Umgebung und das Lernen aus Erfahrungen ermöglichen.

Die Integration dieser Technologien birgt jedoch auch spezifische Herausforderungen:

• Effizienz vs. menschliche Ähnlichkeit: Kritiker hinterfragen, ob die menschenähnliche Gestaltung immer die effizienteste Lösung ist, insbesondere wenn nicht-humanoide Roboter bestimmte Aufgaben schneller und effektiver erledigen könnten.
• Psychologische Wirkung: Humanoide Roboter können bei Menschen psychologische Reaktionen wie Empathie hervorrufen, was eine emotionale Verbindung suggeriert, die nicht existiert. Dies kann die Wahrnehmung von Risiken beeinflussen.
• Regulatorische Lücken: Trotz ihrer menschenähnlichen Erscheinung sind humanoide Roboter Maschinen und müssen europäischen Richtlinien wie der Maschinenrichtlinie 2006/42/EG oder der kommenden Maschinenverordnung EU 1230 entsprechen. Es gibt jedoch noch keine spezifischen Normen für humanoide Roboter, was die Regulierung und die Bestimmung biomechanischer Grenzwerte für den Kontakt mit Menschen erschwert.

Sicherheitsaspekte und zukünftige Herausforderungen

Die Sicherheit von Mensch-Roboter-Interaktionen ist ein zentrales Forschungsfeld. Traditionelle Industrieroboter sind oft durch Schutzzäune vom Menschen getrennt. Bei kollaborierenden Robotern (Cobots), die direkt mit Menschen zusammenarbeiten, müssen Kräfte und Drücke bei Kontakt so begrenzt werden, dass keine Verletzungen entstehen. Hierfür gibt es biomechanische Grenzwerte, die in Normen wie ISO/TS 15066 festgelegt sind.

Bei humanoiden Robotern kommen weitere spezifische Gefährdungen hinzu:

• Unerwartete Bewegungen: Fehlfunktionen oder die unvorhersehbare Natur von KI-gesteuerten Programmen können zu unerwarteten und gefährlichen Bewegungen führen.
• Not-Halt-Systeme: Die Vielzahl an Antriebsmotoren und das Fehlen von Bremsen in vielen humanoiden Robotern erschweren die Implementierung von Not-Halt-Systemen, die eine sofortige und sichere Energietrennung gewährleisten.
• Cybersecurity: Vernetzte Roboter sind anfällig für Cyberangriffe, die ihre Steuerung manipulieren und somit eine Gefahr für Personen darstellen könnten.
• KI-Prüfpflicht: Ab 2027 wird die Maschinenverordnung EU 1230 gesonderte Bestimmungen für Robotersysteme mit maschinellem Lernen vorsehen, die die Personensicherheit betreffen. Hersteller werden eine Baumusterprüfung durch notifizierte Stellen durchlaufen müssen.

Ein neues Normungsprojekt im ISO/TC 299 befasst sich bereits mit "Sicherheitsanforderungen für dynamisch stabile industrielle mobile Roboter", unter die auch humanoide Roboter fallen werden. Dies unterstreicht die Notwendigkeit internationaler Standards für diese aufstrebende Technologie.

Die Rolle der KI und ethische Fragen

Die Verbindung von Robotik und Künstlicher Intelligenz, insbesondere Physical AI, ermöglicht es Maschinen, ihre Umgebung zu verstehen, aus Erfahrungen zu lernen und sich flexibel anzupassen. Dies führt zu einer neuen Generation von Robotern, die nicht nur handeln, sondern auch "denken" können. Diese Entwicklung wirft jedoch tiefgreifende ethische und rechtliche Fragen auf:

• Wer haftet bei Fehlern eines autonom agierenden Roboters?
• Wie wird Transparenz gewährleistet, wenn Algorithmen komplex und nicht vollständig erklärbar sind?
• Wo liegen die Grenzen der Kontrolle, die wir Maschinen zugestehen sollten?

Die Debatte über Roboterethik ist nicht länger eine Zukunftsfrage, sondern eine aktuelle Herausforderung, die aktiv gestaltet werden muss. Es bedarf erklärbarer Systeme, transparenter Prozesse und klarer Aufsichtsstrukturen, um das Vertrauen der Gesellschaft in diese Technologien zu stärken.

Fazit und Ausblick

Der Fall Figure AI verdeutlicht die kritische Bedeutung von Sicherheit und verantwortungsvoller Entwicklung in der Robotik. Während humanoide Roboter das Potenzial haben, menschliche Fähigkeiten zu erweitern und das Leben in vielen Bereichen zu verbessern, müssen Hersteller und Regulierungsbehörden gleichermaßen die notwendigen Rahmenbedingungen schaffen, um potenzielle Gefahren zu minimieren. Dies umfasst nicht nur technische Sicherheitsmaßnahmen und strenge Prüfverfahren, sondern auch eine offene gesellschaftliche Debatte über die ethischen Implikationen und die Rolle dieser intelligenten Maschinen im Alltag. Die Zukunft der Robotik wird maßgeblich davon abhängen, wie erfolgreich es gelingt, technologischen Fortschritt mit umfassender Sicherheit und ethischer Verantwortung zu vereinen.

Bibliography

- Brien, J. (2025, 27. November). Figure-Roboter haben genug Kraft, um Menschen tödlich zu verletzen. t3n.de. - Computerwoche. (2024, 22. August). Humanoide Roboter sind ein Problem! Von Mike Elgan Contributing Columnist. - DerStandard. (2025, 2. November). Vorwürfe gegen Robotikfirma Figure AI. - Deutsche Gesetzliche Unfallversicherung e.V. (2024, 22. April). DGUV: Robotik. - Exxeta. (2025, 12. August). Hightech mit Herz: Warum humanoide Roboter keine Zukunftsvision mehr sind. Von Julian Kramer. - Müller, B. (2025, 1. September). Roboter denken voraus: Spieltheorie verhindert tödliche Unfälle. Telepolis. - Robot-Safety. (2025, 20. Juli). Humanoide Roboter in der Industrie – Sicherheit.