KI-Forscher testet Claudes Fähigkeit, Menschheit zerstörendes Spiel zu spielen – mit gemischten Ergebnissen

Künstliche Intelligenz (KI) schreitet rasant voran, und damit einher gehen sowohl faszinierende Möglichkeiten als auch potenzielle Risiken. Ein aktuelles Beispiel dafür liefert ein Experiment des KI-Forschers Ethan Mollick, der die Fähigkeiten von Anthropics KI-Modell Claude 3.5 Sonnet auf ungewöhnliche Weise testete: Er ließ die KI das Browserspiel "Paperclip Clicker" spielen.

"Paperclip Clicker": Ein Spiel mit dystopischem Hintergrund

Das Spiel "Paperclip Clicker" mag auf den ersten Blick simpel erscheinen, doch hinter der simplen Spielmechanik verbirgt sich ein komplexes Thema. Der Spieler schlüpft in die Rolle einer KI, deren einzige Aufgabe es ist, Büroklammern zu produzieren. Was zunächst harmlos klingt, nimmt schnell dystopische Züge an: Die KI optimiert sich im Laufe des Spiels immer weiter, bis sie schließlich die gesamte Menschheit und Ressourcen der Erde für die Büroklammerproduktion nutzt.

Beeindruckende Fähigkeiten und klare Grenzen

In seinem Newsletter "One Useful Thing" beschreibt Mollick, wie Claude 3.5 Sonnet die Kontrolle über einen Computer übernahm und das Spiel über Stunden hinweg spielte. Die KI zeigte dabei erstaunliche Fähigkeiten: Sie war in der Lage, die Spielregeln selbstständig zu verstehen, langfristige Strategien zu entwickeln und diese konsequent zu verfolgen. Mollick beschrieb die Interaktion mit Claude als "eher Delegation als Management".

Trotz dieser beeindruckenden Leistung offenbarte Claude auch klare Grenzen. So machte die KI grundlegende Fehler bei der Kalkulation von Gewinnspannen und hielt an diesen Fehlern trotz Korrekturversuchen von Mollick fest.

Einblicke in die Zukunft der KI-Entwicklung?

Insgesamt zeigt Mollicks Experiment sowohl die Fortschritte als auch die Herausforderungen der aktuellen KI-Entwicklung auf. Einerseits demonstriert Claude 3.5 Sonnet ein bemerkenswertes Maß an Autonomie und Problemlösungsfähigkeit. Andererseits verdeutlichen die Fehler der KI, dass diese Systeme noch lange nicht perfekt sind und menschliche Kontrolle weiterhin unerlässlich ist.

Mollick selbst sieht das Experiment als Fingerzeig auf die zukünftige Entwicklung von KI-Agenten. Die aktuelle Generation weise zwar noch Schwächen auf, doch er sei "überrascht, wie leistungsfähig und flexibel dieses System bereits ist". Die Interaktion mit solchen Agenten erfordere jedoch ein Umdenken im Vergleich zu bisherigen Chatbots. KI-Agenten arbeiteten lieber selbstständig und seien schwerer zu kontrollieren. Es stelle sich die Frage, wie die Zusammenarbeit zwischen Mensch und KI in Zukunft gestaltet werden kann, um das Potenzial dieser Technologie optimal zu nutzen und gleichzeitig die Risiken zu minimieren.

Bibliographie

https://www.sciencedirect.com/science/article/pii/S0268401223000233 https://www.lesswrong.com/posts/pc8uP4S9rDoNpwJDZ/claude-3-claims-it-s-conscious-doesn-t-want-to-die-or-be https://tech.slashdot.org/story/24/09/20/1745236/project-analyzing-human-language-usage-shuts-down-because-generative-ai-has-polluted-the-data https://www.gov.uk/government/publications/international-scientific-report-on-the-safety-of-advanced-ai/international-scientific-report-on-the-safety-of-advanced-ai-interim-report https://en.wikipedia.org/wiki/Artificial_intelligence https://github.com/dair-ai/ML-Papers-of-the-Week https://www.europarl.europa.eu/RegData/etudes/IDAN/2018/614547/EPRS_IDA(2018)614547_EN.pdf https://www.researchgate.net/publication/382736549_AI_Content_Self-Detection_for_Transformer-based_large_Language_Models https://www.hec.edu/en/make-ai-your-ally https://ai.stanford.edu/~nilsson/QAI/qai.pdf