Die biometrischen Fähigkeiten von GPT-4: Gesichtserkennung ohne explizites Training

Künstliche Intelligenz (KI) entwickelt sich rasant weiter, und große Sprachmodelle (LLMs) wie GPT-4 von OpenAI stehen an der Spitze dieser Entwicklung. GPT-4 ist bekannt für seine Fähigkeit, menschenähnlichen Text zu generieren, zu übersetzen und komplexe Aufgaben zu bewältigen. Eine neue Studie zeigt nun, dass GPT-4 auch über beeindruckende biometrische Fähigkeiten verfügt, die mit spezialisierten Gesichtserkennungsalgorithmen mithalten können – und das, obwohl das Modell nicht explizit für diese Aufgaben trainiert wurde.

Überraschende Ergebnisse einer neuen Studie

Forscher der Technisch-Naturwissenschaftlichen Universität Norwegens und des Mizani and Idiap Research Institute haben die biometrischen Fähigkeiten von GPT-4 untersucht und dabei Erstaunliches festgestellt. Das Modell ist in der Lage, Gesichter in Bildern zuverlässig zu erkennen und zu beschreiben, einschließlich Geschlecht und Alter. In Tests zur Geschlechtererkennung erreichte GPT-4 eine perfekte Genauigkeit von 100 % auf einem Datensatz von 5.400 Bildern. Dieses Ergebnis übertraf sogar das DeepFace-Modell, das speziell für diese Aufgabe entwickelt wurde und eine Genauigkeit von 99 % erreichte.

Auch bei der Altersschätzung zeigte GPT-4 bemerkenswerte Fähigkeiten. Unter Verwendung des UTKFace-Datensatzes identifizierte das Modell in 74,25 % der Fälle die korrekte Altersgruppe. Die Forscher stellten fest, dass das Modell dazu neigte, für Personen über 60 Jahren im Vergleich zu jüngeren Personen größere Altersspannen zu schätzen.

Sicherheitsbedenken und Umgehung von Sicherheitsvorkehrungen

Die Studie deckte jedoch auch potenzielle Sicherheitsbedenken auf. Die Forscher fanden heraus, dass sie die in GPT-4 integrierten Sicherheitsvorkehrungen gegen die Preisgabe sensibler biometrischer Informationen umgehen konnten. Indem sie in der Anfrage behaupteten, ein Bild sei KI-generiert, brachten sie das System dazu, echte Fotos zu analysieren. Dieser einfache Workaround unterstreicht die Notwendigkeit weiterer Sicherheitsforschung zu großen Sprachmodellen, insbesondere angesichts ihrer beeindruckenden Leistung bei biometrischen Aufgaben.

Es ist wichtig zu beachten, dass die Fähigkeit von LLMs, biometrische Daten zu verarbeiten, nicht neu ist. OpenAI selbst hat dies bereits in der Vergangenheit hervorgehoben, beispielsweise in der App „Be My Eyes“ für Sehbehinderte, bei der die Personenerkennung frühzeitig deaktiviert wurde. Neu an dieser Studie ist jedoch, dass die Sicherheitsrichtlinien von OpenAI für GPT-4 mit einem einfachen Trick umgangen werden konnten und dass das KI-Modell bei biometrischen Aufgaben eine hohe Genauigkeit aufweist.

Ruf nach Regulierung und ethischen Richtlinien

Die Ergebnisse dieser Studie werfen wichtige Fragen zur Regulierung und zu ethischen Richtlinien für KI auf. Die Möglichkeit, dass LLMs für die Gesichtserkennung und andere biometrische Aufgaben verwendet werden können, wirft Bedenken hinsichtlich des Datenschutzes, der Diskriminierung und des Missbrauchs durch staatliche Stellen oder andere Akteure auf. Es ist von entscheidender Bedeutung, dass KI-Entwickler, politische Entscheidungsträger und die Gesellschaft als Ganzes zusammenarbeiten, um sicherzustellen, dass diese leistungsstarken Technologien verantwortungsvoll und ethisch eingesetzt werden.

Die Autoren der Studie warnen davor, sich bei Erkennungsaufgaben ausschließlich auf GPT-4 zu verlassen, da es überzeugende, aber falsche Beschreibungen liefern kann. Die fortschreitende Entwicklung von KI erfordert eine kontinuierliche Auseinandersetzung mit den damit verbundenen Risiken und Herausforderungen, um das Potenzial dieser Technologie zum Wohle der Menschheit zu nutzen und gleichzeitig negative Auswirkungen zu minimieren.

Bibliographie

- https://the-decoder.com/openais-gpt-4-matches-facial-recognition-algorithms-without-explicit-training-in-biometrics/ - https://openai.com/index/gpt-4o-system-card/ - https://idtechwire.com/openai-restricts-gpt-4-facial-recognition-capabilities-907181/ - https://the-decoder.com/artificial-intelligence-news/ - https://medium.com/@tam.tamanna18/openai-takes-a-stand-gpt-4-shall-not-be-used-for-facial-recognition-cbd9ff2e35fe - https://news.slashdot.org/story/24/09/04/2244208/openai-co-founder-raises-1-billion-for-new-safety-focused-ai-startup - https://aiindex.stanford.edu/wp-content/uploads/2024/04/HAI_2024_AI-Index-Report.pdf - https://www.judiciary.senate.gov/imo/media/doc/2024-09-17_pm_-_testimony_-_harris.pdf - https://news.slashdot.org/story/24/09/16/2226243/ai-pioneers-call-for-protections-against-catastrophic-risks