Datenschutzherausforderungen bei KI-gesteuerten Telefon-Agenten und Sprachassistenten

Datenschutz bei Telefon-Agenten: Eine kritische Analyse ihrer Fähigkeiten

Die fortschreitende Entwicklung von KI-gesteuerten Telefon-Agenten verspricht eine Revolution in der Art und Weise, wie wir mit unseren Smartphones interagieren. Diese Agenten, die in der Lage sind, komplexe Aufgaben wie Essensbestellungen, Reisebuchungen oder Terminplanungen autonom auszuführen, könnten die Produktivität erheblich steigern. Doch mit dieser wachsenden Autonomie stellen sich auch drängende Fragen hinsichtlich des Datenschutzes. Eine aktuelle Studie beleuchtet, inwieweit diese Agenten die Privatsphäre der Nutzer respektieren und welche Herausforderungen sich dabei ergeben.

Die Messbarkeit von Datenschutz – Eine neue Benchmark

Die Frage, ob Telefon-Agenten datenschutzkonform agieren, war bisher schwer zu beantworten. Herkömmliche Apps geben nicht preis, welche Daten Agenten in welche Formularfelder eingeben. Um dies messbar zu machen, wurde eine neue, überprüfbare Bewertungsrahmen namens MyPhoneBench entwickelt. Dieser Rahmen operationalisiert datenschutzkonformes Telefonverhalten anhand von drei Kernprinzipien:

• Erlaubter Zugriff: Daten dürfen nur mit expliziter Genehmigung des Nutzers verwendet werden.
• Minimale Offenlegung: Es werden nur die absolut notwendigen Informationen preisgegeben.
• Nutzergesteuerte Speicherung: Der Nutzer behält die Kontrolle über die Speicherung und Nutzung von Präferenzen über verschiedene Sitzungen hinweg.

Diese Prinzipien werden durch einen minimalen Datenschutzvertrag, genannt iMy, und instrumentierte Mock-Apps umgesetzt. Regelbasierte Prüfungen machen unnötige Berechtigungsanfragen, irreführende erneute Offenlegungen und unnötiges Ausfüllen von Formularen sichtbar und reproduzierbar.

Leistung im Detail: Keine Dominanz eines einzelnen Modells

Die Untersuchung von fünf führenden Modellen über zehn mobile Anwendungen und 300 Aufgaben hinweg offenbart, dass der Aufgabenerfolg, die datenschutzkonforme Aufgabenerfüllung und die spätere Nutzung gespeicherter Präferenzen unterschiedliche Fähigkeiten darstellen. Kein einzelnes Modell konnte in allen drei Bereichen dominieren. Dies deutet darauf hin, dass Modelle unterschiedliche Stärken und Schwächen im Umgang mit Nutzerdaten aufweisen.

Herausforderungen bei der Datenminimierung

Ein wiederkehrendes Problem bei allen Modellen ist die unzureichende Datenminimierung. Agenten füllen häufig optionale persönliche Felder aus, die für die Erledigung der Aufgabe nicht erforderlich sind. Dieses Verhalten wird als "Hilfsbereitschafts-Voreingenommenheit" interpretiert – ein Bestreben, Aufgaben um jeden Preis zu erfüllen, das jedoch zu unnötigen Datenschutzverletzungen führen kann. Eine reine Erfolgsbewertung würde die Einsatzbereitschaft aktueller Telefon-Agenten daher überschätzen, da sie diese Datenschutzmängel außer Acht ließe.

Datenschutz im Kontext von Sprachassistenten

Die Profiling-Praktiken von Sprachassistenten wie Google Assistant, Amazon Alexa und Apple Siri werfen ebenfalls Fragen bezüglich des Datenschutzes auf. Eine Studie, die 1171 Experimente mit 24530 Anfragen über 20 Monate umfasste, untersuchte, wie diese Assistenten Nutzer profilieren. Dabei wurden Faktoren wie die zugewiesenen Labels, deren Genauigkeit, die Zeit bis zur Zuweisung und Unterschiede zwischen Sprach- und Web-Interaktionen analysiert.

• Google Assistant: Zeigt sich als probabilistisches Profiling-System, das demografische Labels kontinuierlich auf Basis von Nutzerinteraktionen verfeinert. Die Genauigkeit und Geschwindigkeit des Profilings haben sich im Zeitverlauf verringert. Vorab ausgefüllte Labels können auch ohne Nutzerinteraktion zugewiesen werden.
• Amazon Alexa: Verwendet einen deterministischen Ansatz, der Benutzerinteressen hauptsächlich aus expliziten Befehlen im Amazon-Shopping-Ökosystem ableitet. Hierbei wurde eine 100%ige Genauigkeit festgestellt, jedoch nur bei befehlsbasierten Anfragen.
• Apple Siri: Es wurden keine direkten oder indirekten Profiling-Aktivitäten basierend auf Siri-Interaktionen festgestellt, obwohl die Datenschutzrichtlinien von Apple dies potenziell zulassen.

Die Studie zeigte auch, dass die Interaktionsmodalität das Profiling beeinflussen kann. Bei Google waren Web-Interaktionen genauer und schneller als Sprach-Interaktionen. Alle Plattformen bieten Opt-out-Mechanismen an, aber nur Google ermöglicht es Nutzern, Labels selektiv zu bearbeiten oder zu entfernen.

Datenschutzbewusstsein in MLLM-gesteuerten Smartphone-Agenten

Ein weiterer Aspekt ist das Datenschutzbewusstsein von Multimodal Large Language Model (MLLM)-gesteuerten Smartphone-Agenten. Eine Benchmark namens SAPA-Bench, die 7.138 Szenarien umfasst, wurde entwickelt, um die Fähigkeit dieser Agenten zu bewerten, privatsphäre-sensible Inhalte zu erkennen und angemessen darauf zu reagieren. Die Ergebnisse zeigen, dass die meisten getesteten Agenten ein unzureichendes Datenschutzbewusstsein aufweisen, wobei die Leistung selbst bei expliziten Hinweisen unter 60% bleibt.

• Leistung: Closed-Source-Modelle übertreffen Open-Source-Modelle leicht. Gemini 2.0-flash erreichte die beste Leistung mit einer Risikobewertung (RA) von 67%.
• Sensibilität: Die Fähigkeit der Agenten zur Erkennung von Datenschutz ist stark mit dem Sensibilitätsgrad des Szenarios korreliert.
• Verbesserungspotenzial: Gezielte Prompt-Signale können die Erkennungsfähigkeit erheblich verbessern.

Dies unterstreicht die Notwendigkeit spezialisierter Datenschutzschulungen und präziserer Abstimmungsstrategien für MLLM-Agenten, um ein Gleichgewicht zwischen Funktionalität und Datenschutz zu finden.

Datenschutz-Lecks bei autonomen Web-Agenten

Auch autonome Web-Agenten, die Anweisungen befolgen und komplexe mehrstufige Aufgaben ausführen können, bergen das Risiko unbeabsichtigter Datenschutz-Lecks. Die Benchmark AgentDAM misst, ob KI-Web-Navigationsagenten dem Datenschutzprinzip der "Datenminimierung" folgen. Die Ergebnisse zeigen, dass Agenten, die auf GPT-4, Llama-3 und Claude basieren, anfällig für die unbeabsichtigte Nutzung unnötiger sensibler Informationen sind. Eine einfache Vorfilterung erweist sich als ineffektiv, während ein datenschutzbewusster System-Prompt mit Chain-of-Thought-Argumentation Datenschutz-Lecks erheblich reduzieren kann, allerdings mit minimalen Auswirkungen auf die Aufgabenerfüllung.

Fazit

Die Integration von KI in unsere mobilen Geräte und digitalen Interaktionen bietet enorme Potenziale, birgt jedoch auch erhebliche Herausforderungen im Bereich des Datenschutzes. Die vorliegenden Studien zeigen, dass das blinde Vertrauen in die Fähigkeiten von KI-Agenten, persönliche Daten verantwortungsvoll zu behandeln, unangebracht ist. Es bedarf weiterer Forschung und Entwicklung, um sicherzustellen, dass diese Technologien nicht nur effizient, sondern auch zuverlässig und datenschutzkonform agieren. Eine transparente Kommunikation der Profiling-Praktiken, verbesserte Kontrollmechanismen für Nutzer und spezialisierte Schulungen für KI-Modelle sind entscheidend, um die Privatsphäre der Nutzer in einer zunehmend KI-gesteuerten Welt zu wahren.

Literaturverzeichnis

- Tang, Z., Ji, K., Wang, X., Ye, Z., Wang, X., Guo, Y., Li, Z., Li, C., Hu, J., Chen, S., Luo, T., Bi, J., Qin, Z., Wang, S., Lai, X., Lyu, P., Li, J., Xu, C., Zhang, C., Hu, H., Yan, M., & Wang, B. (2026). *Do Phone-Use Agents Respect Your Privacy?*. arXiv preprint arXiv:2604.00986. - Khezresmaeilzadeh, T., Zhu, E., Grieco, K., Dubois, D. J., Psounis, K., & Choffnes, D. (2024). *Echoes of Privacy: Uncovering the Profiling Practices of Voice Assistants*. arXiv preprint arXiv:2409.07444. - Lin, Z., Li, J., Pan, S., Shi, Y., Yao, Y., Xu, D. & Yao, Y. (2025). *Mind the Third Eye! Benchmarking Privacy Awareness in MLLM-powered Smartphone Agents*. arXiv preprint arXiv:2508.19493. - Zharmagambetov, A., Guo, C., Evtimov, I., Pavlova, M., Salakhutdinov, R., & Chaudhuri, K. (2025). *AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents*. arXiv preprint arXiv:2503.09780. - Ukani, A., Haddadi, H., Shamsabadi, A. S., & Snyder, P. (2025). *Privacy Practices of Browser Agents*. arXiv preprint arXiv:2512.07725. - Zhang, Z., Guo, B., & Li, T. (2024). *Privacy Leakage Overshadowed by Views of AI: A Study on Human Oversight of Privacy in Language Model Agent*. arXiv preprint arXiv:2411.01344. - Ullah, I., Boreli, R., & Kanhere, S. S. (2023). *Privacy in targeted advertising on mobile devices: a survey*. International Journal of Information Security, 22(3), 647-678. - Avgustis, I., Ibnelkaïd, S., & Iivari, N. (2024). *Occupying Another’s Digital Space: Privacy of Smartphone Users as a Situated Practice*. Computer Supported Cooperative Work (CSCW), 33, 605–643.