Beeindruckend und beängstigend: Neue KI-Technologie kopiert Stimmen in Echtzeit

Einleitung

Die Fortschritte in der Künstlichen Intelligenz (KI) haben eine neue Dimension erreicht. Ein innovativer Chatbot namens TerifAI kann die Stimme eines Benutzers in Echtzeit klonen, während dieser mit ihm spricht. Diese Technologie, die von dem Start-up DeepTrust entwickelt wurde, wirft sowohl Faszination als auch Besorgnis auf. Der Artikel beleuchtet die Funktionsweise dieser Technologie, ihre möglichen Einsatzgebiete und die damit verbundenen ethischen und rechtlichen Herausforderungen.

TerifAI: Die Technologie im Detail

Der Chatbot TerifAI nutzt fortschrittliche Algorithmen der Künstlichen Intelligenz, um die Stimme des Benutzers zu analysieren und zu imitieren. Der Name TerifAI leitet sich von dem englischen Wort "terrify" ab, was "erschrecken" oder "beängstigen" bedeutet. Dies reflektiert die duale Natur der Technologie: Beeindruckend in ihrer Fähigkeit, aber auch potenziell missbrauchbar.

Die Funktionsweise

Um TerifAI zu nutzen, müssen Benutzer dem Programm Zugang zu ihrem Mikrofon gewähren. Der Chatbot beginnt dann, die Stimme des Benutzers zu analysieren und sammelt Informationen über deren Tonhöhe, Rhythmus und Sprachmuster. Mit jeder weiteren Interaktion passt sich die KI an und wird immer präziser in der Imitation der Stimme.

Einsatzgebiete

Die Technologie von TerifAI könnte in verschiedenen Bereichen eingesetzt werden:

- Videokonferenzen: Zum Schutz vor Audio-Deepfakes - Sprachassistenten: Für personalisierte Interaktionen - Unterhaltung: Für Synchronisation und Sprachaufnahmen in der Filmindustrie

Potenzielle Risiken und Missbrauch

Obwohl die Technologie beeindruckend ist, birgt sie auch erhebliche Risiken. Die Möglichkeit, Stimmen in Echtzeit zu klonen, könnte für betrügerische Aktivitäten wie Voice Phishing oder Identitätsdiebstahl missbraucht werden. Dies hat Aman Ibrahim, der Gründer von DeepTrust, dazu veranlasst, TerifAI als "aufklärerische Lektion" zu beschreiben, um die Öffentlichkeit für die Gefahren zu sensibilisieren.

Rechtliche Herausforderungen

Die rechtlichen Rahmenbedingungen für den Einsatz von Stimmenklon-Technologien sind noch unklar. Der Schutz der menschlichen Stimme als persönliches Merkmal ist ein komplexes rechtliches Thema, das sowohl Datenschutz- als auch Persönlichkeitsrechte berührt. Artikel 9 der Datenschutzgrundverordnung (DSGVO) klassifiziert die Stimme als biometrisches Datum, das besonderen Schutz genießt.

Andere Akteure und Entwicklungen

TerifAI ist nicht die einzige Technologie dieser Art. Auch OpenAI, das Unternehmen hinter ChatGPT, hat ein Sprach-KI-Modell namens Voice Engine entwickelt, das anhand einer 15-sekündigen Sprachprobe Stimmen klonen kann. OpenAI hat jedoch beschlossen, die Veröffentlichung dieses Tools aufgrund der Missbrauchsgefahr zurückzuhalten.

Fazit

Die Technologie von TerifAI zeigt das enorme Potenzial und die gleichzeitig bestehenden Gefahren der Künstlichen Intelligenz. Während sie auf der einen Seite beeindruckende neue Möglichkeiten eröffnet, bringt sie auch erhebliche Risiken mit sich. Die rechtlichen und ethischen Fragen, die sich durch solche Technologien ergeben, müssen sorgfältig abgewogen und adressiert werden, um einen verantwortungsvollen Umgang zu gewährleisten.

Quellen

- https://t3n.de/news/beeindruckend-und-beaengstigend-diese-ki-kopiert-eure-stimme-waehrend-ihr-mit-ihr-redet-1635196/ - https://t3n.de/news/beeindruckend-und-beaengstigend-diese-ki-kopiert-eure-stimme-waehrend-ihr-mit-ihr-redet-1635196/?utm_source=rss&utm_medium=feed&utm_campaign=t3n-news - https://de.linkedin.com/posts/juergenseitz_ai-k%C3%BCnstliche-intelligenz-activity-7124673793070936064-AXQa - https://www.heise.de/news/c-t-3003-Mit-KI-jede-Stimme-kopieren-9210251.html - https://www.gew-berlin.de/aktuelles/detailseite/beaengstigend-beeindruckend-aber-nicht-beeindruckend-gut - https://pro.schieb.de/pdf/VIP/week-2020-27.pdf - https://www.lto.de/recht/hintergruende/h/ki-stimme-nachahmen-rechtlicher-schutz-missbrauch-datenschutz-allgemeines-persoenlichkeitsrecht/ - https://www.amazon.de/hz/reviews-render/lighthouse/B000N4S6Y0?filterByKeyword=oblivion+oder+gothic&pageNumber=1 - https://steamcommunity.com/app/35140/reviews/?l=german&browsefilter=toprated&snr=1_5_reviews_