KI-Betrug: Warum Stimme und Schreibstil keine verlässlichen Echtheitsbeweise mehr sind

KI verändert die Glaubwürdigkeit, nicht unbedingt das Betrugsprinzip

Betrugsversuche setzen häufig darauf, Vertrauen zu erzeugen und Menschen unter Zeitdruck zu einer Zahlung oder zur Weitergabe persönlicher Informationen zu bewegen. Generative KI erweitert dabei die Möglichkeiten der Täter: Sie kann Inhalte überzeugender formulieren, Stimmen nachahmen oder Bilder und Videos erzeugen. Die University of Wisconsin–Madison beschreibt KI als Werkzeug, das bekannte Betrugsmethoden automatisieren oder verstärken kann; zugleich seien auch neue Angriffsformen möglich. [3]

Der BBC-Bericht über eine neue Beobachtungsliste von National Trading Standards (NTS) beschreibt mehrere solcher Einsatzformen. Dazu zählen gefälschte Händler-Websites, auf einzelne Personen zugeschnittene Romance-Scams, geklonte Stimmen und Deepfake-Videos sowie personalisierte Phishing-Nachrichten. NTS hat laut BBC erstmals eine AI Scam Watchlist mit Werkzeugen und Techniken veröffentlicht, die Kriminelle nutzen. Der bereitgestellte Bericht fasst einzelne Inhalte der Liste jedoch nicht im Detail zusammen; weitergehende Aussagen über ihren Umfang wären daher nicht belegt. [1]

• Das Risiko liegt nicht nur in auffälligen Fälschungen: KI-generierte Texte können laut BBC fehlerfrei und personalisiert sein. [1]
• Eine überzeugend wirkende Stimme oder ein Video ist laut NTS kein hinreichender Beleg dafür, dass die dargestellte Person tatsächlich kommuniziert. [1]

Gefälschte Shops und digitale Fassaden

Nach dem BBC-Bericht erstellen Betrüger Websites, die den Eindruck kleiner, familiengeführter Anbieter mit hochwertigen, in Großbritannien gefertigten Produkten erwecken. Bilder können etwa eine britische Einkaufsstraße mit Union-Jack-Flaggen zeigen. NTS zufolge kann nach einer Bestellung die Ware ganz ausbleiben oder sich als günstiges, in großer Menge gefertigtes Produkt aus einem Land wie China erweisen. Das sind Warnhinweise der britischen Handelsaufsicht, keine Aussage darüber, dass solche Merkmale jeden Online-Shop verdächtig machen. [1]

Für Unternehmen ist das auch bei Beschaffung und Spesen relevant: Eine professionell gestaltete Website ist für sich genommen kein Beleg für einen legitimen Anbieter. Als praktische Konsequenz empfiehlt sich, vor einer Bestellung die angegebene Geschäftsadresse und die Erreichbarkeit unabhängig zu prüfen. NTS nennt die Überprüfung einer Shop-Adresse ausdrücklich als Recherchebeispiel. [1]

Nähe, Dringlichkeit und persönliche Details

Bei Romance-Scams kann KI nach Darstellung von NTS dabei helfen, persönliche Angaben eines Opfers im Gespräch präsent zu halten und den Kontakt über Wochen oder Monate fortzuführen. Die kalifornische Finanzaufsicht DFPI beschreibt ein verwandtes Muster: KI kann zur Erstellung überzeugender Profile auf sozialen Netzwerken oder Dating-Plattformen genutzt werden; später kann die Person Geld verlangen oder eine angeblich attraktive Investition anpreisen. [1] [4]

Bei einem sogenannten Angehörigen-Notfall wird eine vertraute Stimme nachgeahmt, um eine dringende Geldforderung glaubwürdig erscheinen zu lassen. Die University of Wisconsin–Madison nennt als mögliches Szenario einen vermeintlichen Anruf eines Familienmitglieds und berichtet, dass Betroffene die Stimme für echt hielten. Ein weiteres Beispiel aus der DFPI-Warnung sind falsche Notrufe, in denen angeblich ein Enkel oder ein anderes Familienmitglied finanzielle Hilfe brauche. [3] [4]

Phishing und gefälschte Finanzangebote

KI kann nach dem BBC-Bericht personalisierte Phishing-E-Mails, Textnachrichten und Beiträge in sozialen Medien in großer Zahl erzeugen. Die University of Wisconsin–Madison nennt als mögliche Absender etwa Banken, Einkaufsdienste oder einen vermeintlich vertrauten Helpdesk. Eine von der Navy Federal Credit Union veröffentlichte Verbraucherinformation beschreibt außerdem gefälschte Kundendienst-Chatbots, die Zugangsdaten oder persönliche Informationen abgreifen sollen. Diese Beispiele belegen mögliche Vorgehensweisen, nicht deren Häufigkeit in einzelnen Branchen. [1] [2] [3]

Die DFPI warnt zusätzlich vor gefälschten Investment-Websites und Handelsplattformen, die mit KI-basierten Gewinnen werben können. Nach Darstellung der Behörde kann eine Plattform fiktive Erträge anzeigen, während eine Auszahlung später scheitert und die Betreiber mit dem Geld verschwinden. Als weitere Warnzeichen nennt die DFPI risikofreie Gewinnversprechen, aggressiven Zeitdruck, übertrieben gute Leistungsberichte und gefälschte Konten, die ein Angebot populär erscheinen lassen. Diese Hinweise stammen von einer kalifornischen Aufsichtsbehörde und sind keine pauschale Bewertung sämtlicher KI-Investments. [4]

Warum alte Erkennungsregeln an Aussagekraft verlieren

Rechtschreibfehler und holprige Formulierungen galten lange als mögliche Hinweise auf betrügerische Nachrichten. Der BBC-Bericht zitiert die Verbraucherorganisation Which? mit der Einschätzung, dass solche Fehler nicht mehr zuverlässig zur Erkennung taugen. NTS zufolge können KI-generierte Phishing-Texte personalisiert und fehlerfrei sein. Das bedeutet nicht, dass jede gut formulierte Nachricht betrügerisch ist – aber korrekte Sprache allein bestätigt die Echtheit nicht. [1]

Auch technische Auffälligkeiten in Medien liefern keine sichere Entscheidung. Die University of Wisconsin–Madison nennt etwa ungewöhnliche Hintergrundgeräusche, unnatürliche Gesichts- oder Handbewegungen sowie unstimmige Beleuchtung als mögliche Hinweise. Die Navy Federal Credit Union führt unter anderem nicht synchronisierte Lippenbewegungen, unscharfe Gesichtsränder und unpassende Schatten an. Solche Merkmale können Anlass zur Prüfung sein; die Quellen belegen jedoch nicht, dass ihr Vorhandensein oder Fehlen einen zuverlässigen Test ermöglicht. [2] [3]

Für die Praxis ist daher der Kontext wichtiger als ein vermeintlicher KI-Detektor: Wird unerwartet Geld verlangt? Soll eine vertrauliche Information herausgegeben werden? Wird mit einer sofortigen Kontosperre oder einem Notfall Druck aufgebaut? NTS rät dazu, vor Zahlungen oder der Weitergabe persönlicher Informationen innezuhalten; auch die University of Wisconsin–Madison hebt Dringlichkeit und ungewöhnliche Forderungen als Warnzeichen hervor. [1] [3]

• Behandeln Sie sprachliche Qualität nicht als Echtheitsnachweis. [1]
• Betrachten Sie Auffälligkeiten in Stimme oder Bild als Anlass zur Verifikation, nicht als abschließenden Beweis. [2] [3]
• Prüfen Sie besonders sorgfältig, wenn eine Nachricht zu sofortigem Handeln oder zu einer ungewöhnlichen Zahlung drängt. [1] [3]

Verifikation: den Kontaktweg selbst bestimmen

Bei einer unerwarteten Aufforderung sollten Sie nicht die Telefonnummer, den Link oder die Kontaktdaten aus der fraglichen Nachricht als Prüfweg verwenden. Die University of Wisconsin–Madison empfiehlt, die angebliche Person oder Organisation über eine bereits bekannte Telefonnummer oder E-Mail-Adresse zu kontaktieren. Auch die Navy Federal Credit Union rät, einen bekannten Kontaktweg zu nutzen und unerwartete Links nicht anzuklicken. Damit wird nicht die Gestaltung der Nachricht, sondern die unabhängige Bestätigung zum entscheidenden Schritt. [2] [3]

Bei Anrufen, die angeblich von Angehörigen oder engen Freunden kommen, empfiehlt NTS laut BBC, nicht allein auf die Stimme oder einen Videoanruf zu vertrauen. Eine vorher vereinbarte Familien-Codephrase kann nach den Empfehlungen der University of Wisconsin–Madison und der DFPI helfen, die Identität zu überprüfen. Ergänzend beschreibt die Navy Federal Credit Union den Rückruf über eine bekannte Nummer oder die Nachfrage bei einem weiteren Familienmitglied. Solche Verfahren sind besonders dann sinnvoll, wenn eine Forderung emotional aufgeladen oder zeitkritisch wirkt. [1] [2] [3] [4]

Bei einem Online-Shop können Sie die angegebene Adresse prüfen und das Unternehmen über Kontaktdaten erreichen, die Sie unabhängig ermittelt haben. Geht es um Finanzberatung in Großbritannien, verweist NTS auf den Firm Checker der Financial Conduct Authority (FCA), mit dem sich die Zulassung eines Unternehmens prüfen lässt. Bei einem Jobangebot empfiehlt die Behörde, den betreffenden Betrieb direkt zu kontaktieren, um die Echtheit der Anzeige zu bestätigen. Der FCA-Check ist ein britisches Instrument und lässt sich nicht ohne Weiteres auf deutsche Unternehmen übertragen. [1]

• Geld, Gutscheinkarten oder persönliche beziehungsweise finanzielle Daten sollten Sie laut NTS nicht an eine Person senden, die Sie nicht persönlich getroffen haben. [1]
• Öffnen Sie bei unerwarteten Nachrichten die Website eines Unternehmens lieber selbst, statt einen enthaltenen Link zu verwenden. [2]
• Lassen Sie sich durch eine behauptete Notlage oder drohende Kontosperre nicht zu einer sofortigen Überweisung drängen; prüfen Sie die Forderung zunächst über einen unabhängigen Kanal. [1] [2]

Was Unternehmen daraus für ihre Abläufe ableiten können

Analyse: Die beschriebenen Maschen betreffen mehrere geschäftliche Kontaktpunkte. Gefälschte Shops können Beschaffung und Bestellungen berühren; Phishing kann sich als Nachricht einer Bank oder eines Helpdesks ausgeben; täuschend echte Stimmen oder Videos können die Prüfung einer Anweisung erschweren. Die Quellen dokumentieren diese Betrugsmuster, liefern aber keine Messung ihrer Verbreitung in Unternehmen. [1] [2] [3]

Eine nachvollziehbare Konsequenz ist, Zahlungs-, Änderungs- und Freigabeprozesse so zu gestalten, dass sich eine ungewöhnliche Anweisung über einen zweiten, bereits bekannten Kommunikationsweg bestätigen lässt. Das ist eine abgeleitete organisatorische Maßnahme, keine wörtliche Vorgabe aus den Quellen. Sie knüpft an die dortigen Empfehlungen an, Kontaktdaten unabhängig zu prüfen und Dringlichkeit nicht mit Echtheit zu verwechseln. [1] [2] [3]

Für Mitarbeitende sollte die Leitlinie nicht lauten, Deepfakes allein an Bildfehlern zu erkennen. Aussagekräftiger ist ein klarer Ablauf: bei einer ungewohnten Zahlungsaufforderung pausieren, den bekannten Ansprechpartner selbst kontaktieren und sensible Informationen nicht über den in der Nachricht angebotenen Weg übermitteln. Die Empfehlung ist eine Analyse der geschilderten Risiken und Verifikationshinweise; sie garantiert nicht, dass jeder Betrugsversuch erkannt wird. [1] [2] [3]

Für Finanz- und Beschaffungsteams ist außerdem entscheidend, Prüfungen nicht durch ein professionell wirkendes Angebot zu ersetzen. Die DFPI führt gefälschte Investmentseiten, vorgetäuschte Renditen und künstlich erzeugte soziale Bestätigung als mögliche Warnsignale an; NTS rät bei Shops zur Adressprüfung. Daraus folgt als begrenzte Analyse, dass Anbieteridentität und Zulassung unabhängig geprüft werden sollten, bevor Geld oder sensible Daten übertragen werden. [1] [4]

Wenn Sie bereits reagiert haben

Wenn Sie eine verdächtige Nachricht erhalten, rät die University of Wisconsin–Madison, den Kontakt abzubrechen und nicht weiter auf die Nachricht zu antworten. Haben Sie Geld überwiesen oder Finanzdaten geteilt, empfiehlt die Navy Federal Credit Union, umgehend das Finanzinstitut zu kontaktieren. Sie rät außerdem, Nachrichten und Transaktionsunterlagen zu sichern und Passwörter zu ändern. Diese Maßnahmen sind allgemeine Hinweise der genannten US-Organisationen; die Quellen erläutern nicht, welche rechtlichen Schritte in Deutschland im Einzelfall gelten. [2] [3]

Für Großbritannien nennt der BBC-Bericht Report Fraud als Meldestelle für Betrug und die Citizens Advice Consumer Helpline für Beratung. Die dort angegebenen Telefonnummern und Stellen gelten im britischen Kontext. Die DFPI nimmt Beschwerden für ihren kalifornischen Zuständigkeitsbereich entgegen; die University of Wisconsin–Madison verweist auf die US-amerikanische Federal Trade Commission. In den bereitgestellten Quellen findet sich keine entsprechende deutsche Meldestelle, weshalb hier keine deutsche Kontaktangabe ergänzt wird. [1] [3] [4]

Quellen

1. [1] Don't fall for this - how to protect yourself from AI scams — https://www.bbc.com/news/articles/c60rl1xvjv89o (abgerufen am 2026-10-18)
2. [2] How to Spot and Avoid AI Scams | Navy Federal Credit Union — https://www.navyfederal.org/makingcents/privacy-security/avoid-ai-scams.html (abgerufen am 2026-10-18)
3. [3] AI-Powered Scams: How to Protect Yourself in 2024 | UW–Madison — https://it.wisc.edu/news/ai-powered-scams-how-to-protect-yourself-2024 (abgerufen am 2026-10-18)
4. [4] Protect yourself from AI scams - DFPI — https://dfpi.ca.gov/news/insights/protect-yourself-from-ai-scams (abgerufen am 2026-10-18)