- Ein Betrugsbeispiel aus Frankfurt
- Bislang keine KI-Schockanrufe in RLP
- Unternehmen von KI-Anrufen betroffen
- So kommen die Betrüger an Stimmen-Vorlagen
- Wormser Firma arbeitet an Technik gegen Stimmenfälschung
- So kann man sich vor KI-Schockanrufen schützen
90.000 Euro gefordert: Schriftsteller erhält KI-Anruf
Jürgen Roth, Schriftsteller in Frankfurt, hätte den Betrügern beinahe 90.000 Euro überwiesen. Der 57-Jährige bekam eines Tages einen Schockanruf, vermeintlich von seiner Freundin. "Und dann heulte sie und sagte: Ich hab eine Frau überfahren und die wird wahrscheinlich sterben. Und das war ihre Stimme."
Die Betrüger hatten die Stimme seiner Freundin durch KI technisch erzeugt. Er wurde Opfer einer neuen Betrugsmasche: KI-Schockanrufe!
Roth erzählt, dass zunächst ein Polizist am Telefon gewesen sei – kein echter, wie er heute weiß. Der Polizist sagte, die Freundin habe einen schweren Unfall verursacht und sitze deshalb in Untersuchungshaft. Sie könne nur gegen eine Kaution von 90.000 Euro freikommen. "Die Szenerie war so realistisch", vor allem, als er dann noch die Stimme seiner Freundin hört. "Ich wäre nicht auf den Gedanken gekommen, dass man eine Stimme so haargenau replizieren kann, wie das gemacht wurde."
Unternehmen öfter Opfer von KI-Schockanrufen
"Wir haben bisher bei uns in Rheinland-Pfalz noch keinen bestätigten Fall von KI-Schockanrufen", sagt Mario Germano, Präsident des Landeskriminalamtes. "Bisher gibt es nur vereinzelte Verdachtsfälle, wo im Raum steht, dass es zum Einsatz von KI gekommen sein könnte, um Stimmen perfekt vorzutäuschen." Das Problem ist, dass es keine Aufzeichnungen von solchen Schockanrufen gibt. Die Polizei ist also auf die Aussagen der Opfer angewiesen und die sind sich oft im Nachhinein nicht mehr sicher, was sie genau gehört und wahrgenommen haben.
Die Polizei beobachtet aber, dass es bisher eher Unternehmen sind, die ins Visier der Betrüger kommen. Ein Beispiel: Ein Mitarbeiter einer Firma wird vom vermeintlichen Chef angerufen. Die KI-generierte Stimme des Chefs sagt, es sei ein schwerwiegender Buchungsfehler passiert und fordert den Mitarbeiter auf, eine hohe Summe vom Konto A auf Konto B zu transferieren. "Und wenn man dann der Meinung ist, da ist der Chef selber dran, dann ist natürlich auch die Schwelle, dieser Aufforderung nachzukommen, sehr niedrig", erklärt Germano.
Betrüger ziehen sich Stimmen aus dem Internet
Wie kommen die Täter an das Material, um eine Stimme zu generieren, und wie finden sie ihre Opfer? "Jeder, der schon mal ein eigenes Video irgendwo gepostet hat, am besten noch mit einer Stimme unterlegt, der hat im Endeffekt den Tätern das Material gegeben, um so eine KI-Stimme herzustellen", sagt Maximilian Heitkämper von der Verbraucherzentrale Rheinland-Pfalz. Und man brauche gar nicht viel, betont er, es reiche ein Audio von 20 bis 30 Sekunden, um die KI zu trainieren.
Auch ihre Opfer würden die Täter in solchen Beiträgen im Internet und vor allem in sozialen Medien, wie Instagram und Facebook, finden. "Die Wenigsten machen ja einen Post, wo sie alleine etwas vortragen, sondern es sind irgendwelche Videos mit Familien-Setting. Da sieht man dann noch andere Personen, die sind dann noch mit ihren Accounts verlinkt." Das mache es den Betrügern relativ leicht, eine Zielgruppe zusammenzustellen.
Wormser Firma arbeitet an Technik gegen Stimmenfälschung
Die Firma Kobil in Worms arbeitet derzeit zusammen mit der TU Darmstadt an einer Technik, die solche Fake-Stimmen entlarven soll. "Unsere Software Voice Radar hört bei Telefongesprächen im Hintergrund mit und prüft anhand verschiedener Parameter, ob es sich um eine echte Stimme handelt oder um eine manipulierte Stimme", sagt Direnc Koyun von der Firma Kobil.
Wann die Technik auf den Markt kommt, steht aber noch nicht fest. Langfristiges Ziel der Firma ist es aber, dass die sie Stimmen auch ganz bestimmten Personen zuordnen kann. "Wie ein Stimmen-Zertifikat", erklärt Koyun. Das Unternehmen arbeitet an einer App für die Stadt Worms. Über diese App könnten die Bürger dann mit Behörden kommunizieren, zum Beispiel, wenn es um sensible Dokumente wie Personalausweise geht.
So kann man sich vor KI-Schockanrufen schützen
Für die Betroffenen werden die Anrufe mit geklonten Stimmen von geliebten Personen viel glaubwürdiger. Polizei, Verbraucherschützer und auch der Bankenverband warnen und geben Tipps.
- Nicht überrumpeln lassen. Nehmen Sie sich Zeit nachzudenken, ob der Anruf ein Betrug sein könnte.
- Seien Sie zurückhaltend bei der Veröffentlichung privater Audios, Videos und Fotos im Internet
- Auch wenn die Stimme täuschend echt klingt. Rufen Sie selbst die betreffende Person an. So können Sie überprüfen, ob ihre Tochter oder ihr Enkel tatsächlich angerufen hat.
- Sprechen Sie in der Familie über diese Betrugsmasche und vereinbaren Sie Codewörter.
- Stellen Sie im Telefongespräch Fragen, die nur ihre Angehörigen beantworten können.
- Übergeben und überweisen Sie niemals Geld, ohne den Sachverhalt vorher überprüft zu haben.
Jürgen Roth, der Schriftsteller aus Frankfurt hatte Glück. Er war schon drauf und dran, das Geld zu übergeben, als seine Freundin ihn zufällig anrief. Diesmal die echte.
