Das Festnetztelefon klingelt. „Anonym“ steht auf dem Display. Martin (Name von der Redaktion geändert) geht ran. Schluchzen und Weinen dringt durch den Hörer. Dann eine sehr vertraute Stimme: „Ich habe einen Radfahrer überfahren. Er liegt da, ich glaube, er ist tot. Du musst kommen und mir helfen.“ Dann bricht das Gespräch aus unbekannten Gründen ab. Doch es ist ein Anruf, den Martin nicht so schnell vergisst, denn er ist sich sicher, die Stimme am anderen Ende war die seiner Frau. Doch die weiß von nichts...
Schockanrufe sind nichts Neues, doch anscheinend gehen Betrüger nun noch einen Schritt weiter. Es geht um sogenannte Deepfakes – also täuschend echt wirkende, manipulierte Bild-, Audio- oder auch Videoaufnahmen, die mit Hilfe von künstlicher Intelligenz (KI) erschaffen werden. Inzwischen ist es möglich, mit ein paar Minuten Audio-Material Stimmen täuschend echt nachzuahmen.
Unser Newsletter liefert Ihnen die wichtigsten Geschichten des Tages aus der Region.
Eine Chance, die scheinbar das Interesse von Betrügern geweckt hat, wie das Beispiel vom Anfang zeigt, das sich im erweiterten familiären Umfeld einer CT-Redakteurin im Nürnberger Land ereignet hat. Doch wie sieht es eigentlich in Coburg aus? Gibt es KI-Schockanrufe, und wie ist das technisch überhaupt möglich?
Polizeigewerkschaft warnt
Der stellvertretende Bundesvorsitzende der Polizeigewerkschaft, Ralf Kusterer, warnte im August vor Schockanrufen mit Künstlicher Intelligenz. Er habe selbst im Umfeld genau so einen Fall erlebt und prophezeit: „Damit entwickelt sich eine neue Kriminalitätsform.“ In der Hessenschau berichtete im Oktober ein Mann ebenfalls von seinen Erfahrungen mit einem Schockanruf, bei dem er sich sicher ist, dass es die Stimme seiner Freundin ist.
Es sind Fälle wie diese, die zuletzt an die Öffentlichkeit drängten und Schockanrufen eine neue Dimension geben könnten. Doch wie groß ist die Gefahr, dass Betrüger nun auf künstlich generierte Stimmen zurückgreifen, die denen von Familienmitgliedern oder Freunden täuschend echt sind?
„Derzeit liegen uns zu KI gestützten Schockanrufen keine Erkenntnisse vor“, erläutert Michael Munzert, Pressesprecher des Polizeipräsidiums Oberfranken. Auch für Oberfranken seien keine Fälle bekannt, die „nachweislich auf eine künstliche Intelligenz zurückzuführen sind“.
Einschätzung der Polizei
Auch Stefan Probst, Pressesprecher der Polizei Coburg, kann nach Rücksprache mit dem zuständigen Fachkommissariat erst einmal beruhigen. „Für Coburg, Kronach und Lichtenfels ist kein Fall bekannt, in dem nachweislich künstliche Intelligenz angewendet wurde.“ Ganz ausschließen könne man es jedoch nicht.
Meist gibt es zu Beginn solcher Schockanrufe jemanden, der sich für zum Beispiel für ein Enkelkind ausgibt und emotional etwa von einem schweren Unfall erzählt. Anschließend übernimmt oft jemand, der sich zum Beispiel als ein Polizeibeamter ausgibt.
Im Regelfall handele es sich dabei um natürliche Personen, sagt Probst. Doch auch wenn die Fälle noch nicht in den Statistiken auftauchen und es sich wohl aktuell um Einzelfälle handelt – die technischen Möglichkeiten für solche Anrufe gibt es bereits.
Technisch ist es möglich
„Es braucht ein Stimmbeispiel von einer Minute, das reicht aus, um bereits überzeugende Ergebnisse zu erzielen“, sagt Martin Steinebach. Er ist IT-Forensiker am Fraunhofer-Institut für Sichere Informationstechnologie und Spezialist für Künstliche Intelligenz. Im Gespräch mit der Redaktion gibt er einen Einblick in die technische Seite.
„Die Programme sind leicht zugänglich und die Einstiegsversionen gibt es für fünf Euro“, erläutert Steinebach. Für das Klonen einer Stimme wird eine kurze Audioaufnahme in ein Online-Programm hochgeladen, das dann anhand der Probe die Stimme der Person erlernt. „Dann kann man einen Text eintippen und die Audio-Datei herunterladen“, beschreibt Steinebach. So könnten Betrüger einige Sätze vorbereiten.
Und das ist genau eine Schwachstelle, die man nutzen kann, um sich zu schützen. Denn aktuell mangelt es den Programmen noch an Flexibilität. „Die Programme haben aktuell noch ein Problem mit Dialogen“, sagt Steinebach.
Wenn man es schaffe, in der Situation ruhig zu bleiben und in den Dialog zu kommen, könne man Betrüger erkennen. „Man kann versuchen, Details zu fragen, die der Angreifer nicht wissen kann“, sagt Steinebach. Ausgiebige Konversationen sind also aktuell noch eine Hürde. Doch die Programme werden immer intelligenter – und selbstständiger.
Voice-Cloning wird immer besser
Programme, die "Voice Cloning" in Echtzeit betreiben, gebe es bereits, dafür brauche es lediglich größere Rechenleistung und mehr Stimmproben. „Aber verfügbar ist die Software. Die technischen Voraussetzungen dafür findet man in jedem Kinderzimmer mit einem Gaming-PC“, sagt der Experte.
„Der Automatisierungsgrad von solchen Angriffen steigt und die Programme werden auch immer schneller.“ Doch wie sollen Betrüger an Stimmproben gelangen? „Es gibt so viele Möglichkeiten. Ein Anruf von einem angeblichen Marktforscher, dem sie ein, zwei Fragen beantworten. Viele Menschen haben von sich Videos zum Beispiel auf YouTube online. Man braucht erstaunlich wenig an Stimme“, erläutert Steinebach.
Bleiben Sie mit dem Coburger Tageblatt auf dem Laufenden und holen Sie sich jetzt unseren kostenlosen Newsletter.
Wird Künstliche Intelligenz in Zukunft Betrugsmaschen also noch gefährlicher machen? Steinebach kann zumindest aus technischer Sicht eine Einschätzung geben: „Die technischen Möglichkeiten werden besser und das soziale Verhalten begünstigt es. Stellen Sie sich vor: Enkeltrick, ChatGPT und gestohlene Stimme, das wird eine schwer zu durchschauende Kombination.“
Aktuell sind die Opfer von Telefon-Betrugsmaschen meist noch recht willkürlich gewählt. Schockanrufe mit Hilfe von KI scheinen noch Einzelfälle zu sein, könnte zukünftig aber zu einem größeren Problem werden. Bei Martin und seiner Familie jedenfalls sitzt der Schock auch zwei Wochen nach dem Vorfall noch tief: „Das schwingt bei jedem Anruf mit.“
