TL;DR: Das Wichtigste
- Die Polizeibehörde veröffentlicht drei Videos, die mithilfe von KI-Modellen erstellt wurden, um die Tücken von Stimmklonen und gefälschten Gesichtern zu veranschaulichen, die ohne besondere technische Kenntnisse hergestellt wurden.
- Kriminelle geben sich mittlerweile als in Not geratene Angehörige oder Kollegen aus, die Geldüberweisungen verlangen, ohne dabei die syntaktischen Fehler oder visuellen Unstimmigkeiten zu zeigen, die solche Manöver früher verrieten.
- Verdächtige Anzeichen sind unerwartete Kontaktaufnahmen, ein Gefühl absoluter Dringlichkeit, emotionaler Druck sowie die Verwendung schwer nachverfolgbarer Zahlungsmittel wie Kryptowährungen.
- Unternehmen und Privatpersonen müssen strenge Überprüfungskanäle und gemeinsame Authentifizierungsprotokolle einrichten, um Manipulationsversuche zu unterbinden.
INTERPOL hat eine öffentliche Aufklärungskampagne gestartet, um vor der zunehmenden Gefahr durch Betrugsversuche zu warnen, bei denen manipulierte oder mithilfe generativer künstlicher Intelligenz erstellte Medien zum Einsatz kommen. Diese Technologien ermöglichen die Erstellung äusserst realistischer gefälschter Audio- oder Videoaufnahmen, die gemeinhin als „Deepfakes“ bezeichnet werden, um Geld zu erpressen oder personenbezogene Daten zu stehlen.
Kriminelle nutzen KI, um die breite Öffentlichkeit zu manipulieren
Generative Anwendungen und grosse Sprachmodelle erfordern weder fundierte IT-Kenntnisse noch ein grosses Budget. Schon wenige Sekunden Sprachaufnahmen oder einige aus dem Internet zusammengetragene Fotos reichen aus, um das äussere Erscheinungsbild oder die genaue Stimmlage einer Person mit verblüffender Genauigkeit nachzubilden. Lange Zeit galten synthetische Medien als eine Bedrohung, die ausschliesslich Persönlichkeiten des öffentlichen Lebens betraf; mittlerweile zielen sie jedoch auch auf normale Bürger ab – durch gefälschte Investitionsangebote, Liebesbetrug oder Erpressung.
Das Wichtigste zu Cybersicherheit, KI & Tech
Werden Sie Teil der Community. 3-mal pro Woche erhalten Sie die Trendanalyse von Marc Barbezat (auf Französisch). Kein Spam, nur Informationen.
Die Vorgehensweise erfolgt häufig in Form eines Videoanrufs eines Kollegen, der um eine dringende Überweisung bittet, oder eines Telefonanrufs eines Angehörigen, der eine kritische Situation vortäuscht. Wie die Leitung des INTERPOL-Innovationszentrums erklärte, beseitigen diese Technologien visuelle oder textliche Hinweise, anhand derer sich eine Falle erkennen liess, wie beispielsweise Rechtschreibfehler oder unprofessionelle Formatierungen. Jeder kann somit zum Ziel werden, unabhängig von Alter oder Tätigkeitsbereich, wie INTERPOL betont.
Im Rahmen des von Japan finanzierten Projekts „SynthWave PLUS“ veröffentlicht die Organisation drei kurze Videos, die selbst mittels algorithmischer Synthese erstellt wurden, um diese Fallstricke anschaulich zu veranschaulichen. Die Initiative zielt darauf ab, den Polizeibehörden ihrer 196 Mitgliedsländer sowie den Nutzern klare Anhaltspunkte an die Hand zu geben, bevor Gelder entwendet werden.
Die Warnsignale lassen erneut eine psychologische Manipulation erkennen
Auch wenn der gefälschte Inhalt authentisch wirkt, beruht der Betrugsmechanismus auf erkennbaren Methoden des Social Engineering. Das erste Warnzeichen ist nach wie vor die unaufgeforderte Kontaktaufnahme durch einen unbekannten Gesprächspartner oder jemanden, der vorgibt, zum Vertrauenskreis zu gehören, und der das Gespräch rasch auf Bankdaten oder Geldüberweisungen lenkt. Die Betrüger erzeugen zudem künstliche Dringlichkeit, um ihren Gesprächspartner daran zu hindern, nachzudenken oder die Anfrage bei einer dritten Person zu überprüfen.
Emotionale Manipulation ist ein weiteres häufig auftretendes Anzeichen, wobei die Betrüger mit Not, Angst oder absoluter Geheimhaltung spielen. Auf Dating-Plattformen entwickelt sich die virtuelle Beziehung in ungewöhnlich schnellem Tempo mit raschen Liebesbekundungen, bevor der Betrüger darum bittet, auf private Messaging-Dienste umzusteigen, um Sicherheitskontrollen zu umgehen. Die Zahlungsweise ist ein entscheidendes Kriterium: Die Kriminellen verlangen systematisch sofortige Banküberweisungen, Geschenkkarten oder Kryptowährungen, deren Rückforderung nahezu unmöglich ist.
Wichtiger Hinweis
INTERPOL hat eine Aufklärungskampagne gestartet, die auf die zunehmende Gefahr durch Kriminalität aufmerksam macht, bei der KI-generierte oder -bearbeitete Medien eingesetzt werden, um die Öffentlichkeit zu betrügen. Die Kampagne umfasst einige Videos sowie eine Liste mit Warnzeichen, auf die man achten sollte.
Organisationen und Privatpersonen verstärken ihre Kontrollmassnahmen
Angesichts des Verschwindens sichtbarer Fehler in betrügerischen Nachrichten beruht die Gegenmassnahme auf der Entwicklung systematischer Überprüfungsreflexe, die sich in der Anweisung zusammenfassen lassen, eine Pause einzulegen, bevor man handelt. Bei jedem verdächtigen Anruf, der eine finanzielle Handlung verlangt, gilt die Regel, aufzulegen und den Anrufer über einen bekannten offiziellen Kanal erneut zu kontaktieren. Im privaten Bereich ermöglicht die Vereinbarung eines geheimen Codeworts zwischen Angehörigen, die tatsächliche Identität eines Anrufers bei einem unerwarteten Anruf zu überprüfen.
Die Geschäftswelt muss ihre Verwaltungsprozesse angesichts der Nachahmung der Stimmen von Führungskräften oder Geschäftspartnern anpassen. Unternehmen müssen ihre Mitarbeiter darin schulen, „Voice-Phishing“ und Manipulationen zu erkennen, und gleichzeitig obligatorische mehrstufige Freigabeverfahren für umfangreiche Überweisungsaufträge einführen. Die Aktivierung der Zwei-Faktor-Authentifizierung für alle digitalen Konten sowie die ständige Aktualisierung der Geräte verringern zudem das Risiko, Opfer von Spyware zu werden.
Im Falle einer verdächtigen Geldüberweisung oder einer nachgewiesenen Erpressung ist es unerlässlich, unverzüglich die örtlichen Strafverfolgungsbehörden sowie Ihre Bank zu benachrichtigen, um zu versuchen, die Transaktionen zu sperren.
Häufig gestellte Fragen zu Deepfake-Betrugsfällen
Was ist ein Deepfake, der für Betrugszwecke eingesetzt wird?
Ein Deepfake bezeichnet ein synthetisches Audio- oder Videomedium, das mithilfe von Tools der künstlichen Intelligenz erzeugt oder verändert wurde, um eine reale Person originalgetreu nachzuahmen. Cyberkriminelle nutzen diese Technik, um gefälschte Anrufe oder Videos zu erstellen, um ihre Opfer bei Erpressungsversuchen oder Geldtransfers zu täuschen.
Warum erschwert künstliche Intelligenz die Aufdeckung von Betrugsfällen?
Aktuelle generative Modelle erzeugen perfekte Stimmen und Gesichter, ohne dass dafür umfangreiche technische Kenntnisse oder ein hohes Budget erforderlich sind. Sie beseitigen die klassischen Warnsignale wie Sprachfehler, schlecht wiedergegebene Logos oder Darstellungsfehler, die in der Vergangenheit Betrugsversuche verrieten.
Was sind die wichtigsten Anzeichen, um einen betrügerischen Anruf mittels Deepfake zu erkennen?
Die charakteristischen Merkmale sind übermässiger Zeitdruck, eine dringende Geldforderung und der Versuch, das Opfer durch Geheimhaltung zu isolieren. Die Betrüger bevorzugen zudem Zahlungsmethoden, die sich nur schwer rückgängig machen oder nachverfolgen lassen, wie beispielsweise Kryptowährungen, Sofortüberweisungen oder Prepaid-Karten.
Wie können sich Unternehmen vor gefälschten Überweisungsaufträgen durch Stimmklonen schützen?
Unternehmen müssen für jede grössere Geldtransaktion mehrstufige Validierungsverfahren einführen, einschliesslich einer mündlichen Bestätigung oder einer Bestätigung über einen vorab festgelegten sekundären Kommunikationskanal. Zudem müssen sie für alle Mitarbeiter regelmässige Schulungen zum Thema Social Engineering und böswillige Telefonakquise organisieren.
Hat Ihnen der Beitrag geholfen?
Ein Kaffee ist ein einfaches Dankeschön für das Monitoring. Ohne Abo, ohne Verpflichtung.
