NET 3/2025

24 www.net-im-web.de 03/25 KI-generierten Betrug verhindern trügerischen Webseiten täuschen, um so an persönliche Daten oder Zahlungsdaten zu gelangen. Und schließlich lassen sich mit KI personalisierte und überzeugende Phi- shing-Mails verfassen, die schwer von ech- ten Nachrichten zu unterscheiden sind. Diese Mails können nun noch gezielter auf die Opfer zugeschnitten sein, was die Erkennung erschwert. Last but not least sind KI-Tools auch bei der Fälschung von Dokumenten nützlich, beispielsweise für gefälschte Bewerbungen oder Kreditanträ- ge. Schutz auf allen Ebenen Die Bekämpfung von KI-generiertem Be- trug erfordert ein Zusammenspiel verschie- dener Maßnahmen: Menschen, Prozesse und Technologie müssen berücksichtigt werden. Menschen • Sensibilisierung und Medienkom- petenz: Eine breite Aufklärung über die Möglichkeiten von KI-basierten Manipulationen ist entscheidend. Nutzer müssen lernen, kritisch mit Informationen umzugehen und Inhalte zu hinterfragen. Das traditionelle Phishing-Awareness- Training, das sich auf fehlerhafte Sprache, schlechte Grammatik und Rechtschreibung und verdächtige URLs als Indizien konzentrierte, reicht nicht mehr aus. Zu empfehlen sind moderne Angriffssimulationen und Schulungen, die sich auf neue Bedrohungen und das Verhalten von Angreifern konzentrieren. Dazu ge- hört auch die Förderung von Medi- enkompetenz, um gefälschte Inhalte besser erkennen zu können. Ratschläge des FBI • skeptisch gegenüber unerwarteten Anfragen zu sein und Informationen direkt bei der Quelle zu überprüfen. • In Bildern/Videos sollten Empfänger zudem auf subtile Unvollkommen- heiten achten (z. B. unnatürliche Handhaltung, Unregelmäßigkeiten inGesichtern, seltsame Schatten oder unrealistische Bewegungen). • Bei Anrufen auf unnatürlichenTon- fall oderWortwahl achten, umKI-ge- neriertes Stimmklonen zu erkennen. • Schließlich hilft es, die öffentlich zugänglichen Inhalte der eigenen Bilder/Stimmen einzuschränken, Social-Media-Konten auf privat zu stellen und die Follower auf ver- trauenswürdige Personen zu be- schränken. • Zero-Trust-Ansatz: Das Prinzip dahinter ist, niemandem standard- mäßig zu vertrauen und Identitäten sowie Inhalte konsequent zu über- prüfen. Prozesse • Verifizierung muss neu gedacht wer- den: Die Überprüfung von Finanz- transaktionen oder Verträgen durch Verifizierungsanrufe von in Listen festgehaltenen Nummern ist auf- grund von KI-gestütztem Vishing überholt. Es wird empfohlen, eine vordefinierte Stakeholder-Liste zu erstellen, die Zustimmung mehre- rer Stakeholder zu verlangen und eine kodierte Sprache zu verwenden, die nur im eigenen Unternehmen genutzt wird. Für den Einzelnen empfiehlt etwa das FBI, ein geheimes Wort oder einen Satz mit der Familie auszumachen, um die Echtheit des Anrufers zu prüfen. • Eine Policy für GenAI ist unumgäng- lich: In einer unternehmensweiten Richtlinie für den Einsatz generati- ver KI lassen sich die Maßnahmen für die Sicherheit des KI-Einsatzes durchsetzen. Technologie • Authentifizierungsmethoden: Stärkere Authentifizierungsverfahren, wie zum Beispiel die Zwei-Faktor-Authentifizie- rung, können den Zugriff auf sensible Konten erschweren. • Deepfake-Erkennung:Tools, dieDeep- fakes automatisch erkennen können, sind noch in der Entwicklung und funktionieren nicht immer zuverlässig. Trend Micro forscht aktiv in diesem Bereich, um effektive Erkennungs- methoden zu entwickeln. • KI-basierte Betrugserkennung: KI kann auch zur Erkennung von Betrug eingesetzt werden, indem sieMuster in großen Datenmengen analysiert und verdächtige Aktivitäten identifiziert. Trend Micro bietet mit ScamCheck hierzu eine Lösung für Privatanwen- der an, die auf künstlicher Intelligenz basiert. • Erweiterte E-Mail-Sicherheit: E-Mail- Sicherheitslösungen sollten über her- kömmliche Gateways hinausgehen. Um etwa gefälschte Anmeldeseiten zu erkennen, können Schreibstil-Analysen und Computer Vision, also computer- basiertes Sehen, eine wichtige Rolle spielen, denn die Technik kann bis auf die Ebene einzelner Pixel „sehen“. Fazit KI-generierter Betrug ist eine ernstzuneh- mende Bedrohung, die uns alle betrifft. Durch die Kombination von technischen Lösungen, klaren Prozessen, Aufklärung und Wachsamkeit können sowohl Ver- braucher als auch Unternehmen sich besser gegen die zunehmende Bedrohung schüt- zen. Es ist wichtig, sich der Risiken bewusst zu sein und kritisch mit Informationen umzugehen. Die stetige Weiterentwick- lung der KI erfordert eine kontinuierliche Anpassung unserer Schutzmaßnahmen, um den Betrügern immer einen Schritt voraus zu sein.