Mobile-Menu

Cybersicherheit So missbrauchen Cyberkriminelle die KI

Quelle: NTT Data 1 min Lesedauer

KI-Tools können viele Prozesse im Arbeitsalltag vereinfachen. Doch auch Cyberkriminelle haben die Tools für sich entdeckt.

Mit GenAI lassen sich überzeugende Phishing-Mails formulieren oder Deepfakes erzeugen. Gleichzeitig sind KI-Modelle selbst zu neuen Angriffszielen geworden. (Bild: © Ao Zaa Studio - stock.adobe.com)
Mit GenAI lassen sich überzeugende Phishing-Mails formulieren oder Deepfakes erzeugen. Gleichzeitig sind KI-Modelle selbst zu neuen Angriffszielen geworden.
(Bild: © Ao Zaa Studio - stock.adobe.com)

Cyberkriminelle haben künstliche Intelligenz zunehmend für Angriffe auf Unternehmen und deren digitale Prozesse missbraucht. Laut einer Mitteilung von NTT Data reicht das Spektrum dabei von manipulierten Trainingsdaten bis hin zu täuschend echten Deepfakes und automatisierter Malware-Entwicklung.

Im Fokus stehen insbesondere neue Angriffsmethoden auf KI-Systeme selbst: Beim sogenannten Data Poisoning werden Trainings- oder Validierungsdaten gezielt verfälscht, sodass Modelle fehlerhafte Ergebnisse liefern. Ebenso kritisch ist Prompt Injection, bei der Angreifer durch manipulierte Eingaben Schutzmechanismen von Chatbots oder Assistenzsystemen umgehen und so etwa sensible Daten extrahieren können.

Parallel professionalisieren Kriminelle klassische Methoden wie Phishing und Social Engineering mithilfe generativer KI. Hochgradig personalisierte Nachrichten, realistisch wirkende Audio- oder Video-Deepfakes sowie Scareware erhöhen die Erfolgsquote etwa bei CEO-Fraud oder unautorisierten Zahlungsfreigaben erheblich. Auch sogenannte Adversarial Examples stellen ein Risiko dar, da minimale, für Menschen kaum erkennbare Veränderungen Modelle gezielt in die Irre führen können.

Unternehmen sind gefordert, ihre KI-Systeme ganzheitlich abzusichern, heißt es weiter. Dazu zählen kontrollierte Datenpipelines, regelmäßige Modellvalidierung, Eingabe- und Ausgabefilter, klare Zugriffsrechte sowie verhaltensbasierte Sicherheitsanalysen. Ergänzend gewinnen Schulungen der Mitarbeitenden und verbindliche Identitätsprüfungen bei kritischen Prozessen an Bedeutung, um KI-basierte Angriffe frühzeitig zu erkennen und abzuwehren.

(ID:50812537)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung