Cybersicherheit Hacker veröffentlichen Chat GPT für Cyberkriminelle

Anbieter zum Thema

BSI Bundesamt f. Sicherheit in der Informationstechnik

FAULHABER Antriebssysteme

Schneider Electric GmbH

MicroControl GmbH & Co. KG

Anwendungen wie Chat GPT können im Alltag helfen und die Arbeit im Büro effizienter machen. Doch mit bösen Absichten kann die KI auch schnell zur Bedrohung werden. Mit Worm GPT haben Cyberkriminelle nun eine neue Möglichkeit entwickelt, um Mitarbeiter in einem Unternehmen reinzulegen.

Experten haben lange davor gewarnt, dass generative KI-Modelle leicht von Kriminellen missbraucht werden könnten. Nun haben Hacker ein neues Tool namens Worm GPT veröffentlicht. Es soll ein Chat GPT für Cyberkriminelle sein und kann benutzt werden, um etwa Business-E-Mail-Compromise-Angriffe (BEC) zu verbessern.

Wie Hacker Daniel Kelley auf dem Blog Slashnext berichtet, können Cyberkriminelle Worm GPT nutzen, um in nur wenigen Sekunden eine überzeugende Fake-E-Mail in den verschiedensten Sprachen zu verfassen. Auch die Personalisierung der E-Mail sei möglich, um die Erfolgschance zu erhöhen. Bei Open AIs Chat GPT werden solche Eingaben blockiert. Bisher mussten Kriminelle mit aufwendigen Umschreibungen arbeiten, um die KI über ihre wahren Absichten zu täuschen. Open AI ist sich dem bewusst und versucht seit dem Release von Chat GPT den Missbrauch ihres Chatbots zu verhindern. Bei Worm GPT gibt es solche ethischen Standards und Einschränkungen jedoch nicht.

KI-Forscher distanzieren sich

Worm GPT basiert auf dem GPT-J Open-Source-Sprachmodell von Eleuther AI, das sich selbst als „Non-profit AI Research Lab“ bezeichnet. Kelley vermutet, dass Worm GPT unter anderem mit Daten und Informationen rund um Viren und Hacking-Tools trainiert wurde. In einem Testlauf konnte Kelley Worm GPT nutzen, um eine gefälschte E-Mail im Namen eines CEOs eines großen Konzerns zu schreiben. In der Mail wurde ein Mitarbeiter angewiesen, eine Rechnung in den nächsten 24 Stunden zu begleichen. Das hochwertige Ergebnis von Worm GPT beunruhigte den Hacker.

Eleuther AI ist sich der Entwicklung rund um ihr Sprachmodell und Worm GPT bewusst. Die KI-Forscher wollen auf Anfrage klarstellen, dass es zwischen ihnen und den Machern von Worm GPT keine Verbindung gebe. „Eleuther AI hat ein Modell entwickelt und es im Einklang mit unserer Open-Source-Mission für den öffentlichen Zugang freigegeben. Die Schöpfer von Worm GPT beschlossen, ihre eigenen Modifikationen auf unser öffentliches Angebot aufzusetzen, um ihr Modell zu erstellen“, so das KI-Lab. Eleuther AI sei besorgt über den Missbrauch dieser Technologie, um Straftaten zu begehen. „Aus diesem Grund finanzieren wir Forschungsarbeiten, die darauf abzielen, die Dual-Use-Fähigkeiten von Modellen einzuschränken und arbeiten mit Computersicherheitsexperten zusammen, um die Schwachstellen der sogenannten Sicherheitsfilter zu finden.“ Dass Cyberkriminelle ein Sprachmodell missbrauchen sei ein großes Problem, für das bisher noch niemand eine Lösung gefunden habe.

Wie Unternehmen sich schützen können

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sieht in der Veröffentlichung von Worm GPT eher einen wachsenden Trend als eine neue Gefahr. Die Einführung des Tools stelle zunächst keine Besonderheit dar, da es auch außerhalb des Darknets frei verfügbare Sprachmodelle ohne Filter und Restriktionen gebe, die teilweise auch lokal installiert werden könnten, teilt eine Sprecherin des BSI auf Anfrage mit. „Das Hauptproblem besteht dabei darin, dass durch die Verfügbarkeit von großen Sprachmodellen oftmals die Einstiegshürde für kriminelle Aktivitäten gesenkt wird und missbräuchlich erstellte Texte sehr schnell in großer Masse und guter Qualität produziert werden können“, so die BSI-Sprecherin.

Für Unternehmen empfiehlt das Bundesamt eine Sensibilisierung der Mitarbeiter für BEC-Angriffe. Auch kryptographische Signaturen können den Urheber einer E-Mail sicher nachweisen. Für kritische Prozesse wie ein Bezahlvorgang, der per Mail angefragt wird, empfiehlt das BSI eine Multi-Faktor-Authentisierung.

(ID:49619832)