Mobile-Menu

Wettlauf gegen die KI Warum Automatisierer bei neuen KI-Modellen einen Vorsprung brauchen

Quelle: CISPA 2 min Lesedauer

Anbieter zum Thema

CISPA Helmholtz Center for Information Security
FAULHABER Antriebssysteme
dataTec AG
Schneider Electric GmbH

Neue KI-Generationen finden Schwachstellen in Industrie-Software rasend schnell. Um die Anlagenverfügbarkeit aufrechtzuerhalten, fordern Forscher einen Paradigmenwechsel: Software- und Automatisierungshersteller benötigen exklusiven Vorab-Zugang zu neuen KI-Modellen.

Rennen mit der Roten Königin: Mit Spieltheorie zu mehr Softwaresicherheit im KI-Zeitalter (Bild: CISPA/Chiara Schwarz)
Rennen mit der Roten Königin: Mit Spieltheorie zu mehr Softwaresicherheit im KI-Zeitalter
(Bild: CISPA/Chiara Schwarz)

Wer in der industriellen Fertigung Maschinen am Laufen hält, kennt das Dilemma: Sicherheitspatches fordern oft Systemneustarts, was zulasten der Anlagenverfügbarkeit geht. Im aktuellen KI-Zeitalter verschärft sich dieses Problem dramatisch. Wie Christoph Landolt, Forscher am CISPA Helmholtz-Zentrum für Informationssicherheit, warnt, multiplizieren sich mit jedem Release neuer KI-Modelle die Angriffsmöglichkeiten.Als prominentes Beispiel nennt er den Launch von „Claude Opus 4.6“ im Februar 2026: In nur zwei Tagen fand das Modell über 500 schwerwiegende Schwachstellen in Open-Source-Software. Die Zeitspanne zwischen einer offengelegten Schwachstelle und dem ersten Cyberangriff ist laut den Forschern von ehemals über zwei Jahren (2018) auf mittlerweile rund 10 Stunden geschrumpft. 

Das „Red Queen's Race“ in der Automatisierung

Für Automatisierer gleicht das dem aus „Alice im Wunderland“ bekannten Rennen der Roten Königin: Man muss rennen, nur um auf der Stelle zu bleiben. „Wenn Angreifer schneller neue Schwachstellen entdecken, als User ihre Software updaten können, beginnt das System zu oszillieren“, erklärt Landolt. Das klassische Prinzip der „Responsible Disclosure“ (verantwortungsvolle Offenlegung) stößt an seine Grenzen, wenn KI-Modelle defensives und offensives Wissen gleichzeitig für alle zugänglich machen.
Besonders in der OT ist der Druck enorm. „Der Verteidiger muss nicht nur Sicherheit gewährleisten, sondern auch Verfügbarkeit: Eine Schwachstelle muss erkannt, ein Patch gebaut, getestet und veröffentlicht werden“, so Landolt. Einem Angreifer sei es hingegen egal, ob er einen Anlagenstillstand herbeiführt.

wie sie ihre Entwicklungsabteilungen und Prozesse aufstellen müssen

Konstruktionsleiter-Forum Spotlight
(Bild: VCG)

Die Maschinenverordnung (MVO) und der Cyber Resilience Act (CRA) stellen neue Anforderungen an Security-Maßnahmen für vernetzte Komponenten und Systeme. Dies stellt Hersteller und Betreiber von Maschinen und Anlagen sowie Zulieferer von Komponenten und Systemen vor große Herausforderungen.
Das Konstruktionsleiter-Forum SPOTLIGHT schärft das Bewusstsein für die Anforderungen sowie deren Konsequenzen, die auf Unternehmen zukommen.
 

Jetzt anmelden!

Spieltheorie liefert Lösung: Gestufte KI-Releases

Um Herstellern von Industrie-Software wieder eine realistische Chance zur Verteidigung zu geben, haben die CISPA-Forscher in ihrer Arbeit „The Oracle’s Gambit“ ein spieltheoretisches Modell entwickelt. Das Ergebnis: Die KI-Industrie muss ihre Veröffentlichungsstrategie ändern.
Neue, mächtige „Frontier-Modelle“ dürfen nicht sofort der breiten Masse (und damit Cyberkriminellen) zugänglich gemacht werden. Stattdessen bedarf es einer strikten Sequenzierung:

  1. Exklusiver Zugang für Software-Hersteller und Tech-Konzerne, um Schwachstellen aufzuspüren und Patches für Steuerungen und Systeme zu entwickeln.
  2. Erst wenn die Updates bereitstehen, erfolgt die öffentliche Freigabe der KI.Nur durch diesen zeitlichen Vorsprung, so das Fazit der Forscher, lassen sich Anreize schaffen, Maschinen und Anlagen überhaupt noch wirkungsvoll zu patchen, bevor Hacker die Lücken automatisierbar ausnutzen können.

Originalpublikation:Landolt, Christoph; Lorenz, Tobias; Kwiatkowska, Marta; Fritz, Mario (2026) “The Oracle's Gambit: A Game-Theoretic Framework for Responsible AI Release” In: The 17th Conference on Game Theory and AI for Security (GameSec-26), 26-28 Oct. 2026, Ann Arbor, MI, USA
https://doi.org/10.60882/cispa.33086237

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte