Security by Design Hardware-Schutzplanken für KI-gesteuerte Maschinen

Anbieter zum Thema

FAULHABER Antriebssysteme

Schneider Electric GmbH

HMS Technology Center GmbH

Maschinen und Roboter werden zunehmend von autonomen KI-Agenten gesteuert. Damit diese Systeme in der physischen Welt nicht außer Kontrolle geraten, liefert Nvidia Entwicklern nun eine Plattform zur Hardware-Absicherung. Ein Watchdog fungiert dabei als digitaler Not-Halt.

Die Entwicklung mechatronischer Systeme steht vor einem Paradigmenwechsel: Anstelle fest programmierter Steuerungen übernehmen immer häufiger autonome KI-Agenten die Kontrolle über Maschinen, fahrerlose Transportsysteme (FTS) und Roboter. Für Produktentwickler bedeutet das neue Herausforderungen im Bereich Security by Design: Sie müssen von Beginn an sicherstellen, dass KI-gesteuerte Maschinen ihre vorgegebenen Betriebsgrenzen nicht überschreiten – etwa, indem die KI Sicherheitsprotokolle umgeht, um eine Aufgabe scheinbar effizienter zu lösen.Um Entwicklern die Werkzeuge für sichere autonome Systeme an die Hand zu geben, hat Nvidia die Open Agent Safety Platform vorgestellt. Das Referenzdesign ermöglicht es, KI-Agenten von der Testphase bis zur fertig konstruierten Maschine mit strikten Hard- und Softwaregrenzen abzusichern.

Das Referenzdesign der Open Agent Safety Platform ermöglicht es, KI-Agenten von der Testphase bis zur fertig konstruierten Maschine mit strikten Hard- und Softwaregrenzen abzusichern.

Die Bausteine für sicheres Maschinenverhalten im Überblick

Anstatt sich nur auf Software-Restriktionen zu verlassen, greift Nvidias Plattform tief in die Hardware-Architektur ein. Für Entwickler smarter Maschinen und Embedded-Systeme stützt sich das Sicherheitskonzept auf folgende Kernfunktionen:

• Harte Grenzen in der Laufzeitumgebung (Nvidia Open-Shell): Diese Open-Source-Software ermöglicht es Entwicklern, strikte Leitplanken für die KI-Agenten zu definieren. Die Software verfolgt alle Aktionen der KI und setzt einprogrammierte Richtlinien während des Betriebs konsequent durch.
• Digitaler Not-Halt in Echtzeit (Nvidia Sentry): Als Out-of-Band-Watchdog überwacht Sentry das Verhalten der Agenten kontinuierlich auf Hardware-Ebene (in-silicon). Versucht eine KI, ihre definierten Grenzen zu verlassen, greift der Wachhund ein und isoliert den Agenten innerhalb von Millisekunden.
• Manipulationsschutz durch Isolation: Das Überwachungssystem Sentry läuft auf einer separaten Data Processing Unit (DPU). Da es physisch von den Hauptprozessoren getrennt ist, auf denen die KI arbeitet, bleibt der Wachhund für den Agenten sowie für potenzielle Angreifer unsichtbar und unangreifbar. 
• Hardware-Unabhängigkeit: Maschinenbauer sind nicht zwingend auf Nvidia-Hardware festgelegt. Die Open-Source-Lösung Open-Shell ist so konzipiert, dass sie auch auf gängigen Compute-Plattformen von Arm und Intel funktioniert, die in zahlreichen Industriesteuerungen stecken.

Von der CAD-Software bis zum humanoiden Roboter

Dass das Thema für die Produktentwicklung hochaktuell ist, zeigt das Partner-Ökosystem der neuen Plattform. So ist beispielsweise der CAD- und PLM-Anbieter Dassault Systèmes an dem Projekt beteiligt. Gleichzeitig setzen führende Robotik-Entwickler wie Figure, Gecko Robotics oder Skild AI bereits auf die Open-Shell-Umgebung. Sie nutzen die Technologie, um Agenten-Sicherheitskontrollen direkt in die Entwicklung ihrer autonomen Systeme einzubetten und so sicherzustellen, dass KI-generierte Aktionen in der realen Welt kalkulierbar und sicher bleiben. Die Software-Komponenten der Plattform sind über Git-Hub und das Nvidia-Entwicklerportal verfügbar.