TÜV Süd und Quant Pi ebnen Weg für sichere autonome Maschinen

Maschinensicherheit TÜV Süd und Quant Pi ebnen Weg für sichere autonome Maschinen

16.10.2026 Quelle: TÜV Süd 2 min Lesedauer

Anbieter zum Thema

TÜV Süd AG

FAULHABER Antriebssysteme

Schneider Electric GmbH

HMS Technology Center GmbH

Um Vorgaben des EU AI Acts und der Maschinenverordnung zu erfüllen, kooperieren TÜV Süd und Quant Pi. Gemeinsam schaffen sie belastbare, statistische Prüfverfahren für KI-Systeme in der Robotik und Industrieautomation.

Damit autonome Maschinen konform zum neuen EU AI Act betrieben werden können, braucht es künftig statistisch abgesicherte und zertifizierbare Testnachweise für die eingesetzten KI-Systeme. (Bild: © Oleksandr - adobe.stock.com / KI-generiert) — Damit autonome Maschinen konform zum neuen EU AI Act betrieben werden können, braucht es künftig statistisch abgesicherte und zertifizierbare Testnachweise für die eingesetzten KI-Systeme.
(Bild: © Oleksandr - adobe.stock.com / KI-generiert)

Mit dem EU AI Act und der neuen Maschinenverordnung (EU) 2023/1230 stehen Anlagen- und Maschinenbauer vor einer neuen Herausforderung: Übernimmt Künstliche Intelligenz (KI) Sicherheitsfunktionen, müssen Hersteller deren Zuverlässigkeit lückenlos nachweisen. Um diese Lücke zwischen Gesetzgebung und technischer Umsetzung zu schließen, arbeiten TÜV Süd und das Softwareunternehmen Quant Pi künftig bei der Prüfung und Bewertung von KI-Systemen zusammen. Quant Pi bringt sich dabei als weltweit erstes Carat-Partnerlabor des TÜV Süd ein.

Bisher mangelte es an etablierten Verfahren, um die Sicherheit von KI mit statistischer Aussagekraft und reproduzierbarer Methodik für eine Zertifizierung nutzbar zu machen.

Statistik statt klassischer Benchmarks

Bisher mangelte es an etablierten Verfahren, um die Sicherheit von KI mit statistischer Aussagekraft und reproduzierbarer Methodik für eine Zertifizierung nutzbar zu machen. Hier setzt die Plattform von Quant Pi an: Sie beschreibt das Verhalten von KI-Systemen mit statistischen Garantien und definierten Konfidenzgrenzen.

Ein großer Vorteil für Entwickler: Die Methode ist modellunabhängig. Weder der Zugriff auf interne Modellparameter noch auf die ursprünglichen Trainingsdaten ist erforderlich. Da Quant Pi unter einem an der ISO/IEC 17025:2017 ausgerichteten Qualitätsmanagementsystem arbeitet, sind die Prozesse auditierbar. TÜV Süd nutzt diese Ergebnisse als belastbare Grundlage für künftige Konformitätsbewertungen.

wie sie ihre Entwicklungsabteilungen und Prozesse aufstellen müssen

Konstruktionsleiter-Forum Spotlight — (Bild: VCG)

Die Maschinenverordnung (MVO) und der Cyber Resilience Act (CRA) stellen neue Anforderungen an Security-Maßnahmen für vernetzte Komponenten und Systeme. Dies stellt Hersteller und Betreiber von Maschinen und Anlagen sowie Zulieferer von Komponenten und Systemen vor große Herausforderungen.
Das Konstruktionsleiter-Forum SPOTLIGHT schärft das Bewusstsein für die Anforderungen sowie deren Konsequenzen, die auf Unternehmen zukommen.

Jetzt anmelden!

Fokus auf Physical AI und autonome Roboter

Besonders relevant ist die neue Testmethodik für die sogenannte Physical AI – also für autonome mobile Roboter (AMR), fahrerlose Transportsysteme (FTS) und KI-gesteuerte Maschinen. Da sich diese Systeme in dynamischen Produktionsumgebungen bewegen und mit Menschen interagieren, lässt sich ihr Betriebsraum kaum vollständig durchtesten. Statistische Verfahren schaffen hier die notwendige Basis, um aus einer definierten Zahl von Tests verlässliche Aussagen über das Systemverhalten abzuleiten.

Eingebettet in ein globales Ökosystem

Die Zusammenarbeit ist in das wachsende Ökosystem für Physical-AI-Sicherheit eingebunden. Beide Unternehmen sind Mitglieder des Nvidia-Halos-Ökosystems, einer Safety-Plattform für autonome Maschinen. Für Hersteller von Automatisierungstechnik entsteht dadurch ein klarer Pfad: KI-Systeme lassen sich künftig systematisch testen, rechtssicher bewerten und somit konform und skalierbar in internationale Märkte bringen.

KI-Agenten bereiten 3D-Szenen mit Sensor-, Material- und Physikdaten für realitätsnahe Simulationen vor. (Bild: Nvidia)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Business E-mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel Communications Group GmbH & Co. KG, Max-Planckstr. 7-9, 97082 Würzburg einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.