AI Act Neues KI-Gesetz der EU tritt in Kraft – Was ändert sich?

Anbieter zum Thema

FAULHABER Antriebssysteme

Schneider Electric GmbH

HMS Technology Center GmbH

Das Gesetz über künstliche Intelligenz (KI) der EU tritt am 01.08.2024 in Kraft. Was bedeutet das konkret? Welche Strafen drohen und wie geht es weiter?

Seit diesem August haben die Mitgliedsstaaten nun zwei Jahre Zeit, die Vorgaben des sogenannten AI Act in nationales Recht umzusetzen. Mit dem Gesetz wird KI in der Europäischen Union schärfer und einheitlich reguliert. Grundrechte, Demokratie und Rechtsstaatlichkeit sollen damit besser im Umgang mit der Technologie geschützt werden. Was das Gesetz genau bedeutet:

Warum braucht es ein solches Gesetz in der EU?

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll dafür sorgen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.

Welche Regeln beinhaltet das Gesetz?

Die Regelungen sehen vor, KI-Anwendungen in verschiedene Risikogruppen einzustufen. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen strenge Anforderungen erfüllen. Anwendungen mit einem geringeren Risiko unterliegen weniger Verpflichtungen.

KI-Anwendungen, die gegen EU-Werte verstoßen, werden zudem ganz verboten. Dazu gehört etwa die Bewertung von sozialem Verhalten, auch als Social Scoring bekannt. Damit werden in China Bürgerinnen und Bürger in Verhaltenskategorien eingeteilt.

Was bedeutet der AI Act für Verbraucher?

Verbraucherinnen und Verbraucher sollen mit dem Gesetz besser vor risikohaften KI-Anwendungen geschützt werden. So wird Gesichtserkennung im öffentlichen Raum – etwa durch Videoüberwachung an öffentlichen Plätzen – grundsätzlich nicht erlaubt sein. Auch eine Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen wird es mit dem Gesetz in der EU nicht geben.

Außerdem müssen KI-Anwendungen transparenter gekennzeichnet werden. Verbraucher sollen so leichter erkennen, bei welchen Programmen künstliche Intelligenz verwendet wird. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren.

Was ändert sich denn konkret ab dem 1. August?

Erstmal gar nicht so viel. Das KI-Gesetz soll nämlich schrittweise greifen. Einige Regelungen müssen dann zeitnah von den Mitgliedstaaten umgesetzt werden - wie das Verbot von KI-Systemen, die „unannehmbare Risiken“ darstellen. Das sind Systeme, die als Bedrohung für Menschen eingestuft sind. Deren Verbot gilt schon nach einem halben Jahr.

Ein Verhaltenskodex für Anbieter von KI-Modellen soll bis April nächsten Jahres fertiggestellt werden, wie die EU-Kommission vor Inkrafttreten des Gesetzes mitteilte.

Nach zwei Jahren müssen dann größtenteils alle Punkte des Gesetzes vollständig umgesetzt sein. Hochriskante Systeme werden hingegen mehr Zeit haben, um die Anforderungen zu erfüllen. Die sie betreffenden Verpflichtungen gelten nach drei Jahren.

Was passiert, wenn sich jemand nicht an die Regeln hält?

Bei Verstößen drohen empfindliche Strafen: Beim Einsatz von verbotener Technologie etwa bis zu 35 Millionen Euro oder – im Falle von Unternehmen – bis zu sieben Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres. Das genaue Strafmaß muss in diesem Rahmen aber von den Ländern festgelegt werden, wie die Kommission mitteilte.

Bei anderen Verstößen gegen das Gesetz können Strafen von bis zu 15 Millionen Euro oder – im Falle von Unternehmen – bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres fällig werden.

Gibt es Kritik am Gesetz?

Experten und Expertinnen diskutierten zuletzt immer wieder, ob KI durch das Gesetz einen Schub erhält oder die Entwicklung vielleicht sogar ausgebremst wird. Das ist auch abhängig davon, wie die Regelungen in den Ländern letztlich umgesetzt werden.

Außerdem könnten viele Vorgaben angesichts der schnellen technischen Entwicklung von KI-Anwendungen und der schrittweisen Umsetzung der Regelungen schon bald wieder veraltet sein. Die Kommission teilte mit, sie werde jährlich eine Prüfung vornehmen, ob die Liste der „hochriskanten“ Anwendungen überarbeitet oder erweitert werden müsse.

(ID:50118267)