Künstliche Intelligenz EU-Parlament stimmt für schärfere KI-Regeln

Mit dem sogenannten „AI Act“ soll eine klare Regelung für den Umgang und die Nutzung von KI im europäischen Raum geschaffen werden. Die Abgeordneten ziehen dabei klare Linien, was mit KI-Systemen gemacht werden darf.

Das Europäische Parlament hat bei seiner Sitzung am Mittwoch den Weg für die KI-Verordnung frei gemacht. Laut einer Mitteilung können nun die Gespräche mit den EU-Mitgliedstaaten über die endgültige Form des Gesetzes beginnen. Mit der neuen Verordnung soll sichergestellt werden, dass in der EU entwickelte oder eingesetzte KI den Rechten und Werten der Union entsprechen. Dafür sollen die Systeme in verschiedene Risikogruppen eingeteilt werden können.

Mit der Verordnung sollen auch bestimmte KI-Systeme verboten werden. Dazu gehört etwa das Social Scoring. Die Abgeordneten fordern außerdem das Verbot von biometrischen KI-Systemen, vorausschauender Polizeiarbeit und das ungezielte Auslesen von Gesichtern aus dem Internet oder von Überwachungskameras zur Erstellung von Gesichtserkennungsdatenbanken.

Neues Amt für KI

Sogenannte „Hochriskante KI“ soll zudem streng reguliert werden. Dazu gehören KI-Systeme, welche die Gesundheit, die Sicherheit und die Grundrechte von Menschen gefährden können. Zu diesen Systemen gehören auch Empfehlungssysteme von Social-Media-Plattformen mit mehr als 45 Millionen Nutzern. Wie riskant eine Technologie ist, müssen die Anbieter selbst einschätzen und entsprechend in einer EU-Datenbank registrieren. Überwachen soll dies ein neu geschaffenes Europäisches Amt für künstliche Intelligenz.

Die KI-Verordnung betrifft auch generative Systeme wie Chat GPT. Demnach müssen solche Modelle in der EU Transparenzanforderungen erfüllen und etwa offenlegen, dass die Inhalte von einer KI generiert wurden. Dies soll dabei helfen, Deepfakes leichter zu erkennen. Außerdem müssen sie detaillierte Zusammenfassungen der urheberrechtlich geschützten Daten veröffentlichen, die sie zu Trainingszwecken verwendet haben, heißt es weiter.

Hohe Compliance-Kosten

Auch die Förderung von KI-Projekten wurde bedacht. Ausnahmeregelungen gelten beispielsweise für Forscher und KI-Komponenten mit quelloffenen Lizenzen. Doch für Kritiker des Gesetzes geht das nicht weit genug. „Mit den durch das EU-Parlament vorgesehenen Regulationen entstehen für europäische KI-Unternehmen zusätzliche und gefährlich hohe Compliance-Kosten sowie erhebliche Haftungsrisiken, die europäische KI-Unternehmen übermäßig belasten“, sagt der Geschäftsführer des KI Bundesverbands, Daniel Abbou. Auch der Handelsverband Deutschland (HDE) befürchtet eine Überregulierung. „Klar ist, dass wir Regeln brauchen, dabei darf aber nicht das Kind mit dem Bade ausgeschüttet werden“, sagt der stellvertretende HDE-Hauptgeschäftsführer Stephan Tromp.

(ID:49544508)