Sicherheit Wie sich der Missbrauch von KI-Systemen verhindern lässt

Künstliche Intelligenz unterstützt bereits heute Menschen in ihrem Alltag. Doch selbstlernende Systeme können auch zweckentfremdet werden.

Anbieter zum Thema

Janitza electronics GmbH

PEAK-System Technik GmbH

compmall GmbH

Lernende Systeme – Die Plattform für Künstliche Intelligenz Geschäftsstelle | c/o acatech

Autoren der Plattform Lernende Systeme haben ein neues Whitepaper namens „KI-Systeme schützen, Missbrauch verhindern“ veröffentlicht. Wie das Netzwerk mitteilt, müssen von der Entwicklung bis zur Entsorgung eines KI-Systems Einfalltore für eine schadhafte Anwendung geschlossen werden. Als Beispiel ziehen die Autoren unter anderem autonome Fahrzeuge heran. Diese können Personen sicher durch den Straßenverkehr bringen oder im schlimmsten Fall gezielt in eine Menschenmenge gelenkt werden. Dies könne jedoch schon in der Entwicklung solcher Systeme verhindert werden.

Von Anfang an Schwachstellen bedenken

„Fakt ist, dass KI-Systeme von Kriminellen, staatlichen Organisationen oder wirtschaftlichen Wettbewerbern immer auch für unlautere Zwecke missbraucht werden können – sei es, um Spionage zu betreiben, Falschinformationen zu streuen oder Menschen zu überwachen. Wir müssen deshalb den Blick von Anfang an auf mögliche Schwachstellen richten, vom Design bis zur Wartung“, sagt Jürgen Beyerer, Leiter des Fraunhofer-Instituts für Optronik, Systemtechnik und Bildauswertung IOSB und Leiter der Arbeitsgruppe „Lebensfeindliche Umgebungen“ der Plattform Lernende Systeme.

Das Fehlverhalten von Menschen könne in jeder Phase des Lebenszyklus eines KI-Systems zu Risiken führen. Klare Prozesse und Regeln, etwa zum Umgang mit KI im Unternehmen, würden einen missbräuchlichen Einsatz dagegen erschweren. Notwendig sei es, das Wissen zu KI in der Gesellschaft zu stärken und die Auseinandersetzung mit Schwachstellen von KI zu fördern, heißt es im Whitepaper. Zudem empfehlen die Autoren, ausgewählte KI-Systeme regelmäßig von unabhängigen Drittstellen auf Schwachstellen überprüfen zu lassen – auch nach deren Zulassung – sowie die Verantwortlichkeiten und Haftung im Fall eines Missbrauchs auf europäischer Ebene zu klären.

Das gesamte Whitepaper steht auf der Website der Plattform Lernende Systeme zur Verfügung.

(ID:48166111)