Suchen

Künstliche Intelligenz

Software von IBM macht KI transparenter

| Redakteur: Katharina Juschkat

IBM stellt eine neue Software vor, die für mehr Transparenz bei der Anwendung von Künstlicher Intelligenz sorgen soll. Sie offenbart, auf welcher Grundlage Entscheidungsvorschläge zustande kommen.

Firmen zum Thema

Die Software soll Künstliche Intelligenz transparenter gestalten.
Die Software soll Künstliche Intelligenz transparenter gestalten.
(Bild: gemeinfrei / CC0)

IBM hat eine neue Software vorgestellt, die mehr Transparenz in den Bereich der Künstlichen Intelligenz (KI) bringen soll. Die Software zeigt in Echtzeit, auf welcher Grundlage Entscheidungsvorschläge zustande kommen und soll automatisch quantitative und qualitative Mängel in Daten und KI-Modellen erkennen. Sie läuft auf der IBM Cloud und soll Unternehmen helfen, KI-Systeme für eine große Bandbreite an Branchen und Kunden nutzbar zu machen, indem sie Vertrauen in die Qualität der Entscheidungsvorschläge schafft.

Grundlage sind Untersuchungen von IBMs Institute for Business Value. Demnach streben zwar 82 % der Unternehmen eine KI-Einführung an, aber 60 % befürchten Probleme mit der Verlässlichkeit der Technologie. Und 63 % haben nicht die Mitarbeiter im Haus, um die Technik sicher zu managen.

Potentielle Mängel von Anfang an vermeiden

Die neue Software in der IBM Cloud arbeitet mit Modellen, die sich aus einer Vielfalt von Frameworks für maschinelles Lernen und KI-Umgebungen wie Watson, Tensorflow, Spark ML, AWS Sagemaker, und Azure ML zusammensetzt. Somit profitieren Unternehmen von den Kontrollmöglichkeiten für die meistverbreiteten KI Frameworks. Man kann damit aber auch die Entscheidungsgrundlagen von jedem Workflow überwachen.

Der vollautomatisierte Software-Service erklärt die Entscheidungsfindung durch KI während der Verarbeitung. So sollen potentielle Mängel in Quantität oder Qualität der dem System zur Verfügung gestellten Daten oder nicht balancierte Ergebnisse von vornherein vermieden werden. Die Software empfiehlt gegebenenfalls automatisch, dem Modell mehr Daten hinzuzufügen, um Anpassungen vorzunehmen.

SEMINARTIPP Mit dem Online-Kurs „Machine Learning – wie lernt die Maschine?“ tauchen Sie tiefer in die Methodik ein. Professor van der Smagt – Leiter Artificial Intelligence bei Volkswagen – erläutert Teilnehmern in zwei Stunden die wichtigsten Konzepte des Machine Learnings konzentriert und verdichtet.
Weitere Informationen

Auch für Mitarbeiter ohne IT-Kenntnisse transparent

Die Erklärungen sind einfach zu verstehen und zeigen alle Faktoren klar auf, die Entscheidungen der KI in die eine oder andere Richtung beeinflusst haben und wie vertrauenswürdig der Vorschlag ist. Die Datengrundlagen zur Treffsicherheit, Ausführung und Fairness und die Herkunft des jeweiligen KI-Modells werden aufgezeichnet. So können Kundenservice oder Compliance-Verantwortliche jederzeit Einsicht nehmen, was auch für die europäische Datenschutzrichtlinie DSGVO wichtig ist.

Diese Möglichkeiten können Mitarbeiter ohne IT-Kenntnisse mit Hilfe von visuellen Dashboards nutzen. So können nicht nur spezialisierte KI-Experten nachvollziehen, wie KI-Entscheidungen getroffen werden, was Abhängigkeiten verhindert und mehr Vertrauen schafft. IBM stellt auch neue Beratungsservices zur Verfügung, mit denen Unternehmen ihre eigenen Prozesse und Schnittstellen von Mensch zu KI erstellen können – um systematische Fehler in den Entscheidungsvorschlägen von KI zu minimieren.

KI fairer machen

Zusätzlich übergibt IBM Research das AI Fairness 360 Toolkit an die Open Source Community. Dabei handelt es sich um eine Bibliothek mit neuartigen Algorithmen, Codes und Tutorials. Mit dieser Hilfe bekommen Akademiker, Forscher und Datenexperten das Wissen und die Fähigkeiten, Verzerrungen eliminieren zu können, während sie an Modellen zum maschinellen Lernen arbeiten. Andere Open-Source-Quellen haben sich nur auf die Entdeckung von Verzerrungen in Trainingsdaten konzentriert. Das IBM AI Fairness 360 Toolkit kann systematische Fehler in KI-Modellen aufdecken und vermeiden helfen. Die weltweite Open-Source-Community ist eingeladen, gemeinsam daran zu arbeiten, die Wissenschaft voranzubringen und Verzerrungen in der KI zu adressieren.

Umfrage: Die Potentiale von Künstlicher Intelligenz

Laut einer von IBM gerade veröffentlichten Studie unter 5.000 Führungskräften gibt es einen signifikanten Richtungswechsel. Und zwar betrifft das den Blick der Entscheidungsträger in der Industrie auf die Potentiale von KI und ihren Beitrag zur Wertschöpfung.

Ergebnisse im Überblick:

  • 82 % der Unternehmen, und 93 % der hoch performanten Unternehmen überlegen, gezielt KI einzuführen, um mehr Umsatz zu erzielen
  • 60 % befürchten Probleme mit der Verlässlichkeit und 63 % haben nicht das nötige Wissen, um KI voll nutzen zu können
  • CEOs vermuten den größten Gewinn einer KI-Adaption in der IT, Informationssicherheit, bei Innovationen, dem Kundenservice und im Risikomanagement.
  • KI wird in zunehmend digitalisierten Branchen eher forciert, wie zum Beispiel in der Finanzbranche

Artikelfiles und Artikellinks

File:

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Kontaktieren Sie uns über: support.vogel.de (ID: 45514357)