Umfrage Aktueller Stand der erklärbaren KI

Redakteur: Hendrik Fuhrmann

Trotz des hohen Bedarfs an erklärbarer KI fehlt es an entsprechenden Erfolgsmodellen – und zwar branchenübergreifend. Das zeigt eine vom Bundesministeriums für Wirtschaft und Energie beauftragte Studie.

Firmen zum Thema

Neue Studie beleuchtet aktuellen Stand der Erklärbaren KI.
Neue Studie beleuchtet aktuellen Stand der Erklärbaren KI.
(Bild: © KI-Innovationswettbewerb)

Besonders wichtig für den Erfolg von KI-Anwendungen ist die Erklärbarkeit der Entscheidungen, die mithilfe von Künstlicher Intelligenz getroffen werden. Deshalb hat die Begleitforschung zum KI-Innovationswettbewerb 200 KI-Experten aus Unternehmen und Forschungseinrichtungen zum Thema erklärbare KI befragt.

Die Ergebnisse zeigen, dass vielen Anwendungen sogenannte „Black-Box“-Modelle zugrunde liegen. Anhand dieser Modelle ist es für den Anwender schwer nachvollziehbar, wie eine Entscheidung zustande kommt. Dennoch erwarten die Befragten für die Zukunft eine stärkere Nutzung der „Black-Box“-Modelle, weshalb die Bedeutung von Erklärungsstrategien in Zukunft weiter zunehmen wird. Dieser Zuwachs kann je nach Branche unterschiedlich groß sein. Auf Grundlage der Befragungen wurde daher ein Entscheidungsbaum für erklärbare KI veröffentlicht. Dieser soll Unternehmen und KI-Anwender bei der Auswahl von Erklärungsstrategien und den ersten praktischen Schritten unterstützen.

Im Hinblick auf die Zukunft betonen die Autoren, dass es noch einige regulatorische und technische Herausforderungen gebe. Außerdem verdeutlichen die Umfrageergebnisse, dass die Erklärbarkeit von KI heute zwar für KI-Entwickler und Experten bedeutsam ist. In den kommenden fünf bis zehn Jahren wird dieser Faktor aber auch für Endkunden, Entscheider im Management sowie interne und externe Prüfer wichtiger werden.

(ID:47452815)