Richtig reagieren KI-Cockpits vermeiden Fehler beim Umgang mit künstlicher Intelligenz

Anbieter zum Thema

Beckhoff Automation GmbH & Co. KG

Schneider Electric GmbH

FORCAM ENISCO GmbH

Im Rahmen von „KI-Cockpit“ haben Forscher und Wirtschaftler etwas entwickelt, was Menschen in herausfordernden Situationen bei der Steuerung von KI-Anwendungen unterstützt ....

Experten vom Fraunhofer-Institut für Arbeitswirtschaft und Organisation (IAO) und vom Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart haben gemeinsam mit Partnern Möglichkeiten entwickelt, die bei der Steuerung von KI-Anwendungen helfen sollen. Der Hintergrund ist, dass Im Mai 2024 die EU das weltweit erste Regelwerk für künstliche Intelligenz (KI) losgetreten hat. Dort ist etwa festgelegt, dass KI-Systeme mit hohem Risiko – zum Beispiel bei kritischer Infrastruktur (Kritis) oder medizinischen Diagnosen – strikt unter menschlicher Aufsicht zu arbeiten haben. Außerdem sollen die Systeme für die User transparent sein. Das Projektkonsortium hat schließlich mit der Caritas, Starwit Technologies sowie Chemistree KI-Cockpits entwickelt. Feldstudien in verschiedenen Beispielsituationen brachten Erkenntnisse darüber, wie der Mensch im Arbeitsalltag den Überblick über verschiedene KI-Systeme behalten kann. Ein gutes Situationsbewusstsein – also das Verständnis für das, was soeben passiert und welche Folgen das haben könnte – sei nämlich sehr wichtig, um richtig handeln zu können.

KI-Cockpits sind für diverse Anwendungen nützlich

Bei Starwit Technologies geht es etwa darum, eine KI-gestützte Verkehrsleitplanung für Kommunen zu entwickeln. Die KI kann dann Gefahrensituationen (etwa Gegenstände auf der Fahrbahn) erkennen, oder durch geschickte Verkehrslenkung dazu beitragen, Staus zu vermeiden. Im KI-Cockpit soll ein Mensch die Entscheidungen der künstlichen Intelligenz nachvollziehen und kontrollieren können.

Und die Caritas Dortmund sucht nach Möglichkeiten, KI-Systeme in der Pflege einzusetzen, um die Beschäftigten bei der täglichen Arbeit zu unterstützen. Denkbar wären zum Beispiel Systeme, welche die aufgenommene Flüssigkeitsmenge von Pflegebedürftigen registrieren, oder Algorithmen, welche die Essensbestellungen an deren individuelle Wünsche anpassen.

KI-Systeme passen sich der User-Mentalität an

Im Fokus der Forschenden des IAO/IAT stand aber nicht nur die allgemeine Gestaltung der KI-Cockpits sondern auch die Absicht, Systeme zu entwickeln, die sich an die mentalen Fähigkeiten der Anwender anpassen. Das soll Überforderung oder Unterforderung vermeiden, wie es heißt. Besonders wichtig sei das in Bereichen, in denen schnelle und richtige Entscheidungen gefordert seien – beispielsweise in sicherheitskritischen Situationen. Entstanden ist daraus ein System, dass die aktuellen mentalen Fähigkeiten des Nutzers analysiert und Informationsflüsse entsprechend anpasst, so die Fraunhofer-Forscher. Alle Software-Anwendungen des KI-Cockpits sowie Begleitliteratur können übrigens kostenfrei auf der Projektwebsite eingesehen und heruntergeladen werden. Unternehmen, die bereits mit KI arbeiten oder planen, KI-Systeme einzuführen, könnten von den Erkenntnissen aus dem Projekt profitieren. IAO und IAT bieten Unternehmen dazu auch eine umfassende Beratung, die auch die Unterstützung bei der Einführung eines individuell anpassbaren KI-Cockpits beinhaltet.

(ID:50476992)