Daten plausibel? Wenn die Daten nicht mehr stimmen, versagt die KI

Anbieter zum Thema

Fraunhofer AISEC - Fraunhofer- Einrichtung für Angewandte und Integrierte Sicherheit

Fraunhofer-Institut für Produktionstechnologie IPT

Klinkhammer Intralogistics GmbH

Schneider Electric GmbH

FORCAM ENISCO GmbH

Am Fraunhofer-Institut AISEC und dem Schwesterinstitut IPT ist man dabei zu untersuchen, wie man verhindert, dass eine künstliche Intelligenz (KI) durch fehlerhafte Daten nicht mehr richtig funktioniert.

Erhält eine künstliche Intelligenz fehlerhafte Daten, kann dieser Umstand zu unvorhergesehenen Entscheidungen führen, was oft mit kostspieligen Folgen einhergeht. Damit ein KI-Versagen in der Produktion nicht vorprogrammiert ist, forschen das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC und das Schwesterinstitut für Produktionstechnik IPT an einer Möglichkeit, mit der KI auch der Realität standhält. Schauen wir uns ein Beispiel zum Problem an: Montagmorgen, die Produktionslinie läuft auf Hochtouren. Ein KI-System überwacht Temperatur, Vibration und Laufzeit, um Maschinenverschleiß und sich damit anbahnende Ausfälle zu erkennen. Alles scheint im grünen Bereich, bis plötzlich ein Kugellager blockiert und die Anlage stillsteht. Die Ursache, wie sich herausstellt, sind verschmutzte Sensoren, die fehlerhafte Werte übermittelten. Die KI erkannte den drohenden Ausfall des Kugellagers deshalb nicht und blieb stumm. Kein Wunder, denn sie wurde nie darauf trainiert, Daten zu hinterfragen.

KI ja – aber mit dem nötigen Maß an Absicherung

Solche Szenarien sind in der industriellen Fertigung leider auch keine Seltenheit. Zwar gilt künstliche Intelligenz als Hoffnungsträger für die Produktion – etwa in der vorausschauenden Wartung oder Qualitätskontrolle – doch die Systeme sind nur so gut wie die Daten, mit denen sie trainiert wurden. In der Praxis sind die Daten, mit der eine KI arbeitet, aber oft fehler- oder lückenhaft. Der Grund dafür sind Sensorprobleme, Manipulation, Datenverluste oder sich wandelnde Umgebungsbedingungen, welche die die Datenlage negativ beeinflussen. Zu all dem sind die Mängel häufig schwer zu erkennen. Wenn ein KI-System solche Daten aber unreflektiert übernimmt und darauf basierend Entscheidungen trifft, können Fehlinterpretationen fatale Folgen haben. Es drohen Stillstände der Maschinen und Anlagen, Ausschuss und– im schlimmsten Fall – sogar Sicherheitsrisiken für diejenigen, die die Maschinen bedienen. Ohne eine solide Datenbasis wird folglich aus der Chance durch die Nutzung von KI sich Vorteile zu verschaffen, ein Risiko. Dem soll aber entgegengesteuert werden.

Bildergalerie

Bisher fehlte ein Qualitätssicherungssystem für Daten

Forschungsvorhaben wie „AIDpro“ (Anomalieerkennug in der Produktion – Datenvalidierung für Produktionsprozesse) setzen deshalb dort an, wo der produktive und verlässliche Einsatz von künstlicher Intelligenz bisher ins Wanken gerät – bei der Sicherung der Datenqualität. Das fehlende Puzzlestück ist bisher ein System, das die Datenqualität absichert, Risiken für den Einsatz von KI reduziert und damit den Weg für eine sichere, effizientere und resilientere Produktion ebnet. Im Rahmen des Projekts wird deshalb ein Validierungssystem entwickelt, das Produktionsdaten automatisiert und in Echtzeit im laufenden Betrieb analysiert. Es prüft kontinuierlich, ob die Daten auch vollständig, plausibel und konsistent sind. Dabei erkennt es frühzeitig Abweichungen und Anomalien. Das Ziel ist es, ein belastbares Datenfundament für alle nachgelagerten KI-gestützten Prozesse zu erreichen.

Mehrere Analyseebenen werden durch das System kombiniert

Dabei geht es um einen mehrschichtigen Prüfansatz, bei dem das System mehrere Anlayseebenen miteinander zu kombinieren versteht. Dazu gehört Folgendes:

• Regelbasierte Prüfungen: Hier wird überprüft, ob alle erwarteten Datenwerte eines Produktionsschritts vorliegen. Jeder Datenpunkt wird mit vordefinierten Datenschemata abgeglichen. Dafür wird Fachwissen aus der Produktion – etwa erwartete Wertebereiche, Formate oder Taktzeiten – in formale Regeln übersetzt. So lassen sich fehlende Sensorwerte, unrealistische Messdaten oder Formatfehler automatisiert erkennen. Man denke etwa an Temperaturwerte außerhalb des technisch möglichen Bereichs, oder plötzliche Sprünge bei Druckwerten durch fehlerhafte Messfühler;

• Statistische Verfahren: Kennzahlen wie Durchschnittswerte, Varianzen oder Korrelationen werden statistisch ausgewertet, um ungewöhnliche Abweichungen vom erwarteten Prozessverhalten zu erkennen. Dazu gehören etwa plötzliche Anstiege oder Einbrüche bestimmter Messwerte, die auf ein defektes Bauteil oder eine fehlerhafte Kalibrierung hinweisen. Auch Zeitreihenanalysen kommen zum Einsatz, um Trends oder wiederkehrende Muster sichtbar zu machen, die auf längerfristige Veränderungen im Systemverhalten hindeuten;

• KI-gestützte Analysen: Auch die KI selbst hilft dabei, die Datenqualität für folgende KI-basierte Prozessschritte abzusichern. KI-Modelle erkennen in den Produktionsdaten nämlich komplexe Muster, kontextuelle und kollektive Ausreißer und Anomalien oder Datendrifts – also sich langsam verändernde Messmuster (etwa durch Verschleiß oder Verschmutzung von Maschinenkomponenten). Solche Hinweise auf sich ändernde Produktionsbedingungen werden genutzt, um das Training produktiver KI-Modelle gezielt nachzubessern. Danach können diese die neuen Rahmenbedingungen in ihre Entscheidungsfindung einfließen lassen.

(ID:50478253)