Whitepaper Verstehen, was beim maschinellen Lernen passiert

Wie eine Künstliche Intelligenz zu ihren Ergebnissen kommt, ist nicht immer einfach zu verstehen, aber für sicherheitsrelevante Bereiche wichtig. Ein neues Whitepaper vom TÜV Süd hilft, den Entwicklungsprozess von maschinellem Lernen zu verstehen.

Ein neues Whitepaper, herausgegeben von der Incenda AI GmbH und dem TÜV Süd, beschreibt den gesamten Lebenszyklus des maschinellen Lernens – von der Planung und Entwicklung überwachten Lernens solcher Systeme bis hin zu deren Stilllegung. Das soll für ein besseres Verständnis der Lernprozesse einer künstlichen Intelligenz sorgen. Das Whitepaper „A reliable AI data labeling process“ kann kostenlos heruntergeladen werden.

Künstliche Intelligenz muss verstanden werden

Das KI-Beispiel „Automatisiertes Fahren“ verdeutlicht, wie wichtig es ist, den Entwicklungsprozess des maschinellen Lernens zu verstehen. Hier muss sichergestellt sein, dass das Auto verkehrssicher reagiert. KI-Systeme ziehen ihre eigenen Schlüsse aus den vorhandenen Daten und lernen beim Trainieren von Verkehrssituationen immer neu hinzu. Das macht es sehr schwer, Methoden für die Sicherheit von Systemen mit Künstlicher Intelligenz zu entwickeln.

Das Whitepaper will genau dabei helfen und unterstützen, die Entwicklungsprozesse des maschinellen Lernens zu verstehen. Ein zentrales Element der Forschungsarbeit ist der Blick auf den Labeling-Prozess, durch den sich die eingesetzte Künstliche Intelligenz iterativ selbst verbessern kann. Der Aufwand für händisches Labeln von Daten wird dadurch deutlich reduziert. Auch die Bewertung, ob Daten zu einem guten oder schlechten Ergebnis in der Entwicklung geführt haben, ist Bestandteil der Arbeit.

Christian Pahlke, Head of Software & Systems Quality bei TÜV Süd, erklärt: „Wir müssen genau verstehen, was beim Machine Learning passiert. Denn nur dann können wir eingreifen und das Lernen gezielt steuern. Wir müssen nicht nur wissen, ob ein Fahrzeug bremst, sondern auch warum.“

Das Whitepaper ist von TÜV Süd gemeinsam mit Incenda AI im Rahmen des Forschungsprojekts Open Genesis erarbeitet worden. Hier erforschen die Partner das Lernverhalten von KI-Systemen, um deren Reaktionen kontrollieren zu können. Kernstück ist die Entwicklung einer offenen Plattform für OEM, Zulieferer und Technologieunternehmen.

(ID:47034197)