Mobile-Menu

Klartext

Das müssen Programmierer in Sachen AI Act jetzt beachten ...

< zurück

Seite: 2/2

Anbieter zum Thema

Universitätsklinikum des Saarlandes
Beckhoff Automation GmbH & Co. KG
Schneider Electric GmbH
HOPPE Unternehmensberatung

Wenn nötig, ist volle Transparenz gefordert

Die Regeln für solche Hochrisikosysteme, zu der außer der Bewerbungssoftware zum Beispiel auch Kreditscoring-Systeme, Software für medizinische Bereiche oder auch Programme, die den Zugang zu Bildungseinrichtungen wie Universitäten managen, gehören, sind im KI-Gesetz streng. Hermanns: „Es muss sichergestellt werden, dass die Trainingsdaten so sind, dass die daraus trainierte KI tatsächlich auch ihre Aufgabe ordentlich erfüllen kann.“ Dabei dürfe es zum Beispiel nicht dazu kommen, dass eine Gruppe von Bewerbern diskriminiert werde, weil sie in den Trainingsdaten kaum vorkomme. Außerdem muss das System laut Sterz aufzeichnen, was genau zu welchem Zeitpunkt passiert – ähnlich wie eine Black Box im Flugzeug. Die Funktionsweise des Systems muss darüber hinaus dokumentiert sein – wie in einem klassischen Benutzerhandbuch. Und der Provider, also der Anbieter einer Software, muss dem späteren Betreiber alle Informationen zur Verfügung stellen, damit dieser das System während seiner Benutzung auch ordnungsgemäß beaufsichtigen kann. So kann er erkennen und berichtigen. Über diese so genannte „Human Oversight“ haben sich Wissenschaftler jüngst in einem anderen Paper Gedanken gemacht.

Das KI-Gesetz wird Europa nicht ausbremsen

„Der AI Act schränkt einige Dinge schon maßgeblich ein. Die meisten Anwendungen jedoch werden nur sehr bedingt betroffen sein“, fasst Hermanns zusammen. Was heute schon verboten ist, ist zum Beispiel die Gesichtserkennung zur Interpretation von Emotionen. Sie werde auch weiterhin verboten bleiben. Unproblematische KI-Systeme, wie zum Beispiel in Videospielen oder für Spam-Filter, sind kaum vom AI Act betroffen. Und die erwähnten Hochrisikosysteme fallen erst dann unter die Regulierung durch das Gesetz, wenn sie in die „freie Wildbahn“ gelangen, führt Sterz weiter aus. Das heißt, wenn sie auf den Markt kommen oder in Betrieb genommen werden. In Forschung und Entwicklung, egal, ob staatlich oder privat, werde es nach wie vor keine Beschränkungen geben. Hermanns: „Ich sehe wenig Risiko, dass Europa durch das KI-Gesetz von der internationalen Entwicklung abgehängt wird.“ Im Gegenteil, er und seine Mitstreiter kommen sogar zu einem wohlwollenden Urteil über das weltweit erste Gesetz, das künstlicher Intelligenz auf einem ganzen Kontinent einen rechtlichen Rahmen gibt. Das Fazit zum Abschluss: Der AI Act ist ein Versuch, KI auf vernünftige Weise zu regulieren – und das ist nach dem Dafürhalten der Experten auch gut gelungen.

(ID:50125603)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte