Mobile-Menu

AI Act Neue EU-Verordnung bannt Gefahren durch künstliche Intelligenz

Quelle: Acatech 2 min Lesedauer

Anbieter zum Thema

Schneider Electric GmbH
asecos GmbH
FORCAM ENISCO GmbH

Die Wirtschaft brauche künstliche Intelligenz. Doch die birgt Risiken. Durch den AI Act der EU will man Probleme durch KI ausbremsen.

Die EU hat jetzt den Artificial Intelligence Act durchgewunken. Man hält diese EU-Verordnung, die die Gefahren durch künstliche Intelligenz vermeiden soll für eine Pionierleistung. Es bleibt aber noch einiges zu tun und von Kritik bleibt die Idee auch nicht verschont.(Bild: Tierney - stock.adobe.com)
Die EU hat jetzt den Artificial Intelligence Act durchgewunken. Man hält diese EU-Verordnung, die die Gefahren durch künstliche Intelligenz vermeiden soll für eine Pionierleistung. Es bleibt aber noch einiges zu tun und von Kritik bleibt die Idee auch nicht verschont.
(Bild: Tierney - stock.adobe.com)

Der Artificial Intelligence Act (kurz AI Act) der EU lege klare Regeln für die Entwicklung und den Einsatz von KI-Systemen fest und schaffe damit einen einheitlichen, verbindlichen Rechtsrahmen in Europa. Sein Ziel ist es, die Risiken zu minimieren, die von den Möglichkeiten der KI ausgehen können. Gleichzeitig soll die Verordnung Forschung und Entwicklung zu KI innerhalb der EU wettbewerbsfähig halten und Innovationen fördern. KI-Anwendungen mit unannehmbaren Risiken, wie Bewertungen des sozialen Verhaltens (sogenanntes social scoring) oder die biometrische Identifizierung von Menschen in Echtzeit, werden in Europa verboten, wie man betont. KI-Systeme mit hohem Risiko, wie etwa an Schulen, im Personalmanagement oder in der Strafverfolgung, müssen nun strenge Sicherheitsvorschriften erfüllen, bevor sie auf dem EU-Markt in Verkehr gebracht werden dürfen. Zu diesen Anforderungen zählen unter anderem das Risikomanagement, menschliche Überwachung und Qualität der Trainingsdaten.

Innovationsförderer oder Bremsklotz?

Grundsätzlich lege die Verordnung fest, dass die Nutzung von KI transparent gemacht werden muss. Allen Menschen soll dadurch stets ersichtlich sein, wann sie mit KI in Berührung kommen. Das gelte für den Chatbot ebenso wie für KI-generierte Bilder und Texte, die künftig entsprechend gekennzeichnet werden müssten. Ein weiterer Kernpunkt des AI Acts ist der Umgang mit KI-Basismodellen wie „ChatGPT“, die die Grundlage für viele generative KI-Anwendungen sind. Die Besonderheit ist, dass für solche Modelle zunächst keine bestimmte Nutzung vorgesehen ist. Sie könnten jedoch später in ein Hochrisikosystem integriert werden. Für sie gelten deshalb nun abhängig von ihrer Rechenkapazität unterschiedlich strenge Vorschriften zu Transparenz, Cybersicherheit und Energieeffizienz. Der Artificial Intelligence Act ist nach Meinung der EU-Entscheider ein echtes Pionierinstrument.

Die Definition, welche Informationssysteme unter den zentralen Begriff des KI-Systems fielen, sei aber komplex. Es soll sich etwa um Systeme mit unterschiedlichen Ausprägungen von Autonomie handeln, die nicht allein anhand von Menschen erstellten Regeln operieren. Allerdings sollen laut den Erwägungsgründen wissens- oder regelbasierte Expertensysteme durchaus von der Verordnung erfasst sein. Die Konkretisierung und Anwendung auf konkrete Grenzfälle blieben der Rechtsprechung überlassen. Außer der Definition von KI gibt die Anwendung des Gesetzes in den Mitgliedsstaaten allerdings Anlass für Bedenken. So könnten unterschiedliche Prüfmechanismen, ob ein KI-System dem Gesetz entspricht, den Wettbewerb verzerren. Kritiker bemängeln auch, dass der AI Act insbesondere in mittelständischen Unternehmen KI-Innovationen hemmen könnte. Grund dafür seien die möglichen hohen Kosten für die Einhaltung der EU-Vorschriften.

(ID:50060343)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte