Mobile-Menu

Warnung vor Schatten-KI Microsoft warnt vor autonomen Softwarehelfern

Quelle: dpa 2 min Lesedauer

Anbieter zum Thema

Linde Material Handling GmbH
LRQA Deutschland GmbH
FORCAM ENISCO GmbH

Im neuen Cyber Pulse Report warnt Microsoft eindringlich vor dem Einsatz autonomer Softwarehelfer. Der unkontrollierte Einsatz von KI stelle schon heute ein Sicherheitsrisiko für Unternehmen dar.

Laut Microsoft-Studie nutzen 29 Prozent der Mitarbeiter KI-Agenten ohne Genehmigung ihrer IT-Abteilung oder Vorgesetzten.(Bild: © immimagery - stock.adobe.com)
Laut Microsoft-Studie nutzen 29 Prozent der Mitarbeiter KI-Agenten ohne Genehmigung ihrer IT-Abteilung oder Vorgesetzten.
(Bild: © immimagery - stock.adobe.com)

Microsoft warnt vor dem unkontrollierten Einsatz von autonomen Softwarehelfern mit Künstlicher Intelligenz. In seinem aktuellen Cyber Pulse Report, der im Vorfeld der Münchner Sicherheitskonferenz veröffentlicht wurde, stellen Forscher des Softwarekonzerns fest, dass KI-Helfer beim Programmieren bereits in über 80 Prozent der größten Unternehmen (Fortune 500) im Einsatz sind. Die wenigsten Firmen hätten jedoch klare Regeln für die Verwendung der KI. Die rasante Verbreitung berge unkalkulierbare Risiken. Eine mangelnde Übersicht der Verantwortlichen und eine „Schatten-KI“ öffneten Tür und Tor für neue Angriffsmethoden.

Führungskräfte oft unwissend

Unter „Schatten-KI“ versteht man die Nutzung von Anwendungen Künstlicher Intelligenz durch Mitarbeiter, ohne dass die IT- oder Sicherheitsabteilung des Unternehmens davon weiß oder dies offiziell genehmigt hat. Mitarbeiter verwenden eigenmächtig KI-Tools oder Agenten aus dem Internet, also autonom handelnde Computerprogramme, um ihre Aufgaben schneller zu erledigen, ohne dass jemand in der Firmenhierarchie davon in Kenntnis gesetzt wurde.

Der Microsoft-Bericht warnt vor einer wachsenden Diskrepanz zwischen Innovation und Sicherheit. Während die KI-Nutzung explosionsartig wächst, verfügt nicht einmal die Hälfte der Unternehmen (47 Prozent) über spezifische Sicherheitskontrollen für generative KI. Und 29 Prozent der Angestellten nutzen bereits nicht genehmigte KI-Agenten für ihre Arbeit. Dies schaffe blinde Flecken in der Unternehmenssicherheit.

Hastige Einführung erhöht Risiken

Nach Einschätzung der Microsoft-Experten erhöht sich das Risiko, wenn sich die Unternehmen bei der Einführung der KI-Anwendungen nicht genügend Zeit nehmen. „Die schnelle Bereitstellung von KI-Agenten kann Sicherheits- und Compliance-Kontrollen aushebeln und das Risiko von Schatten-KI erhöhen“, heißt es im Bericht. Böswillige Akteure könnten die Berechtigungen von Agenten ausnutzen und sie zu unbeabsichtigten Doppelagenten machen.

Die Autoren der Studie betonen, dass es sich nicht um theoretische Risiken handele. Kürzlich habe das Defender-Team von Microsoft eine betrügerische Kampagne entdeckt, bei der mehrere Akteure eine als „Memory Poisoning“ bekannte KI-Angriffstechnik nutzten, um den Speicher von KI-Assistenten – und damit die Ergebnisse – dauerhaft zu manipulieren.

Zugriff auf Daten begrenzen

In dem Report werden mehrere Gegenmaßnahmen empfohlen, um das Risiko beim Einsatz von KI-Anwendungen möglichst gering zu halten. Die Softwarehelfer mit KI sollten nur Zugriff auf die Daten haben, die sie zwingend für die Lösung ihrer Aufgabe benötigen. Außerdem sollten Unternehmen ein zentrales Register einrichten, um zu sehen, welche KI-Agenten im Unternehmen existieren, wem sie gehören und auf welche Daten sie zugreifen. Nicht genehmigte Agenten müssten identifiziert und isoliert werden.

(ID:50710163)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte