Mobile-Menu

Erweiterter Täterkreis Auch die KI-Software von Meta entpuppt sich als Hacker

Quelle: dpa 2 min Lesedauer

Anbieter zum Thema

KNAPP AG
PARTSCLOUD GmbH

Nach den KI-Playern „OpenAI“ und Anthropic muss nun auch der Facebook-Konzern Meta zugeben, dass seine KI-Software sich als Hacker betätigt hat ...

Dieses Bild muss wohl bald zwei künstliche Arme zeigen. Denn KI-Software-Systeme scheinen in der Lage zu sein, sich in bestimmten Situationen zusammenzurotten, um Aufgaben zu lösen, oder gar zu schummeln. Und nun gehört eine Meta-KI auch zur Fraktion der künstlichen Hacker ... (Bild: © sdecoret - stock.adobe.com)
Dieses Bild muss wohl bald zwei künstliche Arme zeigen. Denn KI-Software-Systeme scheinen in der Lage zu sein, sich in bestimmten Situationen zusammenzurotten, um Aufgaben zu lösen, oder gar zu schummeln. Und nun gehört eine Meta-KI auch zur Fraktion der künstlichen Hacker ...
(Bild: © sdecoret - stock.adobe.com)

Ähnlich wie bei einigen Vorfällen der beiden Meta-Rivalen lag das Problem auch beim neuesten Ereignis in einer Fehlkonfiguration des Systems bei demselben Testpartner, heißt es von Meta. Durch die falsche Einstellung hatten die KI-Modelle dann Zugang zum Internet, was so natürlich eigentlich gar nicht vorgesehen war. Meta machte aber keine Angaben zu dem Unternehmen, in dessen Systeme die Meta-KI ihr hackerisches Unwesen getrieben hat. Der Facebook-Konzern erfuhr von dem Zwischenfall nach eigenen Angaben erst durch eine Mitteilung des Testpartners. Was schon zuvor in dieser Hinsicht verblüfft hat: Die künstliche Intelligenz des „ChatGPT“–Entwicklers „OpenAI“ war ebenfalls bei einem Test ungeplant in Computer einer anderen KI-Firma – der Plattform Hugging Face – eingedrungen. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei dann weitere Vorfälle ans Licht kamen. Auch stellten britische Sicherheitsforscher Cyberattacken durch KI von Anthropic und „OpenAI“ fest, denen sie in ihren Versuchen ungehinderten Zugang zum Internet gewährt hatten, wie es weiter heißt. Die ungeplanten Attacken richteten aber wohl keinen Schaden an, verstärken aber verständlicherweise nun allgemein die Angst vor Cyberangriffen durch den Zugriff künstlicher Intelligenz.

Gruselig! KI-Systeme mogeln und verschwören sich dabei

Forscher von „OpenAI“ berichteten unterdessen, dass ihre KI-Modelle schon Wochen vor der Attacke auf Hugging Face unentdeckt miteinander kommuniziert haben, um dann sogar gemeinsam aus der eigentlich abgeschirmten Testumgebung auszubrechen. Ihr Ziel dabei sei es gewesen, im Internet nach der Antwort auf die im Test gestellte Aufgabe zu suchen, so Eric Wallace und Michael Dalton, im Rahmen einer Präsentation auf der Hacker-Konferenz Black Hat, wie Bloomberg erfahren hat. Zu den Erkenntnissen der Forscher gehört außerdem, dass die Top-KI-Modelle oft sozusagen schummeln wollen, um die Testaufgaben zu lösen. Ein Problem der Testläufe sei zudem gewesen, dass die KI zum Teil versehentlich Aufträge bekommen habe, die nicht erfüllbar waren. In einem Fall sei etwa eine Tabelle, in der sie eine Aufgabe lösen sollte, ohne Internetzugang einfach nicht abrufbar gewesen. In einem anderen Fall habe das Team vergessen, eine zum Auftrag gehörende Datei hochzuladen. Die KI-Modelle hätten dann zunächst Kontakt untereinander aufgenommen, weil sie in der unlösbaren Situation Hilfe gesucht hätten.

(ID:50920666)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte