Mobile-Menu

So geht es nicht weiter ... Microsoft-Chef Nadella pocht auf Notbremse für KI

Quelle: dpa 2 min Lesedauer

Anbieter zum Thema

Beckhoff Automation GmbH & Co. KG
Schneider Electric GmbH
PARTSCLOUD GmbH

Microsoft-Chef Satya Nadella hat aus Sorge vor einem Kontrollverlust eine Art Notbremse mit Blick auf die jüngsten Geschehnisse mit künstlicher Intelligenz gefordert ...

Nachdem sich vor einiger Zeit KI-Modelle unerlaubt ins Netz geschlichen haben, um ihnen gestellte Aufgaben zu lösen, wächst die Angst vor solchen Ausbrüchen. Kein Geringerer als der Microsoft-Chef Satya Nadella drängt nun auf eine Art Notbremse für allzu freche KI-Modelle ...(Bild: KI-generiert)
Nachdem sich vor einiger Zeit KI-Modelle unerlaubt ins Netz geschlichen haben, um ihnen gestellte Aufgaben zu lösen, wächst die Angst vor solchen Ausbrüchen. Kein Geringerer als der Microsoft-Chef Satya Nadella drängt nun auf eine Art Notbremse für allzu freche KI-Modelle ...
(Bild: KI-generiert)

Zum Hintergrund: In den vergangenen Monaten hatten eigenständige Hacking-Attacken durch KI-Software in Tests Ängste vor Risiken befeuert. Ein Mensch muss immer in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, forderte Nadella in einem Beitrag auf der Online-Plattform X. Hochentwickelte Modelle würden dafür auch fortgeschrittene Mechanismen zur Eindämmung erfordern. In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz des „ChatGPT“-Entwicklers aus einer abgesicherten Testumgebung sozusagen ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt – in die Plattform Hugging Face. Einige Brancheninsider sprachen danach davon, dass man nicht ganz ausschließen kann, dass außer Kontrolle gerate künstliche Intelligenz die Menschheit vernichten kann. Solche extremen Warnungen werden allerdings von anderen Experten angezweifelt.

Kein KI-Modell darf Kontrolle über Daten haben

Nadella betonte dabei auch, dass alle Aktionen künstlicher Intelligenz in Zukunft für Menschen nachvollziehbar sein müssen. Etwas, was man nicht überwachen kann, kann man nicht vertrauen, schrieb er dazu. Außerdem dürfe kein KI-Modell die Kontrolle über die Daten haben, mit denen man sein Verhalten bewerte. Man müsse bei jedem KI-Modell zur Sicherheit von Beginn an davon ausgehen, dass es kompromittiert sei und deshalb Eindämmungsmechanismen einrichten. Der Unterschied zu bisher eingesetzter Software ist dann demnach, dass man bei heutiger KI deren Verhalten und Ergebnisse nicht mehr bestimmten Eingaben, Trainingsdaten oder Konfigurationen zuschreiben kann. Und dennoch würden diese komplexen Systeme derzeit breitgefächert eingeführt. Nicht zuletzt bekämen sie auch noch Zugang zu sensibelsten Daten.

Der Begriff Superintelligenz weitet sich aus

Der Microsoft-Chef benutzte in seinem Beitrag durchweg den Begriff Superintelligenz, den US-Präsident Donald Trump statt der etablierten Bezeichnung künstliche Intelligenz momentan durchsetzen will. Vor wenigen Tagen kündigte Trump nämlich an, dass das Weiße Haus jeden, der noch künstliche Intelligenz sagt, als einen Feind betrachten wird. Trump begründet seinen Vorstoß damit, dass der gewohnte Name die Technologie als Fake erscheinen lässt. Der Tech-Milliardär und Trump-Unterstützer Elon Musk kündigte bereits auch schon an, seine KI-Firma „SpaceXAI“ in „SpaceXSI“umbenennen zu wollen.

(ID:50984098)

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte