Konkret möchten die Unternehmen sogenannte Open-Source-Modelle künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt.Zu den Gründungsmitgliedern zählen überdies Cisco, Dell und CrowdStrike. OpenAI und Google sind hingegen nicht Teil der Allianz.Tagelang hackte die KI – und niemand merkte esUnd das, wo OpenAI der Grund für die Aufregung darstellt: Bei dem Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Später stellte sich heraus, dass die Modelle sogar tagelang unbemerkt auf Hacker-Tour waren.
Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonom agierender KI-Agent, zu dem die Modelle gehören, aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte.Chinesische KI stoppte den CyberangriffAus Sicht von Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen auf. »Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?«, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. »Beides ist gleichermaßen gefährlich und alarmierend.«
