Die KI-Ära bringt nicht nur Vorteile mit sich. Tools wie autonome Agenten können auch für enorme Sicherheitsprobleme und Cyberattacken sorgen. Das zeigten erst kürzlich eine neuentdeckte Ransomware, die von einem KI-Agenten in Echtzeit angepasst werden kann, sowie der versehentliche Angriff durch OpenAIs Agenten auf die Plattform Hugging Face. Um solche Probleme künftig besser verhindern zu können, hat Nvidia jetzt eine neue Branchenallianz ins Leben gerufen.Anzeige
Warum Nvidia offene KI-Modelle fördern will
In der Ankündigung des Unternehmens heißt es, dass insgesamt 37 Unternehmen an der Open Secure AI Alliance teilnehmen. Neben Nvidia selbst zählen dazu etwa Adobe, Cloudflare, Crowdstrike, Dell, Hugging Face, IBM, die Linux Foundation sowie Microsoft, Openclaw, Salesforce, SAP, Siemens, SpaceXAI und Thinking Machine Labs. Die Mission laut Nvidia: Sicherstellen, dass Unternehmen die nötigen Mittel haben, um sich gegen Cyberangriffe zu verteidigen.
Dazu schreibt Nvidia, dass der Angriff auf Hugging Face gezeigt hat, dass Unternehmen offene KI-Modelle benötigen, um sich gegen Angriffe zu schützen, die ebenfalls von Künstlicher Intelligenz unterstützt wurden. Im Falle von Hugging Face hatte das Unternehmen zunächst versucht, ein geschlossenes KI-Modell zu nutzen, um die Angreifer abzuwehren. Das schlug allerdings fehl, weil sich das Modell weigerte und teilweise Angreifer und Verteidiger nicht voneinander unterscheiden konnte.Anzeige
