Apple begrenzt, wie viele Hinweise auf Schwachstellen in Apple-Produkten jemand einreichen kann. Ist diese maximale Anzahl erreicht, gilt eine 30-tägige „cool-off period“ für die betreffende Person, in der sie keine weiteren Hinweise einreichen kann. Apple reagiert damit auf die Flut an Sicherheitsmeldungen, die das Unternehmen erreichen, seit KIs automatisiert nach Schwachstellen suchen können.
Das Problem ist in der Branche gerade weit verbreitet. Selbst Microsoft kommt Berichten zufolge nicht mehr hinterher, die von KIs gefundenen Schwachstellen zu schließen. Denn jede schnell generierte Sicherheitsmeldung muss anschließend aufwendig von Menschen überprüft werden. Und nicht jede davon ist tatsächlich ein Problem – auch bei Cyberproblemen halluzinieren die KIs.
Kritische Meldungen sollen trotzdem durchkommen
Mit der neuen Regelung will Apple diesen AI Slop bekämpfen. Um sicherzugehen, dass die kritischsten Meldungen das Unternehmen trotzdem erreichen, gibt es wohl die Möglichkeit, eine Erhöhung der eigenen Begrenzung zu beantragen. Wer hingegen häufiger mit AI Slop auffällt, wird zuerst temporär für 180 Tage, dann sogar dauerhaft gesperrt.
Grundsätzlich begrüßt Apple externe Meldungen von Schwachstellen. Im Rahmen seines Security-Bounty-Programms zahlte es für wichtige Hinweise bis zu zwei Millionen US-Dollar, mit zusätzlichen Boni kann man sogar auf fünf Millionen US-Dollar kommen. Andere Unternehmen wie Node.js haben ihr Bug-Bounty-Programm mittlerweile gestrichen; das Team diskutiert, wie es mit der Flut an LLM-generierten Sicherheitsmeldungen umgehen soll.
