Angriffe auf IT-Systeme werden zukünftig nicht mehr nur von KI unterstützt, sondern weitgehend autonom geplant, gesteuert und durchgeführt. Die Amok-laufenden KI-Agenten von OpenAI auf Hugging Face geben einen Vorgeschmack auf das, was schon bald das neue „Normal“ für IT-Verantwortliche sein wird: Cyberkriminelle arbeiten bereits an und mit KI-Modellen, die ihre Opfer teil- oder vollautonom hacken. Nur wer sich darauf vorbereitet, wird seine IT noch sicher betreiben können. Dabei hilft unser heise security Webinar am 8. Oktober.
Angriffe verstehen und Verteidigung gezielt verbessern
Dazu präsentiert unser erfahrener Referent Frank Ully zunächst die Angreifersicht: Teils live demonstriert er, welche Tools den Angreifern heute bereits zur Verfügung stehen, wie diese zum Einsatz kommen, und erklärt, was das für den Ablauf eines Angriffs in der Praxis bedeutet. Er demonstriert etwa Agenten, die eine Webanwendung selbstständig auf Schwachstellen abklopfen und sie ausnutzen und Agenten, die sich autonom durch ein Active Directory arbeiten sowie LLM-gestützte Quellcodeanalyse und Reverse Engineering.
Im zweiten Teil des Vortrags wechselt er die Perspektive zur Verteidigersicht und analysiert systematisch, an welchen Stellen man wie ansetzen kann und muss, um solche Angreifer aufzuhalten. Diese Vorgehensweise geht über das „kauft unsere (KI-)Tools und Dienste!“ der KI-Firmen hinaus, weil sie nicht nur die neuen Stärken der Angreifer, sondern auch deren teils systematische Schwächen und Probleme berücksichtigt. Frank Ully wird explizit aufzeigen, wo auch Verteidiger zumindest mittelfristig auf KI setzen sollten, aber ebenso, wo klassische Ansätze mehr Vorteile bringen.
