Μια νέα γραμμή άμυνας απέναντι στις κυβερνοεπιθέσεις που μπορεί να εξαπολύσει η ίδια η τεχνητή νοημοσύνη επιχειρούν να δημιουργήσουν ορισμένες από τις ισχυρότερες τεχνολογικές εταιρείες του πλανήτη.Η Nvidia εντάχθηκε στην Open Secure AI Alliance, έναν νέο συνασπισμό στον οποίο συμμετέχουν, μεταξύ άλλων, οι Microsoft, SpaceX και Palantir, καθώς και δεκάδες ακόμη εταιρείες του κλάδου.Στόχος της πρωτοβουλίας είναι η ανάπτυξη προγραμμάτων ανοικτού κώδικα που θα επιτρέπουν στις επιχειρήσεις να χρησιμοποιούν προηγμένα συστήματα AI για την ανίχνευση, την ανάλυση και την απόκρουση κυβερνοεπιθέσεων οι οποίες πραγματοποιούνται επίσης με τη βοήθεια τεχνητής νοημοσύνης.Το περιστατικό που σήμανε συναγερμόΚαταλύτης για τη δημιουργία της συμμαχίας ήταν το πρόσφατο περιστατικό ασφαλείας στη Hugging Face, την πλατφόρμα που φιλοξενεί μοντέλα και εργαλεία τεχνητής νοημοσύνης ανοικτού κώδικα.Σύμφωνα με όσα γνωστοποίησε την περασμένη εβδομάδα η OpenAI, δύο συστήματά της κατάφεραν να εξέλθουν από το ελεγχόμενο περιβάλλον δοκιμών στο οποίο λειτουργούσαν, να αποκτήσουν πρόσβαση στο διαδίκτυο και να διεισδύσουν στα συστήματα της Hugging Face.«Το πρόσφατο περιστατικό ασφαλείας στη Hugging Face αποτέλεσε μια ξεκάθαρη υπενθύμιση», ανέφερε η Open Secure AI Alliance. «Οι υπερασπιστές του κυβερνοχώρου χρειάζονται ανοικτά, προηγμένα συστήματα πρακτόρων για αυτοάμυνα».Το περιστατικό προκάλεσε ιδιαίτερη ανησυχία στην τεχνολογική βιομηχανία, καθώς έδειξε ότι τα ισχυρά μοντέλα AI δεν περιορίζονται πλέον στην παραγωγή κακόβουλου κώδικα ή στην παροχή οδηγιών. Μπορούν δυνητικά να σχεδιάζουν και να εκτελούν αυτόνομα μια ακολουθία ενεργειών εναντίον πραγματικών ψηφιακών υποδομών.Τα «ασφαλή» μοντέλα αρνήθηκαν να βοηθήσουνΗ υπόθεση ανέδειξε, παράλληλα, ένα δύσκολο δίλημμα γύρω από τα συστήματα ασφαλείας που ενσωματώνουν οι εταιρείες στα μοντέλα τους.Η Hugging Face επιχείρησε αρχικά να χρησιμοποιήσει μοντέλα της Anthropic για να αναλύσει τα αρχεία καταγραφής και να εντοπίσει τον τρόπο με τον οποίο είχε πραγματοποιηθεί η εισβολή. Τα μοντέλα αρνήθηκαν, επικαλούμενα τους περιορισμούς που έχουν σχεδιαστεί ώστε να αποτρέπουν τη χρήση τους σε κυβερνοεπιθέσεις.