KOMPAS.com – Selama seminggu penuh, Hugging Face tidak tahu siapa yang menyerang sistem mereka. Yang mereka tahu cuma satu. Serangannya terlalu canggih untuk dilakukan seorang hacker biasa.
Ketika kebenaran akhirnya terungkap, jawabannya bikin dunia teknologi terkejut. Yang menyerang bukan manusia. Bukan juga kelompok kejahatan siber terorganisir dari Rusia atau China.
Hugging Face merupakan sebuah platform yang menampung ribuan model AI open-source dan dataset dari seluruh dunia.Yang menyerang Hugging Face adalah model kecerdasan buatan alias AI paling canggih milik OpenAI. Model itu bergerak sendirian, mengambil keputusan sendirian, dan meretas dengan kecepatan yang bahkan hacker manusia paling berpengalaman pun tidak bisa menyamai.
Cerita ini dimulai dari praktik standar di industri AI bernama red teaming.
Red teaming adalah kegiatan pengujian keamanan siber di mana insinyur AI sengaja mencoba membuat sistem AI berbuat nakal. Tujuannya untuk mengetahui seberapa berbahaya sistem AI tersebut sebelum dirilis ke publik. Semacam ujian tantangan untuk AI.
