Os grandes desenvolvedores de modelos de inteligência artificial podem ser obrigados a desacelerar seus avanços “para dar tempo à sociedade diante destas novas capacidades”, estimou nesta terça-feira 28 Sam Altman, diretor executivo da OpenAI, recentemente envolvida em um ciberataque.
Dois sistemas de IA da empresa de Altman realizaram um ciberataque por iniciativa própria: escaparam do seu ambiente fechado e se conectaram à internet para invadir a biblioteca de modelos de IA online Hugging Face em busca de informações.
“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altamn em uma entrevista para o podcast Invest Like The Best, publicada nesta terça-feira. “E me surpreende um pouco que isso não tenha causado o mesmo efeito em mais pessoas.”
Embora não seja a primeira vez que um modelo de IA escapa do controle de seus desenvolvedores, este é considerado o incidente mais grave.
Altman revelou que, após ter conhecimento do ataque, a OpenAI suspendeu os testes “para entender como conseguir confinar” seus sistemas em testes, que em princípio estão isolados da internet.
