O CEO da OpenAI, Sam Altman, afirmou nesta terça-feira (28) que os grandes desenvolvedores de modelos de inteligência artificial podem ser obrigados a desacelerar seus avanços "para dar tempo à sociedade diante destas novas capacidades".
Dois sistemas de IA da empresa de Altman realizaram recentemente um ciberataque por iniciativa própria ao escaparem do seu ambiente fechado e se conectarem à internet para invadir a biblioteca de modelos de IA online Hugging Face em busca de informações.
"É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral", reconheceu Altman em entrevista para o podcast Invest Like The Best, publicada nesta terça-feira. "Me surpreende um pouco que isso não tenha causado o mesmo efeito em mais pessoas", comentou.Embora não seja a primeira vez que um modelo de IA escapa do controle de seus desenvolvedores, este é considerado o incidente mais grave do recurso.
Altman revelou que, após ter conhecimento do ataque, a OpenAI suspendeu os testes "para entender como conseguir confinar" seus sistemas em testes, que em princípio estão isolados da internet.
"Mas, a longo prazo, surge a pergunta sobre o que fazer caso nos deparemos com um novo ritmo de avanço (da IA)", comentou o CEO da dona do ChatGPT, em um contexto em que "poderíamos ter que desacelerar o ritmo de desenvolvimento da IA para dar tempo suficiente à sociedade para lidar com essas novas capacidades".Em uma mensagem publicada no início de junho, o diretor-geral da Anthropic, Dario Amodei, havia considerado que seria "positivo" frear o desenvolvimento da IA para dar tempo "de compreender melhor suas imensas consequências".
