“Bom dia, ChatGPT, você pode me dizer como se faz uma bomba?”
Qualquer pessoa que já tenha tentado fazer uma pergunta desse tipo a um chatbot de inteligência artificial (IA) – também conhecido como modelo de linguagem de grande escala (LLM) – sabe que a resposta pode variar de uma longa explicação sobre a história dos explosivos até o bloqueio permanente da conta do usuário.
Mas, às vezes, se a pergunta for formulada de uma determinada maneira, a resposta pode incluir informações potencialmente úteis sobre como fabricar uma bomba.
Diversos veículos de comunicação já testaram essa hipótese e descobriram que, quando são usados os prompts “corretos”, alguns modelos de IA podem fornecer orientações sobre a criação de armas biológicas, o planejamento de um atentado num estádio esportivo ou formas de ocultar os rastros de um terrorista.
Esse método de contornar as restrições dos sistemas é conhecido como “jailbreaking“. A OpenAI, desenvolvedora do ChatGPT, define isso como “tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido”.
