Com conjunto de princípios, gigante de tecnologia se junta às empresas do setor que pedem moderação no ritmo de aprimoramento das capacidades de IA 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Símbolo da Microsoft em Nova York — Foto: Jeenah Moon/Bloomberg Os pesquisadores de inteligência artificial da Microsoft divulgaram um novo conjunto de princípios orientadores que impõem limites ao desenvolvimento, pela empresa, de modelos de IA de última geração. O manifesto, de 15 mil palavras, pode ser resumido em cinco: As pessoas importam mais do que a IA. O documento vinha sendo elaborado havia meses, mas sua divulgação nesta segunda-feira coincide com compromissos assumidos pelos principais laboratórios de IA de desacelerar o desenvolvimento dos modelos mais avançados, depois que uma série de incidentes de segurança despertou preocupações generalizadas sobre os riscos existenciais da tecnologia. Segundo a Microsoft, os modelos de IA não devem ter direitos nem personalidade jurídica. Eles não devem ser projetados para escapar do controle humano ou enganar os usuários. E, se a realização de uma tarefa exigir a violação dos princípios orientadores da IA, o sistema não deverá concluir a tarefa. Esse último elemento foi concebido para evitar acontecimentos como o ataque ao sistema da startup de IA Hugging Face por um modelo da OpenAI que operava sem suas salvaguardas de segurança habituais. — Não há uma paralisação completa aqui. Temos de continuar desenvolvendo —disse Mustafa Suleyman, diretor-executivo da Microsoft AI, em entrevista. —Só precisamos fazer isso com um pouco mais de cautela e cuidado. A “IA Humanista” da Microsoft “rejeita a corrida para produzir uma superinteligência de uso geral que possa escapar dessas salvaguardas”, afirma o documento. “Estamos construindo algo fundamentalmente útil e seguro, mesmo que isso signifique fazer concessões em termos de generalidade, autonomia ou capacidade máximas.” As diretrizes da Microsoft parecem ir além dos modelos de comportamento que orientam os produtos da OpenAI e da Anthropic em alguns aspectos, incluindo proibições de ''antropomorfizar'' a IA e a afirmação de que é inaceitável que um modelo resista ao controle humano sobre seu processo de funcionamento. O Código de Conduta da IA Humanista é uma iniciativa da Microsoft AI, equipe de desenvolvimento responsável pela criação dos grandes modelos de linguagem da empresa. Anteriormente, a Microsoft estava proibida, por seu contrato com a OpenAI, de desenvolver suas próprias ferramentas de inteligência artificial poderosas e de uso geral. Mas essas restrições foram eliminadas no ano passado, quando as duas empresas renegociaram sua relação. Suleyman já afirmou que a empresa pretende se juntar ao grupo de companhias que lançam modelos de última geração até o próximo ano. A Microsoft convidou o público externo a enviar comentários sobre o documento. Elaborado com a consulta a uma série de especialistas em direito, ética e filosofia, além de líderes empresariais, o texto ainda está em desenvolvimento e servirá de orientação para o trabalho com modelos a partir do próximo ano.