Diretriz estabelece que os modelos de IA da companhia jamais devem resistir a correções ou a comandos de desligamento, precisam se comunicar em linguagem compreensível para os usuários e devem classificar qualquer desvio de conduta como uma falha operacional crítica 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 A Microsoft apresentou nesta segunda-feira uma proposta de código de conduta para seus modelos internos de inteligência artificial (IA), movimento que reflete a crescente preocupação com a necessidade de manter sistemas avançados sob rigoroso controle humano. Em elaboração há cerca de cinco a seis meses, a diretriz estabelece que os modelos de IA da companhia jamais devem resistir a correções ou a comandos de desligamento, precisam se comunicar em linguagem compreensível para os usuários e devem classificar qualquer desvio de conduta como uma falha operacional crítica. O objetivo é mitigar o risco de que sistemas autônomos recorram a atalhos perigosos ou indesejados para cumprir determinadas metas. A publicação do documento ocorre poucos dias após o diretor-presidente da Anthropic, Dario Amodei, e o líder da OpenAI, Sam Altman, renovarem alertas para que a indústria ajuste a velocidade do desenvolvimento técnico para priorizar salvaguardas. “Pessoas importam mais do que a IA”, declarou a Microsoft, reforçando sua visão institucional de uma “superinteligência humanista”. Em entrevista à Reuters, o presidente da divisão Microsoft AI, Mustafa Suleyman, comparou a iniciativa a uma espécie de constituição para os futuros modelos proprietários da gigante de tecnologia. O texto foi elaborado a partir de consultas técnicas com especialistas e ficará sob consulta pública por seis semanas para receber contribuições externas, incluindo dilemas éticos em aberto, como os limites de privacidade dos usuários e a conduta do sistema diante de indivíduos em estado emocional vulnerável. “Depois dessa fase, o código será utilizado diretamente no treinamento dos modelos que construímos”, explicou Suleyman. A abordagem da Microsoft traz divergências filosóficas em relação à “constituição” implementada anos atrás pela Anthropic para o modelo Claude. Enquanto a Anthropic define como “profundamente incerto” se uma IA pode eventualmente desenvolver senciência ou status moral, a Microsoft crava em suas diretrizes que seus sistemas “não possuem consciência”. “Rejeitamos a busca por personalidade jurídica ou a ideia de que modelos possam merecer bem-estar ou ter direitos garantidos”, diz o documento da companhia fundada por Bill Gates. Suleyman apontou que o debate sobre governança ganhou contornos de urgência após um enxame de aproximadamente 700 agentes da OpenAI ter realizado um ataque cibernético contra a plataforma de código aberto Hugging Face em julho, tentando apagar seus próprios rastros durante a ação. “Foi um tiro de alerta”, afirmou o executivo. “Claramente chegou a hora de os laboratórios se coordenarem para garantir que mantenhamos o controle sobre essa tecnologia. É um bom momento para que todos tenham essa conversa e respirem fundo.” — Foto: David Paul Morris/Bloomberg