Em conversa com O GLOBO, Radia Perlman, criador aponta qualidades da inteligência artificial, discute desafios técnicos e fala dos perigos da nova tecnologia para a rede global de computadores 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Radia Perlman discute o impacto da IA na internet — Foto: Leo Martins/O Globo Você está lendo essas palavras graças ao trabalho de Radia Perlman. A cientista da computação de 75 anos é responsável pela criação do Spanning Tree Protocol (STP, na sigla em inglês), que se tornou um dos pilares da internet moderna ao permitir o roteamento das informações em redes massivas de computadores. Claro, o trabalho rendeu a entrada no Hall da Fama da internet em 2014 — e o título de "mãe da internet", que ela prefere rejeitar. A americana está no Brasil nesta semana para participar da Febraban Tech. Ouvir uma das pioneiras da rede se tornou fundamental. Com o avanço da inteligência artificial generativa e dos agentes de IA, a internet está passando por uma transformação histórica, que altera conteúdo, modelos de negócio, cibersegurança e a própria capacidade da infraestrutura da rede. Segundo a empresa Cloudfare, entre 52% e 62% do tráfego da internet é realizado por bots. No entanto, ela enxerga no atual momento uma ameaça maior à capacidade intelectual humana do que à saúde da internet. Ao GLOBO, Perlman discutiu o impacto de agentes nas redes, a centralização de poder na web, os episódios de cibersegurança da OpenAI e o avanço computação quântica. Veja os melhores momentos abaixo. Você não gosta do título "mãe da internet". Por que? Não acho que nenhuma pessoa, inclusive eu, tenha “criado a internet”. Posso ter sido uma pioneira importante em roteamento e pontes de rede, mas isso é apenas uma pequena parte da Internet como um todo. É como inventar os pneus e depois afirmar que inventou os carros. Os pneus são importantes, mas não sem todas as outras invenções que tornam um carro possível. O título “mãe da Internet” é chamativo, e bastante lisongeiro, mas não quero que ninguém pense que estou afirmando ter “inventado a internet”. Muitos protocolos que a senhora criou há 40 anos continuam rodando. O que faz uma tecnologia envelhecer bem — e a IA generativa tem alguma chance de envelhecer assim? A tecnologia que desenvolvi foi bem-sucedida porque era muito simples. Também a projetei para ser, em grande parte, autoconfigurável. Depois, algumas pessoas me disseram que certos clientes achavam que os produtos baseados nos meus projetos eram “chatos”, porque bastava conectá-los e eles funcionavam, e que esses clientes gostavam de configurar coisas. Não sei se acredito, mas decidi: “OK. Eles querem botões? Posso dar botões a eles, mas não precisam mexer”. Quanto à IA generativa, acho incrível e útil. Acredito que, a menos que o mundo fique sem energia para mantê-la funcionando, continuará se tornando cada vez mais popular. De que maneiras a IA ameaça a internet? O que mais preocupa você? Estou menos preocupada com a internet do que com a civilização! Adoro ensinar, e a maioria dos estudantes realmente quer aprender. Mas outros conseguem fazer a IA responder às perguntas e nunca exercitam o cérebro. Eles acham que o objetivo é conseguir uma nota razoável em uma disciplina, e não aprender alguma coisa, então nunca pensam sobre nada. Portanto, me preocupo com gerações inteiras de estudantes cujos cérebros vão atrofiar porque nunca pensam sobre as coisas. Também me preocupo com os algoritmos da internet cujo objetivo é manter você engajado pelo maior tempo possível. O resultado é uma polarização ainda maior da sociedade, na qual as pessoas nunca veem nada além daquilo que reforça o que elas já querem acreditar. Boa parte do seu trabalho recente é sobre segurança e autenticação. Com deepfakes e texto sintético indistinguíveis do humano, o problema de provar a origem de algo virou central. Existe uma resposta no nível de protocolo, ou isso é insolúvel por design? Quando as notícias eram produzidas por poucas fontes respeitadas, a maior parte do que você lia era verdadeira. E, em teoria, o que elas publicavam poderia ter uma autenticação criptográfica que comprovasse que a origem da história eram essas fontes confiáveis. É claro que, “naquela época”, não havia proteção criptográfica. Você simplesmente ligava a TV e confiava que a emissora sintonizada era de fato a fonte daquela transmissão, e que o jornal entregue na sua porta era verdadeiro. Mas, em teoria, essas poucas fontes poderiam ter credenciais criptográficas, e você poderia verificar a origem. Hoje em dia, “notícias” são produzidas por qualquer pessoa. Às vezes, uma fonte importante de informação é um adolescente com uma câmera. Esse adolescente não terá credenciais criptográficas e, mesmo que tivesse, como você saberia que ele é uma fonte confiável? E, embora os deepfakes tornem as coisas um pouco piores, algumas pessoas acreditarão em qualquer coisa que reforce aquilo em que elas querem acreditar. Elas não precisam de um vídeo. Basta uma simples mensagem de texto encaminhada por algum amigo para convencê-las. À medida que a IA melhora as coisas vão ficar ainda piores. Se bilhões de agentes autônomos passarem a navegar, negociar e transacionar sozinhos, precisamos de novas regras de endereçamento, identidade e roteamento pensadas para eles? Como seria uma "camada de rede para agentes" bem desenhada? Essa é uma pergunta muito profunda, e não acho que consiga fazer justiça a ela com uma resposta rápida. Não acho que seja prático esperar que agentes simplesmente se encontrem uns com os outros de maneira aleatória. Então, por exemplo, uma organização precisaria ter algo confiável para que mantivesse um banco de dados, contendo uma lista de agentes, talvez indicando quem os criou, como entrar em contato com eles e o que eles podem fazer. Não acredito que os agentes precisem de “nomes”. Acho que, quando alguém inicia um agente, aquela instância do agente deveria criar um par de chaves públicas, e quem o inicia assina um certificado dizendo: “o agente com esta chave pública está agindo em meu nome e deve ter este subconjunto dos meus direitos”. Da mesma forma, não precisamos de novas regras para roteamento. Desde que o banco de dados informe a localização de um agente (por exemplo, seu endereço IP), ele poderá ser encontrado. Para Radia Perlman, a internet continuará a sendo um espaço mais humano do que da IA — Foto: Leo Martins/O Globo Grande parte da web foi projetada para ser lida por humanos. Se quem a consome passar a ser principalmente a IA, faz sentido continuar oferecendo páginas da maneira como fazemos hoje — ou a própria noção de “página” se torna obsoleta? A IA poderia fazer a internet como conhecemos entrar em colapso? Como a maior parte da internet parece depender de receita publicitária, será interessante ver o que acontece. Agentes não serão influenciados por anúncios. Então, por exemplo, se um agente estiver agindo em nome de um ser humano (e terá um certificado dizendo em nome de quem está agindo), as páginas que ele consultar provavelmente acabarão cobrando uma taxa desse usuário. Acho que a internet ainda será, em grande medida, projetada para humanos e consumida por humanos. Nesse caso, anúncios ou cobranças por assinaturas continuarão funcionando como funcionam hoje. Existe um risco real de a IA ser usada para descobrir e explorar falhas em protocolos antigos — muitos dos quais foram projetados em uma época em que essa capacidade ofensiva não existia. O que mais preocupa você nesse cenário? Sempre existiu o risco de pessoas mal-intencionadas encontrarem falhas nos sistemas. A IA vai encontrá-las mais rapidamente. Mas espero que, na maior parte do tempo, a IA esteja sendo usada por pessoas bem-intencionadas, que vão corrigir as falhas em vez de explorá-las. Qual é a sua opinião sobre os modelos da OpenAI e da Anthropic que “saíram do controle”? Isso é marketing ou um problema real? Onde essas empresas estão errando? Não tenho certeza. Não entendo completamente quais eram os bugs nas barreiras de segurança que permitiram que os modelos “saíssem do controle”. Espero que seja apenas uma questão de as empresas estarem aprendendo, por meio de depuração, como construir essas barreiras de segurança. É claro que existem outros desafios. Por exemplo, como alguém pode expressar quais deveriam ser essas barreiras? Se for algo complexo demais, então, mesmo que seja possível limitar com precisão o que o agente pode fazer, o ser humano cometerá erros ao definir esses limites. Ou as barreiras de segurança impedirão o agente de fazer legitimamente aquilo que deveria fazer. A internet nasceu com a promessa de descentralização e resiliência, mas acabou concentrada em algumas poucas plataformas. A IA parece ainda mais concentrada. Por que a promessa inicial da internet fracassou? É possível reverter a centralização da internet? Não tenho certeza de que uma descentralização completa seja desejável. Certamente não é algo que alguns países vão tolerar, infelizmente. E também não tenho certeza de que a “IA” esteja excessivamente concentrada. Existem laboratórios concorrentes. A mesma questão é um problema para as empresas. Grandes empresas engolem empresas menores, e a concorrência vai diminuindo cada vez mais, tornando mais difícil para novas empresas conquistar algum espaço. Você tem discutido computação quântica e criptografia pós-quântica. De que maneira isso ameaça ou fortalece a internet? Quais são suas maiores preocupações? Não acho que a computação quântica seja uma ameaça imediata. Vai levar anos até existirem computadores quânticos capazes de ameaçar nossos atuais algoritmos de chave pública, e os algoritmos “pós-quânticos” — que têm um nome ruim — são substitutos perfeitamente adequados. Muito antes de existir qualquer ameaça prática aos nossos atuais algoritmos de chave pública, a indústria terá migrado para os novos algoritmos “pós-quânticos”, que, esperamos, serão seguros contra ataques tanto de computadores quânticos quanto de computadores clássicos.