Gerando resumoFoto: Júlio César GuimarãesChris RynningCriador de plataforma de identificação de conteúdos falsosChris Rynning, criador de uma plataforma de identificação de conteúdos falsos na internet, compara o momento atual da corrida pelo desenvolvimento de plataformas de inteligência artificial (IA) cada vez melhores com o momento da corrida que levou à criação da bomba atômica.“Se voltarmos aos anos 1940, quando Oppenheimer estava desenvolvendo a bomba nuclear, a semelhança que percebo é que se trata de uma corrida – seja para desenvolver a bomba nuclear ou, neste caso, a superinteligência artificial – e a lógica parece ser: ‘Se nós não fizermos isso, eles farão’. No caso da bomba nuclear, a ideia era que, se a América não a desenvolvesse, os alemães o fariam. Agora, a América diz: ‘Se não desenvolvermos a superinteligência, a China o fará’”, afirma o especialista em entrevista durante o Rio Innovation Week.Rynning fechou uma parceria com a empresa brasileira Viva AI para trazer ao Brasil neste ano sua plataforma de detecção de conteúdos sintéticos, sejam contas falsas em redes sociais ou imagens geradas com IA, os chamados deepfakes. Ele alerta que as democracias estão em risco diante da ascensão desses conteúdos falsos e que é preciso usar a IA para combater os problemas que foram criados com ela.PublicidadeLeia os principais trechos da entrevista a seguir.Por que o sr. chama este de ‘O Momento Oppenheimer’, quando falamos sobre a fase atual da IA?Dei esse nome porque existem algumas semelhanças com a introdução da inteligência artificial (IA) na sociedade atual. Se voltarmos aos anos 1940, quando Oppenheimer estava desenvolvendo a bomba nuclear, a semelhança que percebo é que se trata de uma corrida – seja para desenvolver a bomba nuclear ou, neste caso, a superinteligência artificial –, e a lógica parece ser: ‘Se nós não fizermos isso, eles farão’. No caso da bomba nuclear, a ideia era que, se a América não a desenvolvesse, os alemães o fariam. Agora, a América diz: ‘Se não desenvolvermos a superinteligência, a China o fará’. O mesmo ocorre com as empresas que disputam a criação da superinteligência: se a Meta não o fizer, o Google, o TikTok ou a OpenAI o farão. É uma corrida para chegar lá primeiro, e isso pode acarretar um custo enorme para a sociedade e para a democracia em todo o mundo.Hoje, vemos cada vez mais conteúdo sintético na web. Qual é o risco disso para a web e para as pessoas?Essa é a questão. Existem muitos riscos no ambiente online, e, na minha opinião, isso não começou apenas agora com os deepfakes. Tudo começou com os algoritmos das redes sociais, que aprenderam a manter seus filhos – ou você, ou eu – sempre rolando a tela em busca de mais conteúdo. Eles precisavam nos alimentar com discurso de ódio, notícias falsas ou violência, criando uma câmara de eco de viés de confirmação que transformou a mídia e a sociedade aberta para sempre. Agora, vivemos uma situação que envolve não apenas uma disputa pela nossa atenção, mas também uma disputa pela intimidade – como ser seu amigo. Afinal, muitas pessoas hoje têm companhias virtuais. Além disso, é difícil distinguir o que é real do que é falso, o que é verdadeiro do que é inventado. Quando juntamos tudo isso, torna-se muito difícil estabelecer confiança, seja entre as pessoas ou, por exemplo, entre políticos e seu eleitorado. Por isso, acredito que esse seja um verdadeiro desafio existencial que a sociedade precisa resolver.'Precisamos apresentar soluções também, e há esperança e soluções disponíveis', diz Rynning Foto: Júlio César GuimarãesO sr. acredita que esses conteúdos gerados por IA, como os deepfakes e imagens falsas, representam uma ameaça às democracias?Acho que sim. Se você só recebe informações que reforçam o que você já acredita – ou seja, se você é alimentado apenas por aquilo que confirma suas próprias convicções –, acaba desenvolvendo um viés de confirmação, e a sociedade se torna muito polarizada. Algumas pessoas só acreditam em certas coisas e só consomem notícias sobre isso, enquanto outras consomem apenas um tipo diferente de informação. Quando chegamos a esse nível de polarização, o diálogo entra em colapso e não conseguimos concordar em nada. Quando o diálogo falha, a democracia fica ameaçada. A base da democracia é a capacidade de conversar, ​​de dizer ‘discordo de você’ ou ‘aqui estão outros fatos, você já considerou isso?’. Se isso deixar de acontecer, a sociedade aberta corre perigo. Sua empresa está trazendo uma solução para o Brasil voltada ao combate de deepfakes e contas falsas em redes sociais. Esse lançamento tem relação com as eleições presidenciais? Não estou aqui apenas para falar de problemas e cenários catastróficos. Precisamos apresentar soluções também, e há esperança e soluções disponíveis. É preciso entender quais são as questões em jogo. As pessoas precisam se informar sobre esses temas e dialogar com seus políticos. Precisamos demonstrar nossa preocupação real com isso e tentar agir. Estou no Brasil porque ele é uma grande democracia e tem uma população enorme e jovem. Todos estão conectados à internet. Isso representa tanto uma oportunidade de comunicação direta com os eleitores quanto um meio fácil de disseminar desinformação por meio das redes sociais ou de deepfakes. Portanto, precisamos implementar ferramentas para estabilizar o processo eleitoral e fornecer, tanto aos políticos quanto aos eleitores, os meios necessários para distinguir a verdade do que é falso ou real. Por isso, acredito que estar aqui no Brasil neste momento é absolutamente crucial.PublicidadeSua solução está chegando ao mercado brasileiro com um parceiro local. Por que escolheu essa abordagem?Sempre serei um estrangeiro aqui, e precisamos de parceiros locais que conheçam o Brasil, tenham conexões políticas e empresariais e saibam como o mercado funciona. O Brasil é um mercado diferente da Ásia, da Europa ou da América do Norte. Por isso, prefiro trabalhar com outras pessoas para conseguir atuar rapidamente em campo.Além das eleições, esse problema afeta outras pessoas famosas, como jogadores de futebol, figuras públicas e talvez até presidentes, senadores e deputados. Esse é o público da sua empresa?Sim, isso afeta todo mundo. Se você é um usuário de destaque nas redes sociais, como um atleta ou uma estrela com muitos seguidores, é claro que haverá muitas contas falsas ou notícias falsas sobre você. Pode ser racismo, nudez... há um ambiente muito hostil na internet. Precisamos lutar a boa luta e limpar a internet. Mas não é algo voltado apenas para famosos ou políticos. Eu sou pai, tenho filhos. Gostaria de saber se existem contas falsas da minha filha ou do meu filho por aí e ter alguém que me proteja e me avise se isso acontecer. Isso permite que eu tome providências para remover esse conteúdo da web. Essa é a grande questão. O conteúdo já está lá. Como você o remove? É aí que tudo se conecta.Curiosamente, elas são, de certa forma, incentivadas a ter tanto contas reais quanto falsas, porque isso gera mais tráfego, mais cliques, mais visualizações e mais usuários. Às vezes, contas falsas ou notícias falsas também podem servir de entretenimento. Pode ser difícil para as plataformas conciliar o que é comercialmente viável com o que é politicamente problemático. Precisamos ajudá-las, e acho que elas querem essa ajuda. Elas querem oferecer uma experiência melhor ao usuário, mas não querem assumir um papel editorial, e eu entendo isso. Sendo assim, nós, como consumidores, precisamos nos proteger. Precisamos de parcerias público-privadas, mas também de trabalhar com as plataformas para limpar a experiência do usuário.PublicidadeTodo esse conteúdo falso — contas falsas, imagens falsas, tudo falso — pode alimentar sistemas de IA. E a IA é, hoje em dia, a principal interface para muitas pessoas. Existe alguma maneira de contornar esse problema nessa interface?CONTiNUA APÓS PUBLICIDADEA ironia é que a maior parte do conteúdo na internet atualmente é criada por máquinas, não por humanos. Muitas das contas criadas também são geradas por máquinas. Isso acontece em uma escala tão grande que os humanos não conseguem acompanhar. Por isso, acho interessante a ideia de que precisamos usar máquinas para combater máquinas – e também para combater humanos desonestos. Precisamos usar IA para combater a IA. Essa é a ironia, a reviravolta da situação. Mas precisamos garantir que a IA e as máquinas que trabalham conosco estejam alinhadas com a humanidade, e não atuem contra nós, seja de forma intencional ou não.Qual é a sua opinião sobre os esforços que estamos vendo contra conteúdos falsos ou gerados por IA? Por exemplo, o Google, a OpenAI e a Nvidia estão juntas no combate ao conteúdo sintético com o SynthID.Acho isso positivo. Eu apoio, quero mais regulamentação e mais autorregulação – tanto por parte das plataformas quanto, certamente, das empresas de IA. Na semana passada, vimos uma carta sendo assinada por mais de 1 mil cientistas de IA que trabalham na OpenAI, na Anthropic e em outras grandes empresas do setor, pedindo mais regulamentação. A ironia é que eles mesmos não conseguem acionar o freio. Eles querem desacelerar, mas não conseguem por causa dessa corrida estilo ‘Oppenheimer’. Se chegarmos em segundo lugar, não há prêmio algum, mas, se chegarmos primeiro, levamos tudo. Portanto, eles não conseguem parar ou desacelerar por conta própria, eles precisam do público, dos políticos e das regulamentações para ajudar a frear o desenvolvimento. Por isso, acho que tudo é bem-vindo quando se trata de autorregulação e regulamentação.Para onde o sr. acha que essa corrida da IA ​​vai levar a sociedade?Ninguém sabe onde a IA vai nos levar. Essa é a resposta fácil. Mas ainda acho que há tempo. Tempo para regularmos a IA e implementarmos tecnologias que permitam às pessoas distinguir o que é real do que é falso. Temos algum tempo, mas não muito, e é necessária uma parceria entre plataformas de tecnologia, o público e os políticos. Se todos contribuirmos um pouco, a maré alta elevará todos os barcos. Portanto, existe esperança, mas precisamos agir rápido. PublicidadeQuais dicas o sr. pode dar às pessoas para identificar conteúdo falso online?Este é o momento da história em que a IA nunca mais será tão burra quanto é agora. Vai ficar cada vez mais difícil detectar o que é real e o que é falso. A IA só vai ficar mais inteligente e, eventualmente, superará a inteligência de todos nós. Isso é um problema real. Os humanos terão enormes dificuldades para distinguir o real do falso. Por isso, precisamos implementar ferramentas como o Umanitek Guardian Agent, que estamos trazendo agora para o mercado brasileiro. Ele servirá como seu guarda-costas digital para proteger você, sua família, um político ou o próprio eleitorado, ajudando a identificar o que é real e o que é falso.Leia tambémComo usar IA para ser mais produtivo? Especialista compartilha dicas no RIWÉ possível criar grandes negócios com funcionários trabalhando de casa, dizem especialistas no RIWIA nas empresas passou da fase exploratória, mas está longe da maturidade, diz AnbimaOlhando a olho nu, não dá para distinguir o real do falso?Não, embora a maioria de nós ainda ache que consegue. E acho que isso é uma ilusão. Certamente ficará cada vez mais difícil. Onde estaremos daqui a 6, 12 meses ou 3 anos? É muito difícil prever. A situação só vai ficar mais complexa e, eventualmente, você não conseguirá mais saber a diferença entre o sintético e verdadeiro.Muitas pessoas estão usando IAs como acompanhantes digitais, alguém com quem conversar para evitar a solidão. Qual é o risco disso?Acho que isso é um risco enorme. Não acho que seja algo somente ruim. Mas o que acontece quando nós, humanos, conversamos mais com máquinas do que com outros humanos? Caímos inadvertidamente na armadilha dos algoritmos de redes sociais, com aquele viés de confirmação. Entramos nessa meio que como sonâmbulos. Antes, havia uma disputa pela sua atenção. Agora, há uma disputa pela sua intimidade, pela sua amizade. Se você tem um amigo online que sempre concorda com você, que nunca diz nada contra você, que ri de todas as suas piadas, isso não é um amigo de verdade. Isso é um espelho com um modelo de negócios. Não sabemos o que realmente vai acontecer quando conversarmos mais com máquinas do que com humanos. Na verdade, nós somos um experimento que está em andamento, e não há grupo de controle. Existe a chance de errarmos feio nisso. PublicidadeVale ler tambémA guerra no Irã fracassou; qual será o próximo passo de Trump?Qual o Estado brasileiro com mais filhos sem a presença dos pais nos lares? Bancos privados fecham 2 mil agências e cortam 14 mil vagas em um ano