Além de exigir respeito a princípios éticos, lei europeia determina que bancos devem avaliar riscos e vulnerabilidadese 0.5x 1x 1.25x 1.5x 2x 00:00 00:00 Telma Luchetta, sócia-líder de tecnologia da EY: “A lei da UE é muito completa e fácil de adaptar à realidade brasileira” — Foto: Divulgação A inteligência artificial (IA) permite ganhos de eficiência, produtividade e, até mesmo, alavancar modelos de negócio bem-sucedidos, mas as oportunidades não se multiplicam sem riscos. Na tentativa de evitá-los, surgiu na década passada, nos Estados Unidos, o conceito de IA responsável que, hoje, está sendo aplicado no Brasil. O setor tecnológico vem atuando para que seus princípios éticos se tornem a pedra fundamental no trabalho dos softwares cada vez mais autônomos e eficientes. Enquanto o projeto de lei que regula a IA recebe sugestões na Câmara dos Deputados, a norma europeia serve de parâmetro para o segmento dos bancos tradicionais, fintechs, seguradoras e cooperativas de crédito. “Temos a resolução 18, do Banco do Central, mas ela foca somente na qualidade dos dados. Já a lei da União Europeia é muito completa e fácil de adaptar para a realidade brasileira. Na verdade, é o que temos de melhor no mundo”, opina Telma Luchetta, sócia-líder de tecnologia da EY na América Latina. Pelas diretrizes da Europa, o banco deve fazer o inventário das soluções de IA, estabelecer graus de risco, desenvolver a ferramenta e submetê-la ao chamado “red team” - ambiente onde uma IA confronta outra para checar suas vulnerabilidades. Em seguida, o sistema precisa passar por um comitê multissetorial de validação, que aprova ou não. “Todos os bancos do país estão se baseando nisso, com alguns em níveis mais primários e outros mais avançados”, conta a executiva. Apenas para um cliente brasileiro, a EY desenvolveu 1.200 soluções embarcadas com sua própria metodologia de IA responsável. Um relatório da plataforma inglesa Evident Insights, publicado no mês passado, colocou o Itaú Unibanco e o Nubank como destaques entre 20 instituições da América Latina em maturidade no uso da IA, favorecida por fatores como escala e infraestrutura de ponta que os pares da região não conseguem alcançar. Queremos transformar os princípios em ferramentas” Em um ranking do levantamento, o Itaú Unibanco ficou em primeiro lugar no critério transparência. Em segundo lugar, veio o Banco do Brasil, seguido pelo Nubank. O Bradesco ficou em quarto. O indicador mostrou o grau de adesão à IA responsável conforme demonstrado por processos internos publicados, parcerias estratégicas, contratação de talentos e promoção dos valores éticos. “Queremos transformar os princípios em ferramentas. E criamos coisas tão novas que até geramos patentes”, brinca Roberto Frossard, chefe do hub internacional do Itaú e uma das lideranças do Instituto de Ciência e Tecnologia Itaú (ICTi). Fundada em 2023, a associação congrega 90 pesquisadores do quadro da companhia e 180 de universidades federais e americanas, entre elas, do Massachusetts Institute of Technology (MIT). As pesquisas aplicadas nas áreas da IA, computação quântica, robótica e neurociência já originaram 20 pedidos de patentes junto ao Instituto Nacional da Propriedade Industrial (Inpi). A primeira proteção veio para uma ferramenta que previne vieses nas conversas mediadas por IA. No ambiente de inovação do instituto, os cientistas rodam experimentos semanais. A meta é mitigar eventuais preconceitos, ataques, desvios e comportamentos indesejados dos softwares. “Trabalhamos com um misto de ciência e arte. Todo mundo acaba reagindo aos problemas, mas nós queremos antevê-los. Então experimentamos diferentes cenários de riscos das tecnologias na fronteira”, explica Frossard. Pioneira no uso da IA no mundo, a gigante IBM saiu na frente ao implantar uma jornada de transparência ainda em 2013. Dois anos depois, designou seu primeiro líder global de IA responsável. “A IA é como se fosse uma turbina sobre um equipamento que pode escalar superrápido, gerando benefícios. Mas, se alguém descuidar desse arcabouço ético, escala-se para o lado ruim. Por isso, há projetos que falham e muita coisa não sobe para a produção”, comenta Fabrício Lira, diretor de dados da IBM no Brasil. A companhia, que atende grandes bancos do país, entre eles Banco do Brasil e Bradesco, testa internamente todos os riscos dos programas robustos de orquestração e governança antes de levá-los ao mercado. A plataforma watsonx.governance, por exemplo, permite que as instituições financeiras rastreiem os riscos, além de monitorar em tempo real seus modelos de IA e em conformidade com a regulação vigente. “Nossa estrutura empresarial incorpora ética, transparência e tratamento justo das pessoas desde a origem. Trata-se de construir confiança ao redor do que a IA pode produzir”, reflete Lira. A IBM também conta, há oito anos, com um Conselho de IA Ética multidisciplinar. A missão do time é implantar os princípios no dia a dia da operação.