No início deste ano, o autor Steven Rosenbaum recebeu um telefonema que virou seu mundo de cabeça para baixo. O livro que ele havia passado três anos pesquisando e escrevendo, foi informado, continha citações inventadas por ferramentas de IA.
"Quando soube que havia imprecisões factuais em ‘The Future of Truth’, minha primeira reação foi: isso é impossível", conta Rosenbaum, dois meses após a descoberta. "O livro havia passado por um processo editorial tradicional, com várias rodadas de edição e revisão."
Rosenbaum havia sido transparente sobre o uso de ferramentas de IA em seu livro de não ficção —ironicamente, um estudo sobre o futuro da verdade e da tecnologia—, mas as utilizara apenas para pesquisar e organizar o material, inclusive para resumir documentos de referência e entrevistas.
"O que não percebi foi que, em alguns casos, ela transformou esses resumos no que pareciam ser citações diretas", afirma. "O perigo não é a IA escrever uma prosa ruim. O perigo é ela escrever uma prosa convincente associada a fatos que nunca existiram."
O rápido desenvolvimento da IA está mudando a maneira como o setor editorial, avaliado em US$ 140 bilhões, encomenda, edita e distribui livros. O uso não autorizado de material protegido por direitos autorais por empresas de IA também se tornou uma preocupação crucial. Na semana passada, a Anthropic concordou em pagar US$ 1,5 bilhão em um acordo com autores e editoras após usar mais de 480 mil obras publicadas para treinar seus grandes modelos de linguagem sem pagamento nem autorização.
