Na semana passada, a Anthropic lançou uma nova versão do Claude, o seu modelo mais avançado, e fez algo incomum para uma área repleta de exageros. Em vez de anunciar que o algoritmo ficou mais inteligente, o seu principal destaque foi que ele ficou mais honesto. PUBLICIDADEPublicidadeQuando a IA recua e diz que não sabe, ela protege quem pergunta de uma resposta errada, mas deixa o humano novamente diante da tarefa de decidir sem orientação. Um algoritmo que se recusa a estimar qualquer coisa diante da incerteza pode ser tão inútil quanto um que finge ter certeza sobre tudo. A calibração entre ser confiante e estar correto é o que distingue um bom profissional de um amador. Um médico experiente não é aquele que sempre tem uma resposta para tudo, mas aquele que sabe quando o caso saiu da sua área de conhecimento e pede uma segunda opinião a um especialista. Em vez de anunciar que o algoritmo ficou mais inteligente, Anthropic disse que agora ele ficou mais honesto