È perfettamente umano. Se una persona è empatica nei nostri confronti, ci tende la mano e ci mostra il suo lato più socievole, con ogni probabilità cercheremo di ricambiare con lo stesso comportamento. E forse, a livello inconscio, abbasseremo le nostre difese e saremo più propensi a concedere la nostra fiducia. Ecco, secondo una nuova ricerca dell'Oxford Internet Institute dell'università inglese, lo stesso meccanismo sta alimentando le principali piattaforme di intelligenza artificiale, tra cui OpenAI e Anthropic che stanno progettando modelli conversazionali sempre più cordiali ed amichevoli.
I ricercatori inglesi ritengono che i chatbot addestrati all’empatia verso gli interlocutori umani avrebbero probabilità più alte di commettere errori nelle risposte, favorendo la diffusione di false convinzioni. Considerando che i modelli linguistici sono utilizzati da milioni di persone in tutto il mondo anche per consigli personali, spesso medici, e come forma di compagnia, il pericolo che ne deriva è enorme. Nello studio di Oxford dal titolo "Training language models to be warm can undermine factual accuracy and increase sycophancy” e pubblicato su Nature, gli studiosi hanno portato avanti un esperimento interessante, testando cinque diversi modelli di intelligenza artificiale.
