Bij mensen raakt de waarheid soms uit het zicht door vooroordelen, beperkte informatie en emotionele reacties, schrijft de Amerikaanse auteur Steven Rosenbaum in zijn eerder deze maand verschenen, aanvankelijk positief ontvangen boek The Future of Truth, over de waarheid in tijden van kunstmatige intelligentie. „Machines brengen een ander soort vertekening met zich mee: een Waarheid die wiskundig zo complex is, zo snel wordt gegenereerd en gevalideerd, dat ze onbegrijpelijk wordt voor de menselijke waarneming.”
Laat dat nou net zijn wat hem zelf overkwam: zijn boek bevat verschillende verkeerd toegeschreven of zelfs verzonnen (door AI gehallucineerde) citaten, onthulde The New York Times precies een week na de publicatiedatum.
De Amerikaanse tech-journalist Kara Swisher wordt bijvoorbeeld aldus geciteerd: „Het meest geavanceerde AI-taalmodel is als een spiegel. Het reflecteert onze eigen moraal naar ons terug, gepolijst en welbespraakt, maar uiteindelijk leeg achter het oppervlak.” Zelf zei ze tegen The New York Times dat ze dat nooit had gezegd. „Ik klink ook alsof ik een stok in mijn kont heb, volgens ChatGPT”, zei ze in een berichtje aan de krant.
In de citeerfouten herken je duidelijk de erratische virtuele hand van large language models. Aan emotiehoogleraar Lisa Feldman Barrett wordt een verzonnen citaat over emoties toegeschreven dat ze niet vindt kloppen. Een citaat van de Amerikaanse hoogleraar datajournalistiek Meredith Broussard wordt aan een boek van haar toegeschreven terwijl het uit een radio-interview kwam.
