Con la rapida diffusione delle soluzioni di intelligenza artificiale in azienda, le organizzazioni devono fronteggiare i costi ad essa connessi, che stanno superando i loro vincoli di budget. Questa leva di competitività ha infatti un impatto crescente sui loro conti, considerata anche la tendenza al 'tokenmaxxing' di alcune realtà, vale a dire a massimizzare il consumo di token (i frammenti di testo che compongono sia le informazioni fornite al sistema, sia la risposta generata): una pratica che nei mesi scorsi era stata anche presentata come un indicatore di produttività per poi essere giudicata negativamente. Al peso economico si aggiunge il profondo impatto ambientale, legato ai consumi energetici e idrici che l'uso di questa tecnologia comporta, visto che ogni richiesta a un modello attiva risorse di calcolo in un data center.
Proporzionare calcolo, contesto e automazione al valore prodotto dovrebbe essere la strada da seguire per rendere più efficace e sostenibile l'impiego dell'IA, secondo un'analisi realizzata da Oliver Wyman, società di consulenza strategica: scrivere prompt chiari, definire i limiti dell'output da produrre, attivare il ragionamento avanzato solo nei compiti più complessi, e ancora tenere un archivio di prompt da riutilizzare e governare agenti e processi automatici sono alcune delle pratiche per abbattere costi, consumi energetici e le relative emissioni di CO2 prodotte.
