L’intelligenza artificiale generativa è stata presentata alle aziende come una tecnologia capace di ridurre i costi, aumentare la produttività e automatizzare una parte crescente del lavoro umano.
Tuttavia, si tratta di un preambolo che cozza contro il reale costo dell’adozione delle IA che, come evidenzia il sito Futurism.com, rappresenta un possibile collo di bottiglia tale da indurre le aziende e le organizzazioni a fare riflessioni di un certo tipo.
Addestrare un grande modello linguistico richiede investimenti enormi, ma la spesa non finisce quando il modello è pronto. Ogni domanda, ogni documento analizzato, ogni immagine generata e, più in generale, ogni azione compiuta da un agente IA comporta nuovi costi, segnala The Atlantic.
Con l’aumentare degli utenti, della lunghezza dei contenuti e la complessità delle richieste, cresce il costo dell’inferenza, ossia l’uso operativo delle IA.
I modelli linguistici di grandi dimensioni (LLM) diventano sempre meno costosi, tant’è che i prezzi unitari sono diminuiti sensibilmente e i modelli moderni sono sempre più efficienti. Tuttavia, l’industria delle IA chiede ai modelli di ragionare più a lungo, consultare strumenti esterni e concatenare decine o centinaia di operazioni. Il costo del singolo passaggio scende, sì, ma i passaggi si moltiplicano.
