Quasi tutto il dibattito sull’intelligenza artificiale poggia su un presupposto, che raramente ci fermiamo a interrogare: noi decidiamo che cosa vogliamo, la macchina ci aiuta a ottenerlo. Chiediamo un percorso e il navigatore trova la strada, fissiamo un obiettivo e un sistema propone una strategia, formuliamo una domanda e un modello costruisce una risposta. Possiamo preoccuparci dell’accuratezza, dei pregiudizi nascosti, della trasparenza, del grado di autonomia che concediamo alla macchina, ma la divisione dei ruoli resta apparentemente limpida. L’essere umano stabilisce i fini, la tecnologia ottimizza i mezzi. È una distinzione rassicurante, perché ci lascia un regno in cui continuiamo a sentirci sovrani indiscussi: il desiderio. Ma che succede quando un sistema artificiale comincia a partecipare non più soltanto alla scelta dei mezzi, bensì alla costruzione dei fini?
Non serve immaginare un’intelligenza artificiale cosciente, che sviluppa una volontà propria e decide di manipolarci. Lo scenario è assai più semplice e proprio per questo più credibile. Gli assistenti diventeranno personali, persistenti, capaci di ricordare. Conosceranno il nostro calendario, i documenti, gli acquisti, le persone con cui lavoriamo, i luoghi che frequentiamo, le conversazioni di ieri, gli obiettivi dichiarati, le decisioni prese. Un sistema davvero utile non aspetterà sempre che gli chiediamo qualcosa. Saprà anticipare: suggerire che è il momento di cambiare investimento, proporre un viaggio, indicare un corso, ricordarci che una certa persona non la sentiamo da mesi, far notare che il nostro lavoro non somiglia più agli obiettivi che dichiaravamo un anno fa. L’assistente perfetto non si limita a rispondere ai desideri. Impara a precederli.
