Nel software tradizionale il comportamento di un sistema sta nel codice: lo scrivono gli ingegneri, riga per riga, e quel codice si può leggere, ispezionare, all’occorrenza portare in tribunale. Con l’AI questo non è più vero. Il comportamento di un modello non lo scrive nessuno: viene appreso dai dati. Un modello di machine learning ha un utilizzo pratico solo quando è stato addestrato su dati di qualità e applicato a nuovi dati coerenti con questi. In altre parole, nell’AI non è tanto il codice a fare la differenza, quanto i dati.