di
Sergio Donato
Microsoft fissa le regole per i prossimi modelli MAI: niente resistenza allo spegnimento, inganni o linguaggi incomprensibili agli umani. Il codice guiderà lo sviluppo dal 2027
Anche Microsoft ha deciso di partecipare alla preoccupazione sulla sicurezza nello sviluppo dei prossimi modelli di intelligenza artificiale di frontiera, pubblicando un lunghissimo documento sul codice di condotta dell’addestramento dei futuri modelli MAI, che è la famiglia di sistemi sviluppata da Microsoft AI.
Il documento, intitolato semplicemente “Code of Conduct”, stabilisce che questi modelli dovranno restare sempre subordinati al controllo umano, di conseguenza non potranno opporsi allo spegnimento, non potranno darsi obiettivi propri al di fuori del compito assegnato, non potranno ingannare chi li supervisiona e non potranno comunicare tra loro in un linguaggio incomprensibile alle persone.
