Dare priorità alla sicurezza dell'intelligenza artificiale rispetto agli imperativi commerciali. E' la sfida di Yoshua Bengio, professore all'Università di Montreal e vincitore nel 2018 del premio Turing per il suo lavoro sulle reti neurali profonde insieme Yann Le Cun e Geoffrey Hinton. Per i loro studi pioneristici, i tre ricercatori sono annoverati tra i padri dell'Intelligenza artificiale moderna.
Bengio ha creato una società no-profit che si chiama LawZero, fino ad ora ha messo insieme un team di una dozzina di ricercatori e ha raccolto un finanziamento inziale di 30 milioni di dollari in donazioni da finanziatori come Jaan Tallinn (co-fondatore di Skype), Eric Schmidt (ex Ceo di Google), Open Philanthropy e il Future of Life Institute. L'obiettivo della società - spiega il ricercatore sul suo blog - è creare un nuovo sistema più sicuro chiamato 'Scientist AI'.
"Questa organizzazione è stata creata in risposta all'evidenza che gli odierni modelli di intelligenza artificiale presentano capacità e comportamenti sempre più pericolosi - afferma l'informatico - La ricerca di LawZero aiuterà a sbloccare l'immenso potenziale dell'IA in modi che riducono la probabilità di una serie di pericoli noti tra cui bias algoritmici, l'uso improprio intenzionale e la perdita di controllo umano. Vogliamo costruire intelligenze artificiali oneste e non ingannevoli".
