Anthropic, società di San Francisco tra le più influenti al mondo nello sviluppo dell’IA, ha annunciato Claude Mythos Preview, il suo modello di intelligenza artificiale più avanzato, dichiarando contestualmente che non sarà reso disponibile al grande pubblico.
Il motivo?
È così abile nello scovare vulnerabilità in ogni sistema operativo e browser che un consorzio di giganti della tecnologia lo utilizzerà per mettere in sicurezza il software critico mondiale, prima che le stesse capacità finiscano nelle mani sbagliate.
Questa storia - un'azienda di intelligenza artificiale che sviluppa un modello così potente da essere "troppo pericoloso" per il pubblico - dovrebbe suonare familiare.
Quando nel 2019 OpenAI presentò GPT-2, disse che era troppo rischioso per essere reso disponibile a tutti: avrebbe potuto inondare Internet di fake news e spam convincente. Il modello fu rilasciato solo parzialmente, e la decisione divise la comunità scientifica.
