Vuelta al cole con un artículo de imprescindible lectura que pone de manifiesto algo innegable: por mucho que quieran perfeccionarse los mecanismos de seguridad y control de la IA, puede que nunca sea ya posible. Y más con el desarrollo generalizado de modelos agénticos que cuentan con la autonomía suficiente como para relacionarse entre ellos y, potencialmente, saltarse los guardarraíles por los que deberían transitar.
OpenAI puede dar fe de ello con lo que le ha sucedido este verano, que es de lo que va el 'post'.
Se trata de una pieza larga que no está ni mucho menos alejada de un titular que muchos habrán tachado de sensacionalista. No en vano les comparto su inicio:
'Over the course of three months at OpenAI, three consecutive secret AI civilizations got started, then got wiped out, only to reemerge from the predecessor's ashes. This culminated in the third one taking over part of OpenAI itself. All this happened while humans remained more or less in the dark about the scope of the conspiracy.'
Lo que sorprende es el uso de la palabra 'civilización', que el DRAE define como 'conjunto de costumbres, saberes y artes propios de una sociedad humana'. Es decir, un modo de comportamiento propio y diferencial que, en vez de construirse a lo largo de siglos, en este caso se ha materializado en tiempo récord por interacción de las redes neuronales del 'deep learning'. Y sin que ese 'human loop' que debería supervisar el proceso se entere de la misa la media. Probablemente estemos ante un uso exagerado del término, o no, pero recuerden: el presente siempre da señales de lo que va a deparar el futuro. Civilización, quédense con la copla.
