El debate sobre el futuro de la inteligencia artificial se aceleró en la última semana y este lunes fue Sam Altman, el fundador y CEO de OpenAI —creador de ChatGPT—, quien advirtió que el avance de la tecnología “podría salir muy mal”. En una serie de publicaciones en su cuenta de X, el empresario identificó dos riesgos potenciales sobre la IA, apenas un día después de cancelar la salida a la bolsa de su marca.
Como primer riesgo, Altman consideró la posibilidad de que la humanidad “pierda el control del futuro” frente a la IA: “Esto es inaceptable; la IA siempre debe servir a las personas”, escribió, y agregó que las técnicas de alineación y seguridad deben avanzar al mismo ritmo —o por delante— que las capacidades de los modelos.
El segundo escenario que planteó Altman es el de una concentración excesiva de poder. “Si una IA extraordinariamente poderosa es usada por una persona o una empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos”, sostuvo. El CEO de OpenAI señaló que evitar ambos riesgos exige “caminar por un sendero angosto” y puso como ejemplos el peligro de que un país o un laboratorio de IA concentren demasiado poder.
