A Kenneth Oye (Filadelfia, 1949) siempre le gustaron los frikis. A sus 16 años, este hijo de inmigrantes japoneses se interesó por el lenguaje de programación y decidió participar en un programa de verano de la National Science Foundation en la Universidad de Pensilvania, donde pudo coincidir con esos “jóvenes raros” con los que le encantaba conversar. Después de aquello, podría haber sido ingeniero o uno de los pioneros de la informática, pero la economía y las relaciones internacionales le cautivaron durante la universidad y decidió dar el volantazo hacia las ciencias sociales. Lo que no imaginaba es que los frikis le volverían a encontrar décadas después, esta vez en los pasillos del MIT (Instituto Tecnológico de Massachusetts), rodeado de “ingenieros que le preguntaban si sus invenciones tenían implicaciones políticas”. Hoy, Oye dirige el Programa sobre Tecnologías Emergentes de la universidad estadounidense, donde, además de profesor emérito de Ciencias Políticas, es profesor de Sistemas de Datos y Sociedad en la Facultad de Ingeniería. En una conversación con EL PAÍS tras dar una conferencia sobre geopolítica, economía y clima de negocios en la Fundación Ramón Areces, el politólogo habla de cuáles son las principales controversias en el ámbito de los datos y qué fantasmas aterran a sus colegas.Pregunta: ¿Qué es lo que más le preocupa en términos de política y regulación en su campo actualmente?Respuesta: Si nos centramos, por ejemplo, en los conjuntos de datos y la privacidad, la seguridad de los datos es preocupante por dos razones. Por un lado, queremos que existan protecciones adecuadas para la privacidad: deben ser claras y suficientes para garantizar el derecho de las personas sobre sus propios datos. Por otro lado, esos mismos datos necesitan ser curados. ¿Ha visto alguna vez su propio historial médico? A veces falta información elemental. Una vez llegué al hospital y el conductor de la ambulancia tenía mal tanto mi nombre como mi historial clínico. Eso me cambió la perspectiva sobre la necesidad de curar los datos. El problema es que no puedes curarlos sin conocer la identidad del paciente, y si conoces la identidad, aparecen todos los problemas regulatorios. Pero si tomas decisiones con datos erróneos, estás en serios apuros cuando hablamos de innovación farmacéutica o investigación sanitaria.P: En Europa algunos se quejan de que regulamos demasiado; en Estados Unidos, de que regulan demasiado poco…R: ¡Y no olvide China! Allí regulan todavía menos. ¿Y se quejan? Sí. Aunque sea algo más peligroso quejarse. Hay dos respuestas a esa pregunta. La primera la dan los economistas cínicos de la Escuela de Chicago: “Ningún problema”, porque si hay diferencias fiscales o regulatorias, la gente simplemente se moverá a donde se sienta cómoda. El problema, claro está, es que la gente no puede moverse: estás más o menos atrapado donde estás. Lo que sí se moverá es la investigación y la innovación. De Europa a Estados Unidos y China, o al revés, puede ir en cualquier dirección.Y hay otro asunto del que creo que se habla poco: si la ventaja es duradera o efímera. Puedes ser el primero en llegar a una tecnología, pero las ideas se transfieren con facilidad. Las innovaciones significativas no proporcionan necesariamente una ventaja sostenida. Quizás en algoritmos y métodos de inteligencia artificial sí, pero los datos son otra historia, porque los datos no se comparten necesariamente.P: En Estados Unidos hay un clima muy hostil hacia los investigadores extranjeros...R: Si miras la historia de las patentes de innovación atribuidas a inmigrantes en los distintos países del mundo, en la mayoría el saldo es negativo, excepto en uno: Estados Unidos. La innovación de inmigrantes procedentes de todo el mundo es enorme allí, de China e India, de forma evidente, pero también, francamente, de Europa Occidental. Ahora bien, las políticas de Trump sobre los visados H-1B han asustado a los estudiantes internacionales. Todo eso está teniendo el efecto de disuadir a la gente de venir a Estados Unidos. Tengo estudiantes de posgrado en el MIT que me han dicho que, si pudieran elegir de nuevo, se habrían ido a Toronto o a Londres. Eso ocurre porque, cuando eliges un programa de doctorado, a menudo te quedas en ese país. Las universidades, las empresas de biotecnología y las de tecnología se están quejando. Antes, mucha gente decía: “Quiero estudiar en Estados Unidos”. Pero ¿qué hay de ahora? Creo que a largo plazo esto le hace daño al país, aunque no de forma irreversible necesariamente.P: ¿Cree que esto va a afectar al equilibrio entre los innovadores que se quedan en Europa y los que van a Estados Unidos?R: Creo que afectará algo al equilibrio. El país que más se beneficiará es Canadá, porque mudarse allí es relativamente fácil en comparación con, digamos, Suiza. ¿Ha intentado alguna vez pedir un visado para Suiza? Canadá gana por su política de acogida a la inmigración. La Unión Europea también se beneficiará, gracias a sus buenas universidades. Pero Estados Unidos se está disparando en el pie.P: Ha dicho que hay que tener cuidado con los datos. ¿Qué podría pasar si la industria farmacéutica alimentara con datos erróneos a la inteligencia artificial para desarrollar tratamientos?La gente que conozco que trabaja con historiales clínicos electrónicos y datos genómicos vinculados a conjuntos de datos actúa con extremo cuidado. Los usan para el diagnóstico terapéutico y la prescripción. Es decir, para asistir a los médicos, para el descubrimiento de fármacos o para la investigación en general. Cuando construyes una muestra de población, hay que pensar ¿qué excluyes? A personas que toman más de un medicamento, a personas con otros problemas de salud... Ese “saneamiento” de la muestra tiene el efecto de convertirla en un grupo donde la efectividad del fármaco quedará exagerada respecto a la población general. Y los problemas de seguridad quedarán enormemente subestimados, porque suelen derivarse de interacciones. Hay que curar y probar y volver a probar, porque no quieres cometer errores ni generar sesgos. Ese enfoque, aplicado específicamente a los fármacos, es algo que necesita extenderse mucho más. Y los datos generados para ello deben emplearse para un abanico mucho más amplio de propósitos: desde la vigilancia de salud pública hasta el desarrollo de nuevas terapias. Es mi primera respuesta. Admito que es detallada y un poco técnica. Y no es una respuesta sexy.P: ¿Ve posible una regulación mundial sobre el tratamiento de este tipo de datos en los próximos años?R: No va a ser mundial. Seguirá habiendo grandes diferencias entre Europa, Estados Unidos y China. Incluso dentro de la propia Unión Europea.P: Ha mencionado iniciativas muy llamativas en ciencias de la vida. ¿Qué cree que veremos en los próximos años?R: No me preocupa la edición genética orientada a fines terapéuticos, sino a la amplificación de capacidades humanas. Me preocupa porque ese tipo de tecnología será impulsada en gran medida por la riqueza. Nadie que sea pobre va a tener acceso a ello y eso acentuará todavía más las muchas diferencias que ya marcan la vida según si uno ha tenido la suerte o la desgracia de nacer en una familia rica o pobre.Hace muchos años tuve una conversación curiosa con militares estadounidenses. Estaba en un panel de la Academia Nacional de Ciencias sobre las implicaciones de las tecnologías emergentes para la seguridad. Fueron sesiones muy interesantes. Durante un descanso fui al baño y escuché a dos funcionarios del Departamento de Defensa hablando entre ellos: «Oye, ¿no sería genial poder crear soldados con un umbral de dolor elevado y tolerantes a la privación de sueño?». Ya se puede imaginar a dónde lleva eso. Se vuelve un poco inquietante.Y es aún más preocupante en lo que respecta a la regulación de la inteligencia artificial. De hecho, los efectos a corto plazo de la IA me preocupan más que el trabajo sobre genética del que estamos hablando aquí.P: En cuanto a la inteligencia artificial, ¿hay algo que le preocupe?La gente a veces se preocupa por cosas que a mí no me preocupan tanto. Todo eso de la inteligencia general que va a dominar el mundo, por ejemplo. Hay implicaciones de la inteligencia artificial en campos muy concretos que necesitan discutirse con mucha más seriedad. En defensa, por ejemplo, las armas verdaderamente autónomas. En la banca está el tema de la puntuación crediticia, la predicción de impagos. En la criminología, la IA se puede aplicar a decisiones sobre sentencias. También está todo lo que se podría hacer en situaciones como las admisiones universitarias o en las decisiones de contratación laboral.En todos esos ámbitos, la gente necesita hablar mucho más sobre los datos de entrenamiento de la IA, porque esos datos incorporarán los efectos de los patrones históricos de discriminación. No es que los datos estén sesgados en sí mismos, sino que los datos reflejan los sesgos ya existentes en la sociedad.P: ¿Siente que existe una necesidad de buscar alternativas a las grandes corporaciones que desarrollan sistemas de inteligencia artificial?R: El efecto de la inteligencia artificial actuará en dos direcciones. De una forma curiosa, podría ser democratizador. Los métodos sencillos de aprendizaje automático no son tan caros y los datos digitalizados de acceso público tampoco están monopolizados. En esta línea, muchos de los beneficios de la IA consisten en generar información y análisis que, antes estaban solo en manos de unos pocos, ahora pueden llegar a muchas personas.Sin embargo, existen conjuntos de datos de propiedad privada. Todo el mundo tiene razón en estar preocupado por Meta, por Google y por las empresas que crean conjuntos de datos para fines especializados, porque los datos son, francamente, la parte más significativa de toda esta conversación. Aunque no suelen ser el centro del debate, ya que este suele girar en torno a la inteligencia artificial en abstracto, a largo plazo, yo centraría la atención en los efectos de la creación y la titularidad de los conjuntos de datos de propiedad privada.