Michael Ignatieff, ante la crisis tecnológica: "Rezo para que Xi Jinping y Trump pacten que la IA no acceda a los arsenales atómicos"

Michael Ignatieff es un caballero canadiense de 79 años con quien hay que hablar cada vez que el mundo pierde los papeles, porque es alguien que da templanza en tiempos oscuros. Siempre se le pregunta mucho por el hombre y sus follones, pero ahora es momento de preguntarle por la máquina. Más aún dada las advertencias sobre los peligros potenciales de la IA que nos bombardean estos días en los que aún no se sabe si la amenaza es la propia tecnología... o sus dueños. Entre sus numerosos cargos y facetas intelectuales conviene recalcar que Ignatieff preside el consejo asesor del Instituto de Ética en la IA de la Universidad de Oxford. El encuentro con el premio Princesa de Asturias de Ciencias Sociales de 2024 se produjo ayer durante su visita exprés a Madrid, adonde llegó para dar una conferencia en la Fundación Rafael del Pino. Los padres de la IA están pidiendo una moratoria parcial en su desarrollo. Resulta que los mismos hombres que durante años han defendido que la innovación tecnológica no debía ser frenada son ahora quienes dicen que tenemos que reducir la velocidad porque hemos llegado demasiado lejos. La clave está en los motivos y en la desconfianza que estos provocan. Uno puede ser financiero dadas las cantidades astronómicas de deuda que estas empresas arrastran. Otra posibilidad es que se enfrenten a un problema clásico de competencia entre dos entidades capitalistas que requieren que el Estado intervenga para regularla, de modo que una no destruya a la otra. Hay un tercer motivo que para mí es el que más nos debe preocupar, que es del que ha hablado Dario Amodei [fundador de Anthropic]. Esta gente no sabe qué pasa dentro de la caja negra. Lo realmente aterrador es que no entienden lo que hacen estos modelos. Fueron pillados por sorpresa y hablan de la posibilidad de que un enjambre de IA se haga con el control de internet. Por lo tanto, frenar una tecnología cuyas dimensiones son desconocidas puede tener sentido. Es una razón válida.El problema es el argumento de que uno no puede parar hasta que todos paren. Si tú eres el único que baja el ritmo, pierdes la carrera.La Administración Trump les ha dicho a las empresas que, si quieren parar, que paren, pero que no pidan que sea el Estado el que saque las castañas del fuego regulando. Su mensaje es claro: paren ustedes, que fueron quienes empezaron esto. Y no se equivoca. Pero sucede lo que dice usted, que el que para, pierde. Aquí te enfrentas a la tensión entre empresas, ya que es casi imposible que cada una no busque ventajas competitivas en este contexto, y a la tensión entre países. Por eso veo muy difícil un acuerdo entre China y EEUU. Tampoco ayuda al respecto la declaración de Amodei, que a mi juicio empeora las cosas, al defender que la IA estadounidense se alinee con las prioridades de seguridad nacional de EEUU para evitar el sorpasso chino. Una actitud que no hace más que aumentar los recelos, ya muy grandes, de Pekín.Donald Trump y Xi Jinping se reúnen en breve.Se trata de una cumbre esencial para evitar que los modelos de IA se escapen de control. Hay que hacer seguros los arsenales nucleares y de armas biológicas y establecer mecanismos que impidan su despliegue sin autorización humana. Nos enfrentamos a una amenaza existencial de primer orden. Rezo para que Trump y Xi Jinping acuerden al menos eso. Estamos en un momento clave en la historia del control de armas, similar al que vivimos en los años 70 cuando la carrera armamentística de la Guerra Fría nos llevó al borde del precipicio. Si EEUU y China aceptan un control, esto involucrará a los rusos. Es un problema a tres bandas, veo un momento muy crítico para la humanidad.Queda claro que ya no hablamos de un debate entre grandes corporaciones, sino de que los políticos deben dar un paso adelante.El peligro es el grado gigantesco de desconfianza entre las potencias. Trump cree que si China gana la batalla de la IA, gana la batalla por el control del mundo. Y Xi piensa lo mismo.¿Qué tiene que pasar para que las grandes empresas tecnológicas se sientan obligadas a priorizar el destino de la humanidad por encima de las ganancias?El tema es económico y muy complejo. [Ignatieff se toma un silencio reflexivo muy largo]. El coste de construir estos centros de datos es enorme y, por lo tanto, las empresas necesitan obtener beneficios para sobrevivir. Hablamos de una tecnología extremadamente cara de desarrollar, así que resulta ridículo decirles que deberían anteponer los intereses humanos a las ganancias. Piense en lo que les está costando salir adelante. Anthropic anunció que estaba a punto de comenzar a registrar ganancias por primera vez en 10 años. Estas personas han construido modelos con dinero prestado durante 10 o 15 años sin obtener ningún retorno y los bancos se lo han prestado porque piensan que esto va a ser un gran negocio. Sin embargo, nadie está ganando dinero ahora. Por supuesto, quienes mandan no quieren que se destruya el mundo, son personas y muchos tienen hijos. Volvemos a lo que dijimos al principio: hay un desconocimiento de lo que ocurre dentro de esta tecnología, de los sistemas de automejora que pueden terminar escapando del control humano al refinar sus comportamientos. El debate ético es claro: ¿es posible controlar algo que no entiendes?Otra pregunta es si llegaremos a entenderlo en algún momento. En ese sentido, soy optimista. El gran filósofo italiano Giambattista Vico dijo hace casi 300 años que los seres humanos solo pueden conocer verdaderamente aquello que ellos mismos han creado. Así que necesitamos cierto tiempo para entender esta tecnología. Para saber másEmpresas. ¿Quién gana y quién pierde al frenar la IA? De las ventajas para Elon Musk, Meta e incluso Europa al varapalo para NvidiaRedacción: JOSÉ M. RODRÍGUEZ SILVA ¿Quién gana y quién pierde al frenar la IA? De las ventajas para Elon Musk, Meta e incluso Europa al varapalo para NvidiaEntrevista. José Ignacio Latorre, experto en computación cuántica: "Si una IA avanza desbocada, nuestra seguridad está en peligro manifiesto"Redacción: RODRIGO TERRASA MadridJosé Ignacio Latorre, experto en computación cuántica: "Si una IA avanza desbocada, nuestra seguridad está en peligro manifiesto" No dejamos de decir que las máquinas tienen inteligencia humana. ¿Amenaza esta definición nuestra concepción de lo que entendemos que es un ser humano? La IA está desafiando el significado del ser humano. Los hombres tendemos a antropomorfizar todo, desde los animales hasta las máquinas, para entenderlos. Sin embargo, la IA es computación, no inteligencia humana. Hablamos de modelos de aprendizaje como si estos funcionaran igual que el cerebro de un niño cuando aprende cosas, aunque hablamos de algo diferente por muy impresionante que sea. Esto provoca que consideremos por inferiores las capacidades humanas a las de las máquinas, lo que provoca que nos rindamos ante ellas. Eso es peligrosísimo. Michael Ignatieff conoce bien la democracia, incluso cuando es desagradecida. No sólo por haberla estudiado y compuesto junto a los derechos humanos y el nacionalismo, su pasión intelectual, sino también por haber experimentado sus latigazos: en 2005 abandonó su confortable aula de docente en Harvard para explorar la jungla política como líder del partido de los liberales. Canadá perdió un mal político y el mundo ganó un intelectual valiente y poderoso. Ignatieff cayó en las elecciones y regresó a su biblioteca para escribir sus memorias políticas. ¿Qué les ocurre a la libertad humana y a la democracia cuando aparecen poderes que los ciudadanos no pueden controlar ni comprender lo suficiente, como podría suceder con la IA?Este podría ser el mayor desafío para la democracia. Si cojo el smartphone y empiezo a navegar, puedo encontrarme con un discurso de Donald Trump que sea falso. La tecnología me impide distinguir si eso lo ha dicho Trump de verdad. No hay nada más peligroso para la democracia que esta entrada en un mundo de espejos en el que nadie sabe qué es auténtico y qué es falso. ¿Dijo tal cosa Pedro Sánchez? Tú puedes ver a alguien que es igual que Sánchez en un vídeo, que tiene su misma voz, pero no ser él. El juicio democrático depende de discernir la verdad.Esto no es nuevo.Cierto, en democracia todo el mundo miente, pero el sistema en sí ha permitido distinguir entre lo que es cierto y lo que es falso. La democracia no habría sobrevivido si no hubiéramos podido detectar la verdad, así que no estamos indefensos, nos hemos fogueado. Pero la IA es un reto muy complejo, dado el nivel de la tecnología. Debería ser ilegal poner palabras en la boca de alguien. Nos sentamos, hablamos con las personas que manejan estas tecnologías y les decimos: el pueblo debe ser soberano aquí. El pueblo debe tener derecho a elegir.Mario Draghi ha sido muy claro sobre el papel que debe tener Europa: necesitamos IA, pero también necesitamos regulación.Sí, la necesitamos y conseguirla no es imposible. Debería ser ilegal suplantar la identidad de Pedro Sánchez o Feijóo y representarlo diciendo cosas que no dicen. Tenemos que tener reglas y meter en la cárcel a la gente que nos mienta. La defensa de Europa depende de EEUU, el comercio depende de China y la energía de Rusia. Su país, Canadá, depende completamente de EEUU en ciberseguridad. ¿Se puede ser soberano así en el siglo XXI?Si no hay soberanía energética y de ciberseguridad, no hay soberanía. La solución de EEUU y Europa desde 1945 fue reconocer que cada país por sí solo no es lo suficientemente fuerte como para recuperar su soberanía, pero que sí se puede conseguir juntos como un mercado de 450 millones de personas. Ese instinto no es erróneo; al contrario, es el correcto. El problema es que entonces tenemos un enorme problema de coordinación para lograr que los Estados europeos renuncien a parte de su soberanía para obtener una soberanía colectiva. Para que España sea soberana, irónicamente debe ceder parte de su soberanía a Bruselas. Así es como funciona. Es la única manera para que Europa pueda aportar enormes cantidades de capital cuando sea necesario. Sucedió con la pandemia y va a ser igual de necesario con la tecnología. Da la impresión de que estamos ya muy rezagados. Europa tiene que asumir que todas estas dependencias pueden usarse hoy como un arma contra ella. El presidente de los EEUU podría decir en cualquier momento a alguna de sus grandes empresas que cierren el grifo a los negocios con Europa si lo ve necesario por motivos estratégicos. A esta nueva realidad tiene que adaptarse Europa, porque vivimos en un mundo en el que la instrumentalización de la dependencia es el principal herramienta de la competencia entre países. El viejo mundo del 'todos ganan' ha sido reemplazado por un nuevo mundo de 'yo gano, tú pierdes'.