La primera cumbre global sobre seguridad en torno a la inteligencia artificial (IA) ha logrado que Estados Unidos y China, dos potencias rivales especialmente enfrentadas en el ámbito tecnológico, se hayan alineado con buena parte de la comunidad internacional para alertar sobre las amenazas potencialmente "catastróficas" de la nueva tecnología.

Hasta 29 gobiernos, incluida la Unión Europea, se han dado cita este miércoles en un encuentro auspiciado por el Reino Unido en el que debaten hasta mañana jueves, junto a representantes de las principales empresas tecnológicas globales, planes para identificar y mitigar los riesgos de la IA.

El resultado más tangible de la cumbre es una declaración conjunta en la que los países participantes, entre los que también se incluyen España, Alemania, Francia, Brasil, India y Canadá, entre otros, se comprometen a impulsar la cooperación internacional para evitar los peores augurios en torno a los nuevos sistemas inteligentes.

Peligros inmediatos

Los líderes políticos perciben peligros inmediatos como la capacidad de la nueva tecnología para generar desinformación, pero alertan especialmente sobre futuros riesgos "existenciales" para el conjunto de la humanidad.

Las amenazas van desde facilitar ataques informáticos a una escala no vista hasta ahora y dar las claves a grupos terroristas para fabricar armas biológicas, hasta la posibilidad de llegar a perder el control de un sistema autónomo, cuyos objetivos podrían comenzar a divergir de los que habían previsto los humanos.

Los líderes políticos perciben peligros inmediatos como la capacidad de la IA para generar desinformación, pero alertan especialmente sobre futuros riesgos "existenciales" para el conjunto de la humanidad.

"Ante el veloz e incierto ritmo de los cambios en la IA, y en el contexto de una aceleración de las inversiones en tecnología, afirmamos que profundizar en nuestra comprensión de esos riesgos potenciales y las acciones para mitigarlos es especialmente urgente", subrayan los países en el comunicado conjunto.

Nick Clegg, presidente de Asuntos Globales de Facebook, en la cumbre sobre seguridad de IA en Reino Unido

La cumbre de seguridad impulsada por el Reino Unido tendrá continuidad en el futuro. Corea del Sur acogerá una minicumbre virtual dentro de seis meses, mientras que Francia será la anfitriona de un nuevo encuentro internacional en el plazo de un año.

Elon Musk

A la cumbre en Blentchley Park (centro de Inglaterra), el enclave donde se decodificaban los mensajes secretos nazis durante la Segunda Guerra Mundial, han acudido responsables de las principales empresas tecnológicas que han iniciado la revolución en el sector.

OpenAI, Google DeepMind, Anthropic, Meta y Microsoft, entre otras, participan en los debates con académicos y políticos, muchos de ellos a puerta cerrada, para tratar de establecer una visión común sobre los retos que se presentan.

Elon Musk, dueño de X (Twitter), en la cumbre sobre seguridad de IA en Reino Unido

Una de las estrellas de la cumbre es el desde hace un año propietario de la red social X (antes Twitter), Elon Musk, que durante la primera jornada de la cumbre participó en gran parte de los debates y alertó de que la IA es uno de los principales peligros que afronta la humanidad. "Por primera vez, estamos en una situación en la que hay algo que va a ser más listo que el más listo de los humanos", dijo el polémico magnate estadounidense.

"No está claro si podemos, de hecho, controlar algo como eso, pero creo que debemos aspirar a guiarlo hacia una dirección que sea beneficiosa para la humanidad", agregó Musk, que apostó por crear un "árbitro independiente" que vele por la seguridad en el desarrollo de la IA.

Curiosamente, el sudafricano se ha mostrado contrario a cualquier evaluación similar de su red social, considerada por la Comisión Europea como la plataforma en la que más desinformación de propaga.

Poner el foco en los riesgos presentes

Los organizadores de la cumbre quieren centrar el diálogo en la llamada IA de frontera, los modelos que todavía se están desarrollando y que podrían presentar amenazas "existenciales", pero todavía hipotéticas e indefinidas.

Kamala Harris subrayó la necesidad de velar por que el uso de los actuales sistemas de IA generativa no afecten de manera desproporcionada a los colectivos más vulnerables

Sin embargo, algunas voces en la cumbre llamaron a poner el foco en peligros inmediatos más acuciantes.

La vicepresidenta de EEUU, Kamala Harris, en la cumbre sobre seguridad de IA en Reino Unido

Entre ellas, la vicepresidenta de Estados Unidos, Kamala Harris, que subrayó la necesidad de velar por que el uso de los actuales sistemas de inteligencia artificial generativa no afecten de manera desproporcionada a los colectivos más vulnerables.

"Cuando una persona mayor es expulsada de su plan de salud debido a un fallo en un algoritmo de IA, ¿no es eso existencial para él? Cuando una mujer se ve amenazada por una pareja abusiva con fotografías falsas (deepfake) ¿no es eso existencial para ella?", dijo Harris.

Por Guillermo Ximenis (EFE)