El Parlamento Europeo prepara la primera ley mundial sobre inteligencia artificial. Hay un debate público sobre cambio climático, que no se repite sobre la revolución digital. Pero miles de pensadores, expertos y ejecutivos de la industria acaban de pedir una moratoria en el entrenamiento de los poderosos sistemas de inteligencia artificial de última generación. Argumentan que se trata de un peligro para la civilización. En una carta abierta aseguran que los laboratorios que desarrollan estas tecnologías están en una carrera fuera de control para conseguir mentes digitales cada vez más poderosas, que escapan a la inspección de sus propios creadores.

El ensayista israelí Yuval Harari, autor del best-seller Sapiens y uno de los firmantes del manifiesto, ha tenido un careo con el francés Yann LeCun, científico jefe y vicepresidente de IA en Facebook, organizado por el semanario francés Le Point. Definieron inteligencia (la capacidad para resolver problemas) y conciencia (la capacidad de sentir dolor, placer, amor, odio...). Harari explicó que organismos como las plantas pueden resolver problemas sin tener conciencia y que las máquinas pueden ser inteligentes sin tener sentimientos. Y LeCun replicó que acabaremos teniendo máquinas que planifiquen y fijen objetivos, que tendrán el equivalente a los sentimientos, aunque añadió que aún estamos lejos de que una máquina con conciencia.

Según el jefe de IA de Meta las máquinas superinteligentes traerán un nuevo Renacimiento y una nueva Ilustración. Pero reconoce que se necesita una regulación que garantice que los productos que se desplieguen tengan un efecto positivo en la sociedad. El pensador israelí es, sin embargo, escéptico. Para él, esta tecnología en las manos equivocadas podría destruir la democracia. Ya asistimos en las elecciones norteamericanas de 2016 al efecto de los algoritmos de recomendación. Los expertos nos advierten que eso no será nada comparado con el poder de estas IA para cambiar la opinión de la gente, desde qué productos comprar hasta a qué político votar.

El filósofo vasco Daniel Innerarity, hace unas semanas en Málaga explicó que hay una dicotomía entre legitimidad e información. Los gobiernos tienen la legitimidad democrática y las grandes tecnológicas, los datos. Y en las negociaciones que entablan tratan de intercambiar información por legitimidad. Las tecnologías que acompañan la digitalización implican una despolitización, un déficit democrático. Innerarity recomienda hacer con los algoritmos lo mismo que las revoluciones democráticas modernas hicieron con el poder: dividirlo y problematizarlo, darle un plazo limitado y limitar también sus competencias, exponerlo a la contestación y a la crítica.

La inédita iniciativa del Parlamento Europeo debería provocar un debate público más allá de las élites.