Los tres errores de Faetón. Chip cerebral, IA y Musk

Es significativo que el Ministerio de Industria y Tecnología de la Información del gigante asiático haya declarado «producto icónico innovador» sus últimos adelantos en «interfaz cerebro-computadora». Encuentren aquí una importante pista sobre por qué la Unión Europea no está siendo más restrictiva en su propuesta de ley para la regulación de la inteligencia artificial (IA) –esencial para que los chips logren hacer todo lo que se promete–. Estados Unidos y China pugnan por la supremacía tecnológica y en esta carrera la UE está quedándose rezagada.

¿Qué hay en juego con los chips? Musk los presenta bajo ese mesianismo tan propio de él: la panacea para los enfermos de hoy y la herramienta para «desbloquear el potencial humano del mañana». Esta afirmación conlleva una idea de fondo que debería preocuparnos. Musk es nieto de Joshua Halderman, líder del Movimiento Tecnocrático de 1936 a 1941. Según este movimiento, la democracia debía desaparecer y sus políticos ser sustituidos por ingenieros y científicos; vestían de gris y tenían números por nombre; su símbolo (un círculo rojo y blanco) aún puede verse en las paredes de algunos laboratorios de Silicon Valley.

No es agua pasada. Elon Musk encabeza la lista de ricos, según Forbes y su hijo menor se llama X Æ A-12. Añade leña al fuego saber que lo que Joshua N. Haldeman presentaba como un ferviente anticomunismo acabe pareciéndose, paradójicamente, a lo que es hoy un Estado comunista con economía de mercado. Quizá la próxima gran guerra no sea entre bloques con sistemas políticos enfrentados sino simplemente una guerra entre tiranos.

Sobre este riesgo ya avisa, hace casi un siglo, Aldous Huxley, uno de los primeros en proponer que el desarrollo de tecnologías capaces de abrir brechas en la privacidad y la autonomía de los ciudadanos podrían convertirse en el principal catalizador del declive de las democracias. Por supuesto, el problema no está en la tecnología en sí misma, sino en el hecho histórico, demostrado, de que, cada cierto tiempo, un hombre malvado llega al poder. El autor de 'Un mundo feliz' sabe que el peligro no es inminente, pero advierte que cuando lo sea, puede que ya no seamos capaces de evitar el punto de no retorno, esto es, la más temible singularidad, cuando la tecnología hace imposible derrocar al tirano.

Otros males acercan esta temible singularidad tecnológica. No me refiero solo a las modas transhumanistas, sino también a los humanismos buenistas que insisten en que todo se soluciona con una correcta educación en el uso sano y responsable de la tecnología. Bajo este eslogan empezaron a regalar móviles a menores de edad hace veinte años, y hoy también se escudan con el mismo sainete para enseñar a nuestros estudiantes, en el aula, las ventajas de ChatGPT. ¿Por qué aprender a redactar si la máquina puede hacerlo por ti? ¿Se entiende aún que en esa habilidad se asienta una de las bases del pensamiento crítico y creativo? ChatGPT es una herramienta útil, sí, pero no para la docencia. Las élites tecnócratas no llevarán chips y sabrán redactar.

El humanismo 'cool' está consiguiendo menos que nada. La estrategia del cordero con piel de lobo jugando al despiste retórico y a los juegos de tronos es contraproducente. Como escribe Friedrich Nietzsche, allá por 1886, en 'Más allá del bien y del mal': «Quien con monstruos lucha, cuide de convertirse a su vez en monstruo». Y los monstruos no son felices ni demócratas –interprétese a gusto esta última frase.

Cuenta Publio Ovidio Nasón que Faetón pidió a su padre Helios que le permitiera conducir el carro del sol a través del cielo. Según el poeta romano, cometió tres errores: desconfió de su filiación divina, infravaloró la labor de su padre, y creyó que bastaba la buena intención para controlar el sol. Bajo su conducción el carro causó estragos en el cielo y abrasó la tierra.

¿Es posible detener a los futuros Faetón? Necesitamos volver a confiar en los discursos veraces y directos. Quizá la solución esté en un nuevo tipo de humanismo, llamémosle verdadero humanismo tecnológico, que ofrezca soluciones convincentes, pero sin violencia ni manipulación, sobre cómo esquivar el punto de no retorno. ¿Es posible lograr esta meta sin detener el avance tecnológico? La respuesta es todo un reto; estoy seguro que muy del gusto de visionarios multimillonarios que busquen maneras originales de gastar su dinero o deseen convertirse en auténticos salvadores de la humanidad.