Entre Gandalf y los Palantír: una reflexión sobre la inteligencia artificial1, el poder y la naturaleza humana
I
La historia se repite: de Internet a la inteligencia artificial
Parece que la IA está de moda. Hace una semana escribía otro artículo más liviano al respecto y, con la publicación de la encíclica Magnifica Humanitas de León XIV, quiero unirme —sin pretender corregirle— a hacer una pequeña reflexión al respecto.
Tengo pendiente una lectura reposada del documento, pero destacando los titulares no me resisto a dar mi visión y experiencia con la tecnología. Es evidente que el desarrollo tecnológico, además de vertiginoso, ha provocado una aceleración en el progreso de la humanidad. Los adelantos se producen cada vez más rápido y lo que hoy es novedoso, mañana ya se ha quedado obsoleto. Esto ha producido un escalón entre estos avances y la formación humanista del hombre. La vorágine ha obligado a los jóvenes a crecer rápido en habilidades y dejar de lado la maduración personal. Hemos puesto en manos de «adolescentes» herramientas muy potentes. Este desfase entre las posibilidades de acción y la madurez personal puede conducirnos a horizontes difusos.
Al igual que la irrupción de Internet supuso abrir una ventana al mundo y poner en nuestras manos un gran volumen de información, la IA multiplica estas prestaciones al tener la capacidad de acceder a la información y procesarla de una forma muy eficiente. Internet democratizó el acceso al conocimiento: aceleró la innovación, conectó personas y empresas, y creó riqueza y oportunidades. Del mismo modo, aparecieron abusos —acceso masivo a la pornografía, explotación infantil, estafas, manipulación informativa, adicciones— como consecuencias de una mala praxis.
Si caemos en la cuenta, el problema no son las herramientas ni la tecnología. El problema siempre se centra en el hombre. Somos nosotros quienes utilizamos las herramientas y orientamos su uso.
En este sentido, el Papa pone en primer plano los riesgos de esta nueva herramienta. La gran capacidad de acceso y elaboración de respuestas puede conducirnos a una desmotivación en el estudio y una preparación deficiente de las nuevas generaciones. Es un hecho verificado que la equiparación en contenidos y exigencias al nivel más bajo en las primeras etapas educativas —no se quiere admitir el fracaso escolar, no se educa en la resistencia a la frustración, se desmotiva la excelencia y se claudica ante cualquier suspenso— está produciendo generaciones que crecen exigiendo derechos, nunca obligaciones, con la mentalidad de que la IA les resolverá cualquier duda. Lo que diga la IA es palabra de Dios, aunque no entiendan ni lo que dicen.
Es evidente que un desarrollo sin límites morales ni regulación puede conducirnos a los riesgos que apunta León XIV: concentración de poder, manipulación de masas, pérdida de empleos, automatización bélica, sustitución de capacidades humanas.
II
Gandalf y la tercera vía
El pasaje más comentado de la encíclica es la referencia a El Señor de los Anillos. León XIV cita en el punto 213 a Gandalf en El retorno del Rey -he ampliado la cita de la encíclica para entenderla bien-
"Otros males podrán venir, porque Sauron no es más que un siervo o emisario. Pero no nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos, y dejando a los que vendrán después una tierra limpia para la labranza. El tiempo que haga entonces no nos corresponde gobernarlo."
Gandalf a Frodo Baggins — El retorno del Rey, Libro V, cap. 9, «El último debate»2
El Papa desarrolla esta cita en torno a cinco aspectos basados en la civilización del amor: desarmar las palabras, construir la paz en la justicia, asumir la mirada de las víctimas, cultivar un sano realismo y relanzar el diálogo y el multilateralismo.
Sin pretender corregir en absoluto al pontífice, me gustaría ahondar en la reflexión de Tolkien. Gandalf está respondiendo a la tentación de la desesperación. No dice que debamos renunciar a actuar; tampoco que debamos aspirar a controlar completamente el futuro. Su mensaje es que existe un orden moral objetivo, que el hombre tiene el deber de combatir el mal que conoce y que no puede controlar todos los resultados de la historia. Debe actuar responsablemente y confiar en que las generaciones futuras continúen la tarea.
Referida al tema que nos ocupa, podríamos interpretarla como una crítica simultánea a dos extremos: el tecno-utopismo —»la tecnología resolverá todos los problemas humanos»— y el hiper-regulacionismo —»podemos diseñar un sistema perfecto que elimine todos los riesgos»—.
La propuesta de Gandalf es una tercera vía: responsabilidad moral, prudencia y humildad ante los límites humanos.
III
Los Palantír: el peligro de la información concentrada
El apoyo de Christopher Olah, investigador y cofundador de Anthropic, en la presentación de la encíclica hizo de contrapunto a la posición de Peter Thiel, cofundador de PayPal junto a Elon Musk, y la empresa de análisis de datos Palantir Technologies —que, no casualmente, recoge el nombre de las piedras Palantír de Tolkien: objetos que permiten observar acontecimientos lejanos—.
Thiel lleva años defendiendo que el verdadero peligro no es únicamente la tecnología sino la concentración política del poder. Su lectura sostiene que:
- Una autoridad central global podría utilizar sistemas de vigilancia e IA para consolidar poder.
- Los organismos internacionales no están inmunizados contra sesgos ideológicos.
- La regulación puede convertirse en una herramienta para congelar la innovación y reforzar élites burocráticas.
- Una IA controlada por un pequeño grupo político puede ser más peligrosa que una IA distribuida entre múltiples actores.
Aunque Thiel no plantea exactamente que la ONU sea «Sauron», muchos de sus argumentos giran en torno a la sospecha hacia las estructuras globales de gobernanza tecnológica y la defensa de la competencia entre centros de poder. Esa visión ha influido en sectores próximos a Donald Trump. La propia elección del nombre «Palantir» para su empresa es una referencia explícita a la idea de obtener ventaja estratégica mediante información masiva.
En el mundo del desarrollo tecnológico, la creación de aplicaciones y herramientas Open Source parece que al menos justifican la postura de Thiel y demuestra que es posible crear herramientas útiles con la participación de muchos actores de forma más o menos desinteresada. Aportar valor para ofrecerlo sin coste a la comunidad.
IV
La cuestión no es tecnológica, sino moral
El debate actual parte de un error de diagnóstico. Se discute sobre la herramienta cuando el verdadero problema reside en quien la utiliza. La imprenta podía imprimir Biblias o propaganda. La radio podía transmitir cultura o totalitarismo. Internet podía enseñar matemáticas o difundir pornografía. La IA podrá curar enfermedades o perfeccionar mecanismos de control social.
La diferencia nunca está en la herramienta. Está en la persona.
V
El paralelismo con el juramento hipocrático
Aunque antiguo, la medicina comprendió hace siglos que el conocimiento técnico no basta. Un médico posee conocimientos extraordinarios, puede salvar vidas, pero también puede causar enormes daños. Por eso apareció una brújula moral: el juramento hipocrático. Era el reconocimiento de que cuanto mayor es el poder técnico, mayor debe ser la exigencia moral.
¿Necesita la inteligencia artificial un equivalente moderno del juramento hipocrático? No solamente para los usuarios, sino también para:
- Programadores y científicos
- Directivos de empresas tecnológicas
- Gobiernos y organismos internacionales
VI
El problema olvidado: la formación del hombre
Mi posición es que no basta con hiper-regular la tecnología. El exceso de leyes no resuelve todos los casos, no es suficiente supervisar algoritmos para así resolver todas las excepciones que vayan apareciendo. No podemos poner límites al campo. Ninguna norma puede sustituir a la virtud.
Estamos viviendo una crisis antropológica que, desde mi punto de vista, se resume en haber matado a Dios. El hombre alejado del ser trascendente y sin poner en su centro a Dios, acaba creyendo en cualquier ídolo y se precipita al abismo. No importa que su idolillo sea el dinero, el placer, la carne, el poder: cualquiera de ellos le esclavizará y acabará mirándose el ombligo, buscando su propio beneficio a costa de lo que sea.
Es necesario caer en la cuenta de que es el hombre quien toma las decisiones, que las herramientas hacen su función y que sólo la mano del hombre conduce y genera los resultados. Si cada vez perdemos más el sentido común, si descuidamos nuestra formación, no cultivamos un criterio basado en el conocimiento y el bien común, si renunciamos a nuestro deber y delegamos el futuro a un algoritmo, habremos creado un caos que sólo una pequeña élite controlará.
Hombres formados, jóvenes sedientos de conocimiento, una humanidad madura y rica en virtudes: esa es la mejor arma contra la manipulación y el uso malicioso de la tecnología.
La crisis actual es anterior a la IA. Tenemos más herramientas pero menos sabiduría, más capacidad técnica pero menos formación moral. Cuando el hombre deja de reconocerse criatura, acaba pretendiendo ocupar el lugar del Creador. Ese es precisamente el pecado recurrente de la tradición bíblica: la Torre de Babel, el becerro de oro, la tentación de ser «como dioses».
La cuestión fundamental no es si la inteligencia artificial será buena o mala. Tampoco si debe estar regulada por empresas privadas, estados o instituciones internacionales.
La verdadera cuestión es qué tipo de hombres la diseñarán y la utilizarán.
Gandalf nos recuerda que no estamos llamados a dominar todas las mareas del mundo, sino a actuar responsablemente en nuestro tiempo. Los Palantír nos advierten del peligro de concentrar demasiado poder en unas pocas manos. Y el juramento hipocrático nos enseña que el conocimiento sin una brújula moral puede convertirse en una amenaza.
La inteligencia artificial amplificará nuestras capacidades. La pregunta es si amplificará también nuestras virtudes o nuestros vicios. La respuesta no depende de las máquinas. Depende de nosotros.
1Las tres imágenes de este artículo las ha diseñado ChatGPT. le he subido el artículo y le he dicho que me creara una imagen de portada y un par de ellas para ilustrar el artículo. Me sigue dejando sin palabras la calidad y capacidad de estas herramientas. En mis anteriores post hacía lo que podía. Este sí ha sido un salto de calidad y ahorro de tiempo y esfuerzos.
2 Cita original en inglés: «Other evils there are that may come; for Sauron is himself but a servant or emissary. Yet it is not our part to master all the tides of the world, but to do what is in us for the succour of those years wherein we are set, uprooting the evil in the fields that we know, so that those who live after may have clean earth to till.» — J.R.R. Tolkien, The Return of the King, Book V, Chapter 9.
Comentarios