Los que usamos inteligencia artificial sabemos que suele ser complaciente. Todavía no he podido analizar en profundidad la nueva encíclica del papa León XIV. Estoy esperando la edición impresa que llegará el lunes. Me sigue gustando el papel, la posibilidad de subrayar los textos, volver sobre una frase y detenerme en aquello que merece una segunda lectura.
Hasta ahora, por los comentarios que he leído, me da la impresión de que el documento contiene varias advertencias sobre los riesgos de esta nueva tecnología. Antes de leerlo completo, sin embargo, quise hacer un ejercicio curioso: preguntarle a la propia inteligencia artificial qué pensaba de la encíclica.
Consulté distintos sistemas. Gemini consideró que Magnifica Humanitas presenta una reflexión lúcida y necesaria sobre el rol de la tecnología en nuestro tiempo. Destacó especialmente cuatro aspectos: el llamado a “desarmar la inteligencia artificial”, la preocupación por los sesgos y la exclusión social, el límite ético de las armas autónomas y la necesidad de una gobernanza tecnológica orientada al bien común.
ChatGPT, por su parte, señaló que la inteligencia artificial concentra poder en muy pocos actores. Recordó que entrenar estos modelos requiere capital, infraestructura, energía y datos que hoy están al alcance de unas pocas empresas y algunos Estados. También sostuvo que la discusión fundamental no es solamente qué puede hacer la inteligencia artificial, sino qué debería hacer y bajo qué límites. Una observación que coincide bastante con la preocupación expresada por el Vaticano.
Notebook LM llegó a conclusiones similares. Consideró acertado el planteo del Papa y afirmó que la inteligencia artificial es, en definitiva, un reflejo de las decisiones humanas. Si una herramienta tecnológica excluye, discrimina o manipula, no es porque tenga voluntad propia, sino porque fue diseñada, financiada o utilizada de esa manera.
Lo que más me llamó la atención es que, más allá de las diferencias de lenguaje, las tres plataformas coincidieron en algo fundamental: reconocen que no poseen conciencia moral ni fines propios. Sus respuestas dependen de quienes las programan, de los datos con los que fueron entrenadas y de los objetivos definidos por seres humanos.
Y ahí aparece la verdadera pregunta. Millones de personas vuelcan cada día en estas plataformas información personal, preocupaciones familiares, problemas laborales, dudas existenciales, decisiones económicas y búsquedas de sentido. Lo hacen muchas veces con total naturalidad y confianza. Sin embargo, toda esa información tiene un valor enorme. El riesgo no es solamente tecnológico; es también humano, económico y político.
Diversos estudios universitarios vienen señalando otro fenómeno preocupante: cuanto más delegamos determinadas tareas cognitivas en la inteligencia artificial, menos ejercitamos nuestra propia capacidad para resolver problemas. La tecnología puede potenciar nuestras capacidades, pero también puede atrofiarlas si renunciamos a pensar por nosotros mismos.
No se trata de demonizar la inteligencia artificial. Como toda herramienta poderosa, puede utilizarse para el bien. Puede ayudar en la educación, la investigación científica, la medicina y el acceso al conocimiento. El problema aparece cuando olvidamos quién controla esas herramientas.
Nunca en la historia de la humanidad tan pocas personas tuvieron acceso a una cantidad tan grande de información sobre tantos seres humanos. Nunca antes un número tan reducido de empresas concentró semejante capacidad de influencia sobre lo que vemos, pensamos, consumimos y creemos.
Quizás por eso las advertencias del Papa merecen ser leídas con atención. No porque la tecnología sea mala, sino porque el poder siempre necesita límites. La pregunta de fondo no es qué hará la inteligencia artificial con nosotros. La pregunta es qué harán con ella quienes tienen la capacidad de programarla y controlarla.
Y esa, más que una cuestión tecnológica, sigue siendo una cuestión profundamente humana.
