Mientras Thiel, Elon Musk y Jeff Bezos gobiernan con lógica algorítmica, la jerarquía católica impugna el presente de un poder descontrolado y reclama regulaciones y responsabilidades políticas. “Magnifica Humanitas” destaca que hoy el control de las plataformas, la infraestructura, los datos y la capacidad informática no es prerrogativa de los Estados, sino de grandes actores económicos y tecnológicos que establecen las condiciones de acceso, las reglas de visibilidad y las posibilidades mismas de participación. “Cuando un poder tan inmenso se concentra en pocas manos, tiende a volverse opaco y a escapar al control público, aumentando así el riesgo de un desarrollo distorsionado que genere nuevas dependencias, exclusiones, manipulaciones y desigualdades”, dice.
Cuestionar el capitalismo
León XIV repone el debate sobre el capitalismo de vigilancia en el plano de la política y dice que el uso de la IA nunca es una cuestión puramente técnica: cuando interviene en procesos que afectan la vida de las personas, afecta también los derechos, las oportunidades, la reputación y la libertad. Decisiones delicadas que afectan el empleo, el crédito, el acceso a los servicios y la reputación de las personas corren el riesgo de ser confiadas por completo a sistemas automatizados, advierte.
“Puede haber usos evidentemente antihumanos, como la manipulación de la información o la violación de la privacidad , pero también un peligro mayor cuando los sistemas de IA, presentándose como neutrales y objetivos, reflejan y refuerzan los estereotipos o las posiciones ideológicas de quienes los diseñaron y entrenaron”, dice la enciclica. Esa es una de las palabras claves: el Papa advierte que las creaciones del poder tecnocrático no son neutrales y llama a los creyentes a abandonar su propia neutralidad para librar una confrontación más eficaz. La escena tiene similitudes con lo que sucedió hace casi tres décadas, cuando Juan Pablo II se dio cuenta de que el capitalismo que él mismo había apoyado en la guerra fría había ido demasiado lejos y viajó a Cuba para encontrarse con Fidel Castro. Entonces, la disputa estratégica de la Iglesia era con el capitalismo salvaje que estaba a punto de alumbrar una ola de gobiernos progresistas en América Latina. Ahora León XIV envía un mensaje demoledor contra el poder tecnocrático y llama a una acción urgente. Tiene a su favor el monumental legado de Francisco, el Papa que diseñó un poder preparado para sobrevivirlo y en una de sus últimas apariciones planteó críticas durísimas al poder de Silicon Valley.
Hay momentos en la historia en los que la Iglesia percibe que su propio poder está en riesgo. Este es uno de ellos. Lejos de cualquier eufemismo, algo en lo que también puede inscribirse el mensaje de Jorge García Cuerva en el Tedeum del 25 de mayo, el documento de la Iglesia plantea la necesidad de fijar regulaciones a las corporaciones, reclama que la dirigencia política asuma su responsabilidad y pide rendición de cuentas a los magnates tecnológicos. “Confiarle a un algoritmo el poder de decidir quién lo merece y quién no, sin que nadie más asuma la responsabilidad de la decisión, implica encomendarle la tarea de redefinir los límites de la posibilidad humana. Lo que falta en este proceso no es solo empatía por los excluidos, que puede imitarse artificialmente, sino responsabilidad política, pues la exclusión de los vulnerables se disfraza de neutralidad y objetividad, ante las cuales es imposible protestar”.
En Magnifica humanitas, León XIV desnaturaliza el dominio del paradigma tecnocrático. Afirma que todo artefacto técnico hace elecciones y define prioridades: qué mide, qué ignora, qué optimiza y cómo clasifica a las personas y las situaciones. Un sistema que se concibe o se utiliza para tratar a algunas vidas como menos valiosas, dice, contradice la dignidad inalienable de la persona. Por eso, sostiene, la rendición de cuentas se vuelve crucial: la capacidad de identificar al responsable de las decisiones, motivarlos, supervisarlos y, cuando sea necesario, cuestionarlos y remediar el daño que generen.
Clima de época
La encíclica del sucesor de Francisco define la gran asimetría de época: el desequilibrio entre la velocidad de la tecnología y la respuesta que se puede dar a partir de la concienciación y las instituciones capaces de regular sus efectos. Por eso, habla de la necesidad de crear marcos jurídicos adecuados, supervisión independiente, formación de usuarios y demanda una dirigencia política que no eluda su responsabilidad. De lo contrario, la lógica tecnocrática se presentará como necesaria e inevitable, imponiendo la ley de los dueños de los datos, la infraestructura y la capacidad de procesamiento.
Para León XIV, la propiedad de los datos no puede confiarse únicamente a particulares, sino que debe estar regulada. “En un mundo donde unos pocos individuos concentran datos, capital computacional y capacidad regulatoria, hablar del bien común implica desenmascarar esta nueva asimetría epistémica, económica y política, y nombrar los nuevos monopolios de la IA”, dice. Por eso llama a desarmar la IA. Liberarla de la lógica de la competencia armada, que hoy es también económica y cognitiva. Una carrera donde el algoritmo de mejor rendimiento y la base de datos más grande buscan consolidar una ventaja geopolítica o comercial sobre los demás. “Desarmar significa romper esta equivalencia entre poder técnico y derecho a gobernar. Desarmar no significa renunciar a la tecnología, sino impedir que domine a la humanidad. Significa liberarla de los monopolios, hacerla debatible, cuestionable y, por lo tanto, habitable, reintegrándola a la pluralidad de culturas y formas de vida humanas. La IA ya es el entorno en el que estamos inmersos y un poder con el que debemos lidiar. Por lo tanto, no basta con regularla: hay que desarmarla y hacerla habitable”, dice.
Artículo de Diego Genoud para el Destape
