León XIV exige regulación firme a la IA en su primera encíclica donde aborda el futuro de la humanidad

“no es permisible” confiar decisiones irreversibles y letales a sistemas de IA, señala el pontífice en 'Magnifica Humanitas'
Foto: Afp

El papa León XIV pidió el lunes una regulación sólida de la inteligencia artificial y exhortó a sus desarrolladores a trabajar por el bien común, en lugar de priorizar el lucro, en un amplio manifiesto sobre cómo salvaguardar a la humanidad mientras esta tecnología impacta ámbitos como el trabajo y la guerra.

Magnifica Humanitas (Humanidad Magnífica), la primera encíclica de León XIV, había generado gran expectativa desde que el primer papa nacido en Estados Unidos anunció, días después de su elección, que consideraba a la IA como el mayor desafío que enfrenta actualmente la humanidad.

En el texto, León XIV denunció la “cultura del poder” que impulsa la carrera por la IA, especialmente en el desarrollo de métodos cada vez más sofisticados de guerra a distancia. Declaró que “no es permisible” confiar decisiones irreversibles y letales a sistemas de inteligencia artificial, lo que abre un nuevo punto de fricción entre el pontífice y el gobierno del presidente estadunidense Donald Trump, cuya administración ha impulsado una desregulación agresiva del desarrollo de esta tecnología.

“Hay que desarmar la IA” para apartarla “de lógicas que la convierten en un instrumento de dominación, exclusión y muerte”, afirmó el papa en el Vaticano durante la presentación especial de la encíclica, uno de los documentos doctrinales de mayor rango que puede emitir un pontífice.


Foto: Afp

Especialistas de la industria tecnológica, del ámbito académico y de la moral católica señalaron que el documento probablemente se convertirá en un referente en el debate sobre la inteligencia artificial. Consideraron que será una guía tanto para responsables de políticas públicas como para investigadores y ciudadanos, en un momento en que los avances tecnológicos generan preocupación por la sustitución de empleos humanos e incluso por el reemplazo de la inteligencia humana.

“Esto lleva a que las personas que están a la vanguardia de estas herramientas y pueden ver las cosas increíbles que son capaces de hacer se planteen preguntas sobre qué significa ser humano”, comentó Taylor Black, ejecutivo de IA en Microsoft y director del instituto de IA de la Catholic University of America.

El acto en el Vaticano también incluyó declaraciones del cofundador de Anthropic, empresa que actualmente mantiene una disputa legal con el gobierno de Trump por el acceso a su tecnología de IA. El Vaticano decidió involucrar a Anthropic como parte de un esfuerzo sostenido durante la última década para entablar un diálogo con Silicon Valley sobre el impacto humano de esta tecnología.

Sin embargo, en su encíclica, León XIV criticó reiteradamente la concentración de poder y datos en manos de unas cuantas empresas privadas, al considerarla un peligro, especialmente para niños y personas vulnerables, y pidió una regulación externa de su trabajo.

“No basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios y una política que no renuncie a su tarea”, escribió. “No serviría de nada una IA más moral si esa moral es decidida por unos pocos”.

El papa llamó en varias ocasiones a los desarrolladores de IA y a los líderes políticos encargados de regularlos a desacelerar el ritmo y reflexionar sobre las consecuencias de sus acciones. Los instó a actuar bajo principios éticos y espirituales, priorizando el bienestar de la humanidad por encima del lucro o el poder.

Los competidores de IA OpenAI y Anthropic son actualmente la segunda y tercera empresas privadas más valiosas de Estados Unidos, respectivamente, con valuaciones superiores al PIB de muchas naciones.

El cofundador de Anthropic, Christopher Olah, respaldó las críticas y preocupaciones expresadas por León XIV. Afirmó que los controles externos sobre la IA y sobre quienes la desarrollan son fundamentales para garantizar que esta tecnología beneficie a la humanidad, ante “la posibilidad real de que la IA desplace el trabajo humano a gran escala”.

“Necesitamos que más sectores del mundo —comunidades religiosas, sociedad civil, académicos y gobiernos— hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, observar de cerca y empujar los acontecimientos en una mejor dirección”, señaló Olah.

En un texto metódico, el papa, licenciado en matemáticas, recorrió la historia de la doctrina social de la Iglesia católica y aplicó conceptos como justicia, solidaridad, dignidad del trabajo y destino universal de los recursos a la revolución digital.

“Estoy convencido de que este será un documento definitorio para nuestra era, profundo y profético”, expresó Paolo Carozza, profesor de derecho en la Universidad de Notre Dame y presidente del consejo de supervisión de Meta.

En uno de los apartados más contundentes, León XIV denunció que la IA ha contribuido a acelerar la “normalización de la guerra” al insensibilizar a las personas respecto a su costo humano. Aunque no mencionó conflictos específicos, aludió a “imperialismos contrapuestos, entre potencias que buscan conservar su primacía y otras que aspiran a conquistarla”.

También exigió transparencia y rendición de cuentas a los desarrolladores de IA para garantizar que siempre exista claridad en la cadena de mando detrás de decisiones militares automatizadas. Además, sostuvo que la teoría de la “guerra justa” de la Iglesia católica ha quedado “desactualizada” frente a las innovaciones tecnológicas en materia bélica.

León XIV firmó la encíclica el 15 de mayo, fecha que marca el 135 aniversario de “Rerum Novarum”, el histórico documento social promulgado por León XIII sobre los derechos de los trabajadores durante la Revolución Industrial. El actual pontífice considera que la revolución de la IA plantea cuestionamientos existenciales similares a los de aquella época.

“El objetivo de obtener mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente el empleo, porque la persona humana es un fin y no un medio, y el orden económico debe permanecer subordinado a su dignidad y al bien común”, escribió León XIV.

El pontífice también emitió la primera disculpa papal explícita por el papel histórico de la Santa Sede en la legitimación de la esclavitud, al haber otorgado en el pasado autoridad a soberanos europeos para someter y esclavizar a “infieles”.

Funcionarios del Vaticano evitaron precisar quiénes participaron en la redacción de la encíclica, aunque recordaron que la Iglesia ha mantenido durante una década diálogos constantes con empresas tecnológicas de Silicon Valley. Hacia el final de su pontificado, Francisco también comenzó a advertir sobre los riesgos de la inteligencia artificial para la humanidad.

La inclusión de Anthropic en la presentación del documento fue cuestionada por algunos sectores que la interpretaron como un respaldo papal a la empresa. Sin embargo, Brian Boyd, representante de la organización Future of Life Institute, consideró que se trató más bien de un reconocimiento al peso e influencia de la compañía en el desarrollo de la IA actual.

Edición: Emilio Gómez


Lo más reciente

Revés para Trump en el Senado de EU al hundirse el voto para un proyecto de ley de inmigración

El partido republicano esperaba aprobar cerca de 70 mil millones de dólares para ICE

Afp

Revés para Trump en el Senado de EU al hundirse el voto para un proyecto de ley de inmigración

Los Leones vencen 5-1 a Tabasco y rompen una cadena de 11 reveses en el Kukulcán

Tras anunciar la salida de César Valdez, Yucatán se apoya en el pitcheo de Ronnie Williams

Antonio Bargas Cicero

Los Leones vencen 5-1 a Tabasco y rompen una cadena de 11 reveses en el Kukulcán

León XIV exige regulación firme a la IA en su primera encíclica donde aborda el futuro de la humanidad

“no es permisible” confiar decisiones irreversibles y letales a sistemas de IA, señala el pontífice en 'Magnifica Humanitas'

Ap

León XIV exige regulación firme a la IA en su primera encíclica donde aborda el futuro de la humanidad

Reino Unido bate un récord histórico de temperatura para un mes de mayo con 33.5 °C

Solo el noroeste de Escocia e Irlanda del Norte se han librado del calor extremo

Afp

Reino Unido bate un récord histórico de temperatura para un mes de mayo con 33.5 °C