El texto del teólogo Marcelo Figueroa repasa los apartados 102 a 110 de la encíclica Magnifica Humanitas, que abordan la responsabilidad, transparencia y gobernanza de la inteligencia artificial, y plantea desafíos para América Latina.
El teólogo Marcelo Figueroa publicó un análisis de la encíclica Magnifica Humanitas, titulado «Responsabilidad, transparencia y gobernanza de la IA: una mirada latinoamericana». El texto se centra en los apartados #102 a #110 del capítulo III de la encíclica, que lleva por título «Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA».
Figueroa sostiene que, para que la IA respete la dignidad humana y sirva al bien común, «es esencial que las responsabilidades estén claras en todas las etapas: desde quienes diseñan y programan los sistemas hasta quienes los utilizan y quienes resuelven confiarles las decisiones concretas». Agrega que no se debe considerar a la IA como un hecho puramente técnico ni revestirla de neutralidad moral, ya que puede haber usos antihumanos.
El autor señala que en Latinoamérica estos conceptos de gobernanza, ética algorítmica y la necesidad de «desarmar la IA» tienen actualidad y presentan nuevos desafíos. Menciona la presencia de discursos de odio étnico, descarte social e intolerancia religiosa que se multiplican a velocidad virtual, y que en países mayormente pobres se construyen «ideologías» sin debate ético o moral. Añade que esa artillería algorítmica carece de valores espirituales, culturales y políticos como la compasión, la misericordia, la esperanza y el perdón.
Figueroa cita los apartados #102, #103 y #104 de la encíclica, que advierten sobre el riesgo de confiar decisiones delicadas a sistemas automatizados que no conocen «la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo», y sobre cómo los sistemas de IA pueden reflejar y reforzar estereotipos o posiciones ideológicas de quienes los diseñan. La encíclica concluye que «no podemos considerar a la IA como moralmente neutra».
El texto también menciona una tendencia en esferas de poder y gobierno de algunos países latinoamericanos a dejar que la IA se desarrolle privadamente sin control ni regulaciones públicas responsables. Frente a esto, el autor aboga por que los gobiernos democráticos tengan discernimiento ético, responsabilidad, rendición de cuentas, prudencia, educación y marcos jurídicos adecuados.
En ese sentido, cita los apartados #105 a #108 de la encíclica, que piden «prudencia, controles rigurosos y, en ocasiones, también una ralentización en la adopción de la IA», y que sostienen que «no basta invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea». También se indica que «no serviría de nada una IA más moral, si esta moral es decidida por unos pocos» y que la propiedad de los datos debe reglamentarse.
Figueroa diferencia la situación latinoamericana de la de otras regiones: «No tenemos en nuestro ‘continente moreno’ guerras, ni carrera armamentística ni utilización de la tecnología bélica para dominar». Sin embargo, advierte que desde otras latitudes han incursionado quienes con poder tecnológico buscan tomar decisiones económicas, ecológicas, sociales y políticas. Por eso, retoma el concepto de «desarmar» la IA del apartado 110: «Desarmar la IA significa sustraerla a la lógica de la competencia armamentística, que hoy ya no es sólo militar sino económica y cognitiva».
Finalmente, el autor se une al llamamiento del Papa León XIV en el apartado 111 de la encíclica, para que la innovación tecnológica sea «una forma humana de participación en el acto divino de la creación… con transparencia, con responsabilidad hacia las comunidades involucradas y con atención a verificar que lo que se cultiva sea realmente un bien».