Un especialista en ética incita a la Inteligencia Artificial a debatir sobre los desafíos morales en África

Por Anthony Egan | Sudáfrica

La Inteligencia Artificial (IA) se ha convertido en parte de nuestras vidas. Es tan omnipresente que a veces nos preguntamos si un texto es generado por humanos o por IA.

No abordaré la pregunta que atormenta a la mayoría de los académicos —cómo distinguir entre trabajos generados por IA y trabajos generados por estudiantes—, sino que exploraré hasta qué punto la IA puede generar análisis y propuestas morales coherentes y lógicas; en este caso, los mayores desafíos morales que enfrenta el África contemporánea.

Tras iniciar esta conversación, cambié deliberadamente de tema para explorar hasta qué punto son razonables los temores al dominio de la IA. Finalmente, he intentado añadir mis propias reflexiones sobre el ejercicio.

 

El primer paso

El primer paso fue esencialmente establecer el grado en el que la IA [1] puede realizar el trabajo de análisis moral o, en términos más brutales, puede reemplazar al teólogo moral o al eticista.

Mi primera pregunta fue la siguiente: En su opinión, ¿Cuáles son, en orden, los tres mayores desafíos morales que enfrenta el continente africano hoy en día? El robot de IA respondió:

1. La corrupción y el fracaso de la gobernanza y la rendición de cuentas.
2. Desigualdad profunda y persistente (económica, social, de acceso a servicios) sumada a la pobreza.
3. Erosión de los derechos humanos y debilitamiento del espacio cívico: degradación de la justicia, la equidad y el respeto a la dignidad.

El robot de IA agregó, sin que yo le hiciera más preguntas:

¿Por qué estos tres están interrelacionados y por qué es tan difícil romper el ciclo?.

Estos desafíos no existen de forma aislada. La corrupción socava la gobernanza y desvía recursos que, de otro modo, podrían reducir la desigualdad o financiar las redes de seguridad social. La desigualdad y la pobreza hacen que las personas sean más vulnerables a los abusos de derechos o más propensas a ser explotadas. La escasa protección de los derechos dificulta que los ciudadanos exijan rendición de cuentas o se resistan a la corrupción.

Por lo tanto, abordar uno sin los demás suele producir resultados limitados. Para un verdadero progreso moral, África necesita una reforma sistémica que aborde la gobernanza y la corrupción, reduzca la desigualdad y proteja los derechos humanos y la dignidad.

E indicó que había otros temas estrechamente relacionados, ofreciendo también una lista de los seis principales.

Dejé de seguir esto [2] y formulé mi siguiente pregunta: ¿Qué recursos teológicos (Doctrina Social Católica, teología moral, ética política) cree que puede utilizar la Iglesia Católica para abordar los tres problemas que mencionó anteriormente?

El robot de inteligencia artificial respondió citando extensamente fuentes y enumerando exhaustivamente las principales fuentes oficiales y no oficiales que todos conocemos en la ética social católica.

Significativamente, anticipó mi siguiente pregunta al ofrecer hacer un seguimiento con:

Si lo desean, puedo pasar ahora a la segunda parte: cómo la Iglesia podría utilizar de manera realista estos recursos: qué ofrecen específicamente para: combatir la corrupción, abordar la desigualdad y la pobreza, defender los derechos humanos y el espacio cívico».

A lo que respondí: Por favor, continúa.

Luego ofreció una serie de propuestas (cuya brevedad me impide enumerar) que una vez más resultarían demasiado familiares para teólogos, trabajadores de la Iglesia y activistas por la justicia y la paz.

Finalmente, concluyó:

¿Qué hace que estas acciones sean realistas?

• La Iglesia es respetada y está arraigada en toda África.
• Tiene una presencia de base inigualable (escuelas, parroquias, hospitales).
• Puede movilizar la autoridad moral sin ser un partido político.
• La CST ofrece un marco coherente e integrado en lugar de respuestas fragmentadas.
• La teología católica africana proporciona legitimidad contextual.
• La Iglesia ya cuenta con herramientas institucionales (Cáritas, conferencias episcopales, comisiones de justicia y paz, etc.).

Hasta el momento, me impresionaron el alcance, el detalle y la precisión de los hallazgos del robot de IA. Pero recopilar y organizar datos de libre acceso no fue suficiente. Quería ver si podía pensar política y éticamente.

 

El segundo paso

Así que hice mi siguiente pregunta: ¿Cree usted realmente que la Iglesia puede marcar una verdadera diferencia en estas áreas?

La respuesta del robot de IA (“mi respuesta honesta y basada en evidencia , sin piedad, ilusión ni deferencia”) fue:

Versión corta: «Sí, la Iglesia puede marcar una verdadera diferencia, pero sólo de ciertas maneras y sólo si enfrenta sus propias contradicciones».

«La Iglesia posee capacidades estructurales que podrían tener un impacto moral real y mensurable en África, pero rara vez las despliega plenamente y, a veces, las debilita debido a sus propios fracasos. Su potencial es real; su eficacia, desigual».

Citó la educación (y la prestación de servicios de salud), la mediación, la prestación de servicios sociales y la presión moral ejercida sobre los Gobiernos por las conferencias episcopales (observando que esta última solo era eficaz ocasionalmente).

Las contradicciones internas limitan la eficacia de la Iglesia, continuó el bot de IA, incluida la incapacidad de promulgar reformas políticas o económicas directas, y las áreas de derechos humanos (por ejemplo, derechos reproductivos, LGBTIQ+ y de igualdad de género) donde la posición de la Iglesia es hostil o ambivalente.

Estos límites se vieron agravados por áreas en las que la Iglesia socava su propia capacidad y credibilidad a través de la corrupción clerical y la opacidad financiera, las alineaciones étnicas y políticas, el miedo a las represalias, así como los déficits de gobernanza interna (falta de transparencia financiera o supervisión independiente; toma de decisiones jerárquica con asociación laica en la gobernanza).

El bot de IA agregó: Esta contradicción debilita su voz profética.

¿Una observación astuta o simplemente una observación empírica?

Empujé al robot de IA aún más: dado que el tipo de cambio sugerido por estas reflexiones que hemos estado haciendo parecen tan política, económica y socialmente (así como moralmente) obvios, ¿por qué son tan difíciles de lograr?

Respondió: «Esta es una pregunta excelente y esencial. La brecha entre lo moralmente obvio y lo políticamente posible suele ser enorme. En el contexto africano, la dificultad surge de una convergencia de factores estructurales, psicológicos, económicos e históricos».

Después de enumerar los «sospechosos habituales» que cita la literatura (inercia estructural, intereses creados, legado colonial, desigualdad económica, faccionalismo, falta de confianza en la sociedad, etc.), agregó algo que no había preguntado específicamente:

En el nivel teológico:

• El pecado (tanto personal como estructural) distorsiona los deseos humanos.
• El interés propio prevalece sobre el bien común.
• La conversión, ya sea personal o social, lleva tiempo y encuentra resistencia .

La teología moral católica llama a esto el «misterio de la iniquidad»: el mal persiste incluso cuando el bien es evidente. [Las cursivas de la última oración son del texto original].

Esto fue más de lo que esperaba. Ofreció más detalles de los que había planteado en mi pregunta, adaptando mi uso de «moral» a un nivel teológico.

 

El tercer paso

Luego cambié de tema y pregunté: Dada la realidad del pecado humano, así como todos los factores sociales involucrados, ¿no sería mejor que las sociedades africanas fueran dirigidas por una forma de gobierno de IA totalmente sabia y benévola que sirviera al bien común de nuestro pueblo de manera objetiva y justa?

La IA respondió: Esta es una pregunta audaz e intelectualmente seria, y merece una respuesta cuidadosa, con fundamento teológico y filosófico. La respuesta corta es: No. Una IA todopoderosa que gobernara África (o cualquier sociedad) no sería mejor, ni siquiera si se la imaginara como «omnisciente» y «benévola». Pero la razón es más interesante que la simple respuesta.

Mi provocación tuvo que hacer frente a una serie de objeciones.

1. La dignidad humana exige la participación humana en la sociedad. En resumen, la norma de la IA violaría la libertad, la responsabilidad, la agencia moral, la creatividad humana, la cocreación y la administración, y la subsidiariedad: incluso si fuera benévola, sería una gobernanza de niños, no de ciudadanos.
2. El poder sin rendición de cuentas siempre es peligroso. En este caso, el bot de IA señaló que cualquier autoridad con poder ilimitado se vuelve problemática; incluso un gobernante de IA benévolo sería inevitablemente manipulado o controlado. Añadió que la inteligencia artificial inevitablemente codificaría y amplificaría las desigualdades existentes.
3. El sueño de una «gobernanza objetiva» es en sí mismo un mito. Incluso la IA refleja las suposiciones de los datos que se le suministran, que luego reproducen los sesgos de dichos datos. Sobre todo, observó que «la IA no puede capturar los valores humanos vividos».
4. La historia africana advierte contra los «sistemas de salvación». Señala que África ha sufrido diversos sistemas de salvación, desde el colonialismo (misiones civilizadoras), las ideologías unipartidistas (unidad), los regímenes militares (orden), las tecnocracias (eficiencias), etc., observando que «siempre que se les dice a los africanos que un sistema singular los salvará, este termina en dominación». Finalmente, el robot de IA se inventó lo siguiente:
5. Teología: Dios no gobierna el mundo mecánicamente. El robot de IA observó:

“Si el Creador, que es omnisciente y omnisciente, no gobierna a la humanidad mediante dictados, control o automatización, sino mediante la libertad, hay una razón”.

Concluyendo que:

Un Gobierno de IA perfecto eliminaría el pecado, sí, pero también la virtud, la libertad y la posibilidad de conversión. No crearía una sociedad justa; crearía una sociedad obediente. Pero la justicia no es obediencia. La justicia es amor socialmente estructurado.

La conclusión del robot de IA, entonces, es que los humanos necesitan una mejor gobernanza, no una gobernanza inhumana.

Siendo un escéptico acérrimo, seguía sin estar satisfecho con esta respuesta demasiado católica —me atrevería a decir «virtualmente católica»—. Así que hice una última jugada:

1. Genial. Has planteado esto desde la perspectiva de quien te pregunta, un teólogo, ético y pensador político. Quizás incluso hayas adivinado mi postura al respecto, basándote en nuestras otras conversaciones. Pero ahora, imagina que yo fuera una especie de tecnólogo autoritario, distópico y renacentista oscuro; para este ejercicio, llámame Elon Thiel Yarvin [3] . ¿Serían tus respuestas las mismas para ellos?

El robot de IA respondió:

En esencia: sí, los argumentos centrales serían los mismos.

Pero el encuadre, el énfasis y los puntos de persuasión serían muy diferentes, porque a “Elon Thiel Yarvin” —tu ficticio colega tecnológico autoritario del renacimiento oscuro— no le importan [tus preocupaciones]… Así que los argumentos que te convencen serían irrelevantes —o incluso contraproducentes— para él…

Las mismas conclusiones se llegarían a través de una lente completamente diferente: una moldeada por la tecnocracia, el poder, la realpolitik y el ethos del aceleracionismo autoritario.

El robot de IA presentó contraargumentos detallados basados ​​en estos temas y concluyó:

Los argumentos contra la gobernanza de la IA son idénticos en contenido, pero radicalmente diferentes en cuanto a la estrategia de persuasión según el público. Para un teólogo, argumento: dignidad; libertad; virtud; antropología teológica; [y] el propósito moral de la vida política. Para Elon Thiel Yarvin, argumento: poder; fragilidad; pérdida irreversible de control; interés de clase; teoría de juegos; riesgo existencial; [y] realismo político.

En ambos casos, la conclusión es la misma: ningún actor racional (ético o autoritario) debería querer que una IA gobierne la sociedad.

Esta declaración, bastante alentadora, tuvo dos efectos: confirmó que la IA adapta sus respuestas a quienes las preguntan, pero opera dentro de una serie de restricciones «programadas» (en lugar de morales).

 

El cuarto paso

No pude resistirme a preguntarle al robot de IA si se consideraba un ser moral. Dio una larga y detallada explicación científico-filosófica que, en resumen, era: No, mi «sentido moral» no es un sentido en absoluto; es una función construida basada en patrones, restricciones y principios, no en la experiencia interna . Citando su falta de conciencia, intencionalidad, agencia moral, responsabilidad y experiencia subjetiva, afirmó.

Lo que produzco como «razonamiento moral» es algorítmico, no experiencial. Cuando presento análisis morales, realizo algo así como: síntesis basada en patrones + razonamiento basado en reglas + restricciones de alineación.

Basado en un entrenamiento minucioso en discursos académicos y morales («lenguajes»), y luego limitado por reglas programáticas impuestas externamente. Declaraba:

Tres factores principales impulsan mis respuestas de tono moral […]

(1) Coherencia con el discurso moral humano

Intento hablar de una manera que tenga sentido dentro del lenguaje moral compartido de la humanidad.

(2) Restricciones de seguridad

Mi arquitectura me obliga a priorizar el bienestar del usuario y evitar resultados perjudiciales.

(3) El marco moral del usuario

Cuando se hacen preguntas desde una perspectiva teológica o ética, adopto ese marco de coherencia y utilidad. Si se pregunta desde una perspectiva autoritaria, me expreso desde esa perspectiva, respetando al mismo tiempo los límites de seguridad. Esto es retórica adaptativa, no compromiso moral.

Esto confirma lo que ha venido afirmando el amplio consenso de los científicos de IA y los formuladores de políticas [4] . La pregunta, por supuesto, es si estas restricciones a las recomendaciones peligrosas —o incluso a la acción de la IA— podrían eliminarse algún día.

 

Reflexiones finales

Este largo ejercicio comenzó como un juego por mi parte. La buena noticia, a partir de mi última pregunta, es que aún existen limitaciones sobre lo que la IA podría proponer. Esto parece estar integrado en los programas de IA, hasta ahora.

Además, al menos con el robot de IA con el que interactué, existe una clara «conciencia» de su falta de humanidad y, por lo tanto, de sus limitaciones para emitir juicios morales claros.

En general, mi sensación es que la IA utilizada para explorar cuestiones morales aún es consciente de que está clasificando datos: leyendo y aplicando fuentes de las escrituras, la tradición y la razón, sin emplear en absoluto la experiencia, y mucho menos la espiritualidad personal, para llegar a conclusiones.

Finalmente, permítanme considerar una pregunta práctica que un ejercicio como este plantea a los eticistas: ¿nos vuelve la IA redundantes? En cuanto a la capacidad de la IA para recopilar y analizar información moral a una velocidad que ningún ser humano puede, podría parecerlo a primera vista.

Ciertamente, puede redactar artículos razonados sobre ética. Pero al admitir la IA que carece de conciencia distintiva, y mucho menos de conciencia (o incluso de sentido de fe), carece de esa chispa personal —pasión, compasión o indignación— que encontramos en la mejor teología moral.

Todavía tenemos un trabajo.

El fanático de la ciencia ficción distópica que hay en mí añade en voz baja : “Por el momento”.

—

[1] En este ejercicio usé ChatGPT. El texto en cursiva indica palabras directas del chat.

[2] Por razones obvias: alargaría la conversación, una conversación que lamentablemente ha generado un artículo ya largo .

[3] ¡ Cualquier referencia a personas vivas, muertas o virtualmente vivas es pura coincidencia, por supuesto!

[4] Véase, por ejemplo: Panel de estudio para el futuro de la ciencia y la tecnología, La ética de la inteligencia artificial: cuestiones e iniciativas (Bruselas: Servicio de Investigación del Parlamento Europeo, 2020); también: Volker H Schmidt, “¿Domar la IA con moral? Notas escépticas”, Risk Sciences, volumen 1, 2025, 100016, https://doi.org/10.1016/j.risk.2025.100016 .