El Papa y la IA
Este pronunciamiento lo realizó el papa León XIV a través de su primera encíclica, en la que llamó a liberar a la IA “de lógicas que la transforman en instrumento de dominio, exclusión o muerte” e invocó el “desarme” de las tecnologías para que se pongan al servicio del “bien común”, de acuerdo al reporte difundido por Vatican News.
Acerca del sentido y el origen de este documento, León XIV explicó que trata de la “custodia de la persona humana en la era de la inteligencia artificial”, a la que define como una herramienta que influye en la vida, moldea las decisiones y cambia la forma de combatir la guerra.
El artículo del medio digital de la Santa Sede hace referencia a un antecedente histórico relacionado, en alusión a que el papa León XIII, también en su momento planteó una mirada “sobre las ‘cosas nuevas’ que desafían al tiempo, a la historia y a la humanidad”. En su momento el desafío fue la revolución industrial, “con los numerosos y complejos cambios en el mundo del trabajo y las nuevas formas de pobreza impuestas, hoy es la Inteligencia Artificial, con su potencial y sus peligros, la que está ante los ojos y en el corazón del Pontífice”, y en ese contexto encuadra su llamamiento universal a “Desarmar la IA”, en el sentido de despojarla de “lógicas que la transforman en instrumento de dominio, de exclusión o de muerte”.
El artículo destaca otras particularidades de la presentación de la Magnifica humanitas, como se denomina la encíclica el pasado lunes 25 de mayo, como la propia presencia del pontífice. “Nunca antes había ocurrido que un Papa estuviera presente en el Aula en la que se presenta al público uno de sus documentos magisteriales”. Fue también la primera vez en que, además de cardenales y profesores, junto al Pontífice estuvieron sentados expertos en alta tecnología, lo que se interpreta como una señal “de la importancia y la atención que se le da al tema tratado en la encíclica, símbolo y síntoma de la ‘gravedad del momento’ que se vive y que provoca preocupación en la Iglesia”.
Robert Prevost firmó, simbólicamente, la encíclica el 15 de mayo, día en que su antecesor, León XIII, publicaba su “Rerum Novarum”, 138 años atrás, y dijo dice sentirse “llamado a contemplar otra gran transformación con los ojos de la fe, con la lucidez de la razón, con la apertura al misterio y con los gritos de los pobres y de la tierra que resuenan en mi corazón”. La visión de diez años de reflexión sobre los nuevos desarrollos tecnológicos se expresa en unas 200 páginas, a lo largo de las que señala que “hoy en día afecta ‘muchos ámbitos de nuestra vida’, influye en las decisiones y está ‘cambiando radicalmente la forma en que se libra la guerra’”.
Para elaborar este documento el papa se nutrió de aportaciones, reflexiones y orientaciones, se ha escuchado a científicos e ingenieros que “trabajan con sincero entusiasmo en tecnologías capaces de aliviar inmensos sufrimientos”; lo mismo que a “líderes políticos y funcionarios públicos que han buscado con perseverancia normas justas”; así como a “padres y maestros profundamente preocupados por el futuro de las nuevas generaciones”.
También se alerta allí sobre otros usos de estos desarrollos, como “sistemas de armas cada vez más autónomos, prácticamente fuera de todo control humano”, “algoritmos que pueden impedir el acceso a la atención médica, al trabajo y a la seguridad basándose en datos viciados por prejuicios e injusticias”. Asimismo expresa que “ha resonado con fuerza ‘el silencio de quienes no tienen voz cuando se toman decisiones’, en las que se corre el riesgo “de generar nuevas formas de exclusión y sufrimiento”.
El papa señala que no tiene “respuestas técnicas, ni pretendemos sustituir a quienes tienen la competencia necesaria” pero pretende aportar “una sabiduría sobre lo humano que nuestro tiempo necesita desesperadamente: cada persona es única e insustituible, un sujeto libre e inteligente dotado de conciencia, capaz de buscar a Dios, de servir a los demás y de cuidar de nuestra casa común”.
Claro que se trata de una visión, no necesariamente alarmista en el sentido de sensacionalista, sino más bien un llamado a abrir los ojos con respecto a los riesgos a los que nos exponemos al dejar decisiones que solían tomar seres humanos, en manos de máquinas o de protocolos informáticos, algoritmos, que suelen no ser inocuos o ecuánimes en sus determinaciones, sino que actúan a partir de un sesgo —voluntario o involuntario—. Por solo mencionar un ejemplo de cómo las tecnologías están incidiendo en las vidas de las personas, se han popularizado los robots de selección de personal, uniformizando criterios por los que se asigna un valor mayor o menor a un postulante a un puesto de trabajo en función de datos como las instituciones educativas a las que concurrió o el barrio de residencia, realizando una preselección de las personas que concurrirán a una entrevista personal. Así, muchos quedarán por el camino, en manos de una IA, antes de poder demostrar a un seleccionador humano su calificación para un trabajo. Esto, que ahorra mucho esfuerzo y tiempo en el proceso, y por ello se está adoptando masivamente, tiene evidentes consecuencias.
No es tanto el tema de que se trate de la Iglesia Católica, una institución que tiene su tiempo y su historia, cuya visión será de mayor o de menor relevancia para cada uno en función de su fe, sin embargo el hecho mismo de que se le dedique este documento y del asesoramiento en el mundo de la ciencia y la tecnología, habla de la relevancia que se le otorga a los cambios que estamos viviendo, cambios que están construyendo la historia.
