Papa Francisco alerta de los riesgos de la IA en abusos sexuales de menores

LIMA, Perú. El Papa Francisco alertó de los riesgos de la Inteligencia Artificial y la necesidad de un uso con responsabilidad, en un mensaje enviado al IV Congreso del Centro de Protección al Menor (CEPROME), que lleva por título “Inteligencia Artificial y Abusos Sexuales: Un nuevo desafío para la prevención”, y que se realiza en Lima, Perú.

En su mensaje, que elaboró en enero pasado para ser leído en este Congreso al que asistieron cientos de personas de toda América Latina, Francisco habló sobre la importancia de darle voz a las víctimas para prevenir el crecimiento de los riesgos que implica el rápido crecimiento de la IA en el mundo, particularmente entre niños y adolescentes.

La IA y el riesgo de mayor impunidad

La impunidad en la Inteligencia Artificial asciende de grado sobre la impunidad que ya existía en internet, aseguró el Papa, “pues de la mera visión, trasmisión o recopilación de materiales inapropiados, se pasa a la creación de material ‘nuevo’, sintético”.

“El no haber sido nuestra mano a producir esos materiales podría crear la falsa ilusión de que no somos nosotros a ‘hacer’ algo vergonzoso: a agredir a una persona, a robar una imagen, a usar un concepto o una idea de otro, a exponer algo íntimo que debía quedar en la esfera privada de la persona”.

“Pero, no es cierto, la máquina sigue nuestras órdenes, ejecuta, no toma las decisiones, sino en tanto que está programada para ello”, señaló Francisco.

La importancia de dar voz a las víctimas

El Santo Padre enlistó diversos tipos de daños que puede acarrear un mal uso de la Inteligencia Artificial: daños para aquellos que viendo lo que hemos producido lo quieran emular; y también daño por el enorme flujo de materiales inadecuados que contaminan el entorno.

También habló de los perjuicios por la dificultad que encuentran las autoridades para discernir entre material real y virtual o falso. Al respecto, Francisco aseguró que de estos daños deben responder tanto quien usa la computadora como quién la diseñó para que fuese segura.

Ante ello, el Papa habló de dos opciones para responder a estos desafíos: En primer lugar, “dando voz a Dios y a las víctimas que a Él imploran, de modo que se tome conciencia del daño que se está produciendo”.

En segundo lugar, Francisco habló de la importancia de que todas las personas que están detrás del desarrollo de las herramientas de Inteligencia Artificial, así como las autoridades competentes, se impongan límites y normas claras, concretamente evaluables, que permitan perseguir su uso nocivo o delictivo.

¿En qué consiste el Congreso CEPROME?

El IV Congreso de CEPROME se lleva a cabo en Lima, Perú, del 25 al 28 de febrero de 2025 y es organizado por esta institución de carácter pontificio con presencia en toda América Latina, actualmente dirigida por la abogada argentina María Inés Franck, cuya finalidad es desarrollar estrategias para prevenir los abusos sexuales de menores por miembros de la Iglesia.

El evento cuenta con la presencia de expertos internacionales que trabajan acompañando a víctimas de abuso sexual en sus procesos de sanación y de búsqueda de justicia, que participarán en ponencias, paneles de discusión y talleres formativos. Además, el último día se realizará la Expo Buenas Prácticas, una exhibición de stands en que más de 20 organizaciones compartirán sus experiencias y estrategias en el combate contra los abusos.

“Las reflexiones del Papa Francisco profundizan nuestra comprensión de esta nueva realidad y nos ilumina el camino para seguir luchando contra los abusos y creando espacios eclesiales que favorezcan la protección de todos, particularmente, de niños, niñas y adolescentes en toda América Latina”, comentó Franck.

Durante la primera jornada, los asistentes hicieron una oración por el Papa Francisco, quien actualmente se encuentra hospitalizado por problemas respiratorios en el Hospital Gemelli, en Roma, Italia.