La IA en los jóvenes: la Iglesia da la voz de alarma

En un entorno mágico pero real, en la Villa Pia, en el corazón de los jardines del Vaticano, a años luz del universo virtual, sesenta expertos mundiales -universitarios, representantes de asociaciones y organizaciones internacionales- se reunieron del 20 al 22 de marzo de 2025 para debatir el impacto de la inteligencia artificial (IA) en las generaciones jóvenes.

Organizado por la Academia de Ciencias Pontificias, el simposio, del que se hizo eco el portal oficial de información del Vaticano, partió de la constatación de que una parte de los niños y adolescentes ya tienen acceso a la IA en diferentes formas: asistentes de voz, aplicaciones educativas, juegos interactivos o incluso algoritmos personalizados en las redes sociales.

Esta tecnología, en plena expansión, "cambia fundamentalmente" su forma de vivir, aprender e interactuar con el mundo. Según los expertos reunidos en el Vaticano, esta transformación es rápida y profunda, y afecta a ámbitos tan diversos como la educación, el ocio y las relaciones sociales.

Los investigadores reunidos en la Villa Pia destacaron las posibilidades sin precedentes que ofrece la IA: así, herramientas como los tutores virtuales permiten un aprendizaje personalizado, adaptado al ritmo y las necesidades de cada niño. Las aplicaciones basadas en la IA también pueden detectar trastornos de aprendizaje tempranos, ofreciendo así un apoyo específico.

En el ámbito del ocio, los videojuegos impulsados por la IA crean experiencias inmersivas que cautivan a las mentes jóvenes, mientras que las redes sociales utilizan algoritmos para moldear sus preferencias e interacciones. Pero todo esto está lejos de ser inofensivo. Esta omnipresencia plantea ahora cuestiones cruciales.

Si bien la IA puede aportar beneficios en algunos casos, en muchos otros puede exponer a los jóvenes a peligros insidiosos. El encuentro organizado en el Vaticano tenía como objetivo poner de relieve la necesidad de crear y garantizar un entorno digital seguro, y la forma de hacerlo: un objetivo que parece estar aún lejos de alcanzarse ante la complejidad de los desafíos planteados.

Uno de los puntos centrales del simposio fue la seguridad de los niños en el espacio digital. Las estadísticas mencionadas son alarmantes: una de cada cinco niñas y uno de cada siete niños serían víctimas de violencia en línea, ya sea ciberacoso, explotación o exposición a contenidos inapropiados. La IA, como motor de estas plataformas, puede amplificar estos riesgos.

Lee mas: Pilotos humanos en riesgo: ¿hasta dónde es seguro que la aviación comercial apueste por la inteligencia artificial?

Por ejemplo, los algoritmos de recomendación, diseñados para maximizar la participación, pueden exponer involuntariamente a los niños a contenidos violentos y contrarios a la moral natural y cristiana. Además, la IA generativa, capaz de producir textos, imágenes o videos, plantea nuevos retos.

Herramientas como los deepfakes pueden hacer que los niños sean vulnerables a la desinformación o a abusos más directos. La recopilación de datos personales, inherente a la IA, también es una amenaza. Estos datos, que incluyen hábitos, preferencias y, a veces, emociones de los niños, pueden ser explotados con fines comerciales o maliciosos, comprometiendo la privacidad desde una edad temprana.

El cardenal Peter Turkson, canciller de la Academia Pontificia de las Ciencias, insistió en la importancia de integrar la ética en el desarrollo y el uso de los datos, antes de que estén disponibles. La idea se une a iniciativas anteriores del Vaticano, como el diálogo con líderes de Silicon Valley, con el objetivo de concienciar a los gigantes tecnológicos sobre estos temas.

En la reunión también se reflexionó sobre la posible adicción de los niños a estas tecnologías. Si la IA se convierte en un compañero constante -un asistente virtual o un algoritmo que guía sus elecciones-, ¿qué impacto tendrá en su autonomía? Algunos expertos temen que los niños, acostumbrados a respuestas instantáneas y personalizadas, pierdan la paciencia ante los procesos más lentos e inciertos de la vida real. Sin embargo, la adquisición de virtudes no puede hacerse con un solo clic.

Otro motivo de preocupación es el impacto de la IA en las relaciones humanas. Las interacciones mediadas por pantallas y algoritmos podrían reducir las oportunidades de contacto directo, esenciales para el desarrollo emocional y social de los niños.

Para responder a estos desafíos, los participantes abogaron por una gobernanza internacional de la IA, en la que participen gobiernos, empresas tecnológicas y la sociedad civil: una iniciativa teñida de idealismo que dejará escépticos a aquellos que ven cómo los organismos internacionales se parecen más a "Un Mundo Feliz" de Huxley que al ideal descrito en los 4 evangelios.