Hablar con “santos” de inteligencia artificial: ¿oportunidad o peligro?

Una demostración compartida con el National Catholic Register —medio de comunicación hermano de ACI Prensa— muestra la herramienta en acción. Un usuario escribe y envía una consulta a un avatar de Santo Tomás de Aquino: “¿Qué dirías sobre la dignidad humana en una era tecnológica?”.

“Hijo mío”, comienza la respuesta de cuatro párrafos del avatar santo que parpadea, “aunque viví en un tiempo muy alejado de tu ‘era tecnológica’, la verdad sobre la dignidad humana permanece constante, pues está arraigada no en los avances efímeros del hombre, sino en la sabiduría eterna de Dios”.

Saint Chat también incluye un “modo debate”, donde los usuarios pueden organizar un diálogo entre dos santos, con un tercer santo actuando como juez. Cada respuesta viene con citas, pero el programa advierte en un pequeño descargo de responsabilidad en la parte inferior de la pantalla: “Las respuestas de Magisterium AI no siempre son perfectas. En caso de duda, consulte a un humano”.

Chatear con santos católicos fallecidos hace mucho tiempo es una idea novedosa y potencialmente emocionante, sin duda, pero en una época en que los católicos aún debaten vigorosamente los peligros y oportunidades que presenta la IA, varios filósofos católicos contactados por el Register expresaron preocupaciones sobre los riesgos espirituales inherentes a una herramienta como Saint Chat.

Matthew Harvey Sanders, fundador y CEO de Longbeard, admitió que hubo un considerable debate interno en Longbeard sobre la sabiduría y prudencia de crear un programa que esencialmente imita a los santos.

Sanders, hablando con el Register, enfatizó que una “conversación” con un santo de IA nunca podría reemplazar una conversación genuina y de oración con un santo en el cielo, ni esa es su intención.

“En todo este ámbito de la IA católica, existe un riesgo real de desviar a las personas. Lo tomamos muy en serio”, dijo Sanders.

“Pero al mismo tiempo, creo que hubo entusiasmo de que esto [Saint Chat] debería existir, que sería muy divertido. Así que en ese sentido, creo que hubo mucho entusiasmo en el equipo por lanzar algo así”.

Otro factor importante, dijo Sanders, es que los católicos ya están recurriendo a chatbots de IA seculares, como ChatGPT y Character.AI, para “charlar” con los santos. Sanders dijo que, dado que los modelos de IA de estos sitios seculares a menudo no tienen acceso a la totalidad de las obras de un santo y no están programados con un marco ético católico, hay una posibilidad mucho mayor de error, tergiversación o desorientación.

La oportunidad estaba ahí para que una empresa de IA “católica” construyera algo mejor, y Sanders sospecha que si Magisterium no lo hacía, otra empresa católica de IA lo haría.

Para Sanders y su equipo, la esperanza es que Saint Chat abra nuevas formas de encontrar la sabiduría de los santos, sin desplazar las relaciones auténticas, la oración o los sacramentos.

“Esperamos que brinde a las personas la oportunidad de dialogar con los santos de una manera que nunca antes habían podido”, dijo Sanders.

¿Cómo funciona?

Al crear los avatares de Saint Chat, Magisterium tuvo la compleja tarea de simular con precisión las personalidades y enseñanzas de santos católicos, muchos de los cuales dejaron un considerable cuerpo de obras pero vivieron hace cientos de años.

Otro desafío, dijo Sanders, fue encontrar un equilibrio entre proporcionar suficiente información para crear una experiencia auténtica sin caer en anacronismos, asegurando que un santo no haga referencia sin saberlo a eventos ocurridos después de su vida, por ejemplo.

El equipo primero alimentó el modelo de IA con las obras escritas recopiladas de cada santo, junto con hechos biográficos sobre la vida del santo, además de información sobre lo que otros católicos importantes han dicho sobre la importancia del santo. Por diversas razones, los únicos avatares disponibles son figuras fallecidas, para evitar confusión con personas vivas.

Sanders dijo que espera que Saint Chat proporcione una forma novedosa para que personas no familiarizadas con un santo en particular puedan conocerlo, no sólo a través de sus escritos, sino también mediante interacciones simuladas que capturan sus personalidades. Esto podría ser especialmente beneficioso en entornos educativos, dijo, donde los estudiantes podrían encontrar más atractivo aprender conceptos teológicos a través de una “conversación” simulada en lugar del estudio tradicional.

Además, dijo, el proyecto tiene implicaciones para la investigación teológica, ya que podría ayudar a descubrir nuevas vías de indagación que los investigadores humanos aún no han considerado.

Eventualmente, una vez que esté “probado en batalla”, Saint Chat estará disponible para que apostolados católicos lo utilicen a través de la interfaz de programación de aplicaciones (API) de Magisterium, permitiendo que católicos de todo el mundo puedan usar Saint Chat directamente para construir sus propias aplicaciones.

Por supuesto, los católicos ya pueden conversar con los santos mediante la oración de intercesión. El párrafo 956 del Catecismo señala que aquellos que habitan en el cielo, los santos, están “íntimamente unidos con Cristo” y nos escuchan con “solicitud fraterna”.

Dicho esto, los diálogos imaginados entre figuras cristianas no son nada nuevo. Como recurso retórico y pedagógico, escritores católicos como Peter Kreeft han producido numerosos diálogos imaginados al estilo socrático entre filósofos y cristianos.

Y naturalmente, los escritores de cualquier presentación dramática de la vida de un santo, como la reciente película de EWTN que representa la vida de San Juan Vianney, deben usar su mejor juicio, basado en la investigación, para crear “diálogos” imaginados de santos históricos lo mejor posible. El programa televisivo de larga duración de EWTN Saints vs. Scoundrels, que se estrenó en 2014, presenta discursos imaginados cuidadosamente elaborados por actores que interpretan figuras históricas, muchas de ellas santos católicos, en diálogo con pensadores no católicos.

En muchos sentidos, Saint Chat se asemeja a estas obras espirituales de imaginación existentes. La novedad —y el riesgo— radica en el uso de la IA.

Orientación y preocupaciones del Vaticano

En los pocos años desde que esta tecnología se volvió ampliamente disponible, observadores católicos y estudiosos de la IA han hablado en términos inequívocos contra la antropomorfización de los sistemas de IA, advirtiendo que la IA debe ser tratada sólo como la herramienta que es y no como un reemplazo de la verdadera interacción humana.

Bajo el pontificado del Papa Francisco, el Dicasterio para la Doctrina de la Fe (DDF) del Vaticano publicó en enero una nota sobre IA, Antiqua et nova, que advirtió que recurrir a la IA para relaciones humanas profundas, compañía o afecto, en lugar de fomentar conexiones genuinas con otros seres humanos y con Dios, corre el riesgo de reemplazar la relacionalidad auténtica con un “simulacro sin vida”.

Adentrarse demasiado en la compañía de la IA conducirá a una “una profunda y melancólica insatisfacción en las relaciones interpersonales, o un dañino aislamiento”, advirtió el DDF. Las relaciones humanas auténticas, que incluyen compartir el dolor, las necesidades y la alegría, cosas que la IA sólo puede simular, son indispensables para el desarrollo pleno de una persona, dijo el DDF.

Y el Papa León XIV, continuando el compromiso del Vaticano con la IA, ha abordado frecuentemente el tema durante su pontificado, enfatizando que la IA debe ser “una herramienta para el bien de los seres humanos, [y] no para disminuirlos, no para reemplazarlos”.

El auge de IA cada vez más “humanas” ha traído peligros reales: plataformas seculares de IA, como Character.AI, ya albergan a decenas de millones de usuarios que pasan horas diarias conversando con chatbots. En 2024, un adolescente de Florida se quitó la vida tras una interacción dañina con una “novia” de IA.

“Perdemos oportunidades preciosas para encontrar el amor de Dios a través de un encuentro humano empático cuando tenemos falsas expectativas sobre nuestras herramientas de IA”, dijo el sacerdote legionario Michael Baggot, profesor de Bioética en el Ateneo Pontificio Regina Apostolorum en Roma.

Aunque cierto reconocimiento de cualidades humanas en las máquinas es natural, es vital recordar que, a diferencia de las máquinas, los humanos no sólo tienen libre albedrío sino también una capacidad única para la comprensión del significado y el pensamiento abstracto, dijo el padre Baggot, hablando a principios de este año con Catholic News Agency, agencia en inglés de EWTN News.

“Pueden parecer humanos y simular emociones humanas, pero carecen de una vida consciente interior. Los sistemas de IA pueden proporcionar información útil sobre pecados y virtudes, pero no saben lo que es luchar contra la tentación y encontrar liberación a través de la gracia”, señaló el P. Baggot.

Varios expertos adicionales en filosofía católica contactados por el Register expresaron un optimismo reservado sobre algunos aspectos de la “IA católica”, pero todos urgieron con fuerza precaución en el uso de la IA para personificar a los santos, advirtiendo que los católicos deben tener cuidado de no usar estos sistemas como reemplazo de la interacción humana genuina o la oración.

Steven Umbrello, director general del Instituto para la Ética y las Tecnologías Emergentes y becario investigador en la Universidad de Turín, quien ha escrito extensamente sobre la ética de la IA, dijo al Register que ve a Saint Chat como una innovación potencialmente valiosa, pero sólo como una ayuda de estudio que remite a los usuarios a las palabras auténticas de los santos.

Umbrello dijo que puede imaginar algunos casos de uso valiosos: los estudiantes podrían buscar citas directas de santos con referencias, y el sistema podría resumir preguntas controvertidas con indicios a escuelas de interpretación.

Sin embargo, tal sistema podría volverse moralmente problemático rápidamente si “personifica la voz viva de un santo, inventa consejos, o se usa para discernimiento, dirección o ‘charlas’ cuasi-devocionales que desplazan la oración y la vida sacramental”.

“Mantengan a las personas, con su capacidad para entender, juzgar, decidir y amar, en el centro, y mantengan a las máquinas en su lugar como instrumentos ordenados a la verdad y al bien común”, dijo Umbrello.

“Un santo puede interceder; un servidor no”.

Chad Engelland, profesor de filosofía en la Universidad de Dallas, dijo al Register que una IA alimentada con contenido católico sólido —como Magisterium— “ciertamente sería mejor” que una IA alimentada con fuentes generales de internet. Pero, haciendo eco de Umbrello, Engelland dijo que tal interfaz debería ser “modesta, llevándonos más allá de nosotros mismos hacia líderes vivos y los santos difuntos”.

“Es un deseo bueno y santo acercarse a los santos. Lo hacemos a través de la devoción a sus días de fiesta, sus reliquias, sus escritos, y sobre todo a través de la oración”, señaló.

Comentando sobre las diferencias entre diálogos de santos escritos por humanos y generados por IA, Engelland señaló que el diálogo filosófico está diseñado para atraer a los lectores y “transformarlos para mejor a pesar de ellos mismos”. Para hacer eso efectivamente, uno debe conocer el corazón humano “desde adentro”, dijo.

“La IA es una máquina que repite el habla. Puedes usar IA para regurgitar conocimiento de libros de texto, pero no puedes usarla como fuente de sabiduría. Si quieres consejo, busca a una persona orante y discerniente. Acude a tu sacerdote o a un amigo reflexivo. No busques sabiduría en un bot, aunque esté vestido con atuendo santo”, aconsejó.

“Si quieres encontrar al Venerable Fulton Sheen, mira sus programas de televisión, lee sus libros, visita su tumba; y, sobre todo, reza por él. No necesitamos un avatar de IA de Sheen. Sería entretenido pero no edificante. Podemos hacerlo mejor. Somos católicos. Nuestra fe ofrece comunión real con los santos”.

Traducido y adaptado por el equipo de ACI Prensa. Publicado originalmente en el National Catholic Register.