¿Qué es la algorética y por qué importa?

Imagina que solicitas un crédito, llenas el formulario, entregas tus documentos y esperas; la respuesta no la tomará ninguna persona, sino un algoritmo que ha analizado tu historial financiero, tu código postal, tu comportamiento en redes sociales y decenas de variables más, muchas de dudosa relevancia para tu capacidad real de pago. El algoritmo te niega el crédito, si bien el proceso fue rápido y aparentemente objetivo; sin embargo, algo profundamente humano quedó fuera de la ecuación, es decir, la posibilidad de que tu caso sea distinto, de que alguien asuma la responsabilidad moral de la decisión.

Esta escena se repite millones de veces al día, y ya está pasando en la actualidad cuando, por ejemplo, un sistema de bienestar social determina si un niño está en riesgo de abandono escolar, cuando una plataforma filtra currículums (ATS) antes de que un reclutador los vea, o cuando un algoritmo médico decide quién recibe atención primero. Esto quiere decir que los algoritmos ya toman decisiones que afectan vidas, por lo que la pregunta que debemos hacernos es: ¿con qué valores fueron diseñados para hacerlo?

Te recomendamos: ¿Para qué queremos la Inteligencia Artificial?

De ahí nace la algorética

El término “algorética”, en inglés, algorethics, fue acuñado en la Rome Call for AI Ethics, documento que la Academia Pontificia para la Vida firmó el 28 de febrero de 2020 junto con Microsoft, IBM, Cisco, la FAO y el Gobierno de Italia (Academia Pontificia para la Vida et al., 2020). Este documento describe algo preciso y puntual, además de completamente necesario hoy en día, la ética debe ser incorporada en el diseño mismo de los sistemas de IA, no añadida después como barniz de relaciones públicas.

La distinción importa, y mucho, ya que durante años la conversación sobre tecnología y ética siguió un esquema simple, primero se construye el sistema, luego se pregunta si se usa bien o mal, haciendo énfasis en el dicho popular: “no todo lo técnicamente posible es éticamente aceptable”. La algorética invierte ese orden al insistir en la necesidad de poner la pregunta ética durante el diseño, porque las decisiones de quienes construyen el sistema —¿qué datos usan?, ¿qué objetivo optimizan?, ¿qué errores toleran?, entre otras— ya son decisiones morales, aunque nunca se presenten como tales.

Magnifica Humanitas lo confirma al decir que “el discernimiento ético no se puede limitar a preguntarse si usamos un determinado sistema para un fin bueno o malo, sino que debe interrogarse también sobre el modo en el que está diseñado y qué idea de persona y de sociedad queda inscrita en los datos y en los modelos que lo guían” (León XIV, 2026, n. 104).

Los seis principios de la Rome Call

El documento propone seis criterios concretos:

• Transparencia: los sistemas deben ser comprensibles para quienes los afectan.
• Inclusión: ningún ser humano puede quedar excluido por el diseño.
• Responsabilidad: siempre debe haber alguien que responda por lo que una máquina decide.
• Imparcialidad: un modelo “neutral” puede perpetuar discriminaciones si aprendió de datos históricos injustos.
• Confiabilidad: los errores de un sistema médico o judicial pueden costar vidas.
• Seguridad y privacidad: los datos personales no son mercancía.

Que la Santa Sede firmara junto a empresas tecnológicas y organismos internacionales no fue un gesto simbólico, al contrario, fue una declaración estratégica para señalar que la Iglesia quiere sentarse en la mesa donde se construyen los sistemas, no sólo criticar sus excesos desde afuera. La misma lógica llevó a León XIII a escribir Rerum Novarum como propuesta articulada de justicia para la era industrial y Magnifica Humanitas retoma esa continuidad (León XIV, 2026, n. 92).

La encíclica asume esos principios con vocabulario propio, por ejemplo, donde la Rome Call habla de “responsabilidad”, la encíclica habla de subsidiariedad; donde habla de “imparcialidad”, advierte que los algoritmos pueden “reflejar y reforzar estereotipos o posiciones ideológicas de quienes los han diseñado” (León XIV, 2026, n. 102). Dos documentos que se piensan sin citarse y llegan al mismo lugar: la tecnología debe servir al ser humano, no sustituirlo.

La doctrina social lleva más de un siglo afirmando que la técnica debe estar al servicio de la persona; por ello hoy, lo que la algorética añade es la pregunta concreta sobre ¿cómo lo verificamos?