Alegato (científico y religioso) contra la ingenuidad tecnológicaCompartimos nuestra contribución a la nueva revista de Internet Ciudadana. Este
nuevo número, el 16, llega con artículos sobre la inteligencia artificial, la
falacia de la neutralidad o la “ingenuidad tecnológica”, un término que bautiza
este artículo y que pronunció alguien impensado.
> “Desde hace tiempo existen múltiples pruebas de que algoritmos proyectados
> para maximizar la implicación en las redes sociales —redituable para las
> plataformas— premian emociones rápidas y penalizan en cambio expresiones
> humanas que necesitan tiempo, como el esfuerzo por comprender y la reflexión.
> Encerrando grupos de personas en burbujas de fácil consenso y fácil
> indignación, estos algoritmos debilitan la capacidad de escucha y de
> pensamiento crítico y aumentan la polarización social.
>
> A esto se sumó una confianza ingenuamente acrítica en la Inteligencia
> Artificial como ‘amiga’ omnisciente, dispensadora de toda información, archivo
> de toda memoria, ‘oráculo’ de todo consejo. Todo esto puede desgastar aún más
> nuestra capacidad de pensar de modo analítico y creativo, de comprender los
> significados, de distinguir entre sintaxis y semántica.
>
> Aunque la IA puede proporcionar apoyo y asistencia en la gestión de tareas
> comunicativas, eludir el esfuerzo de pensar por nosotros mismos y conformarnos
> con una recopilación estadística artificial, a la larga corre el riesgo de
> erosionar nuestras capacidades cognitivas, emocionales y comunicativas.”
Esta cita no es nuestra. Tampoco pertenece a Evgeny Morozov, Shoshana Zuboff o
algún otro acérrimo crítico del actual sistema sociotécnico y sus plataformas
digitales. Aunque no lo creas, estos párrafos son parte del “Mensaje del Santo
Padre León XIV para la 60a jornada mundial de las comunicaciones sociales”. Una
misiva plagada de párrafos contundentes que alertan sobre los riesgos de las
actuales TIC digitales y los desafíos a los que nos enfrentamos como humanidad
por la adopción acrítica de la Inteligencia Artificial.
A pesar de profesar un profundo ateísmo, más si se trata de una institución como
la Iglesia Católica, no podemos estar más de acuerdo con las afirmaciones del
Santo Padre. ¿Se habrá convertido León XIV en un ciberpesimista? ¿Estará
apostatando de la tecnología? ¿Perdió la fe en las redes sociales? ¿En un
agnóstico de la Inteligencia Artificial?
Nada de eso. Robert Prevost, nombre bautismal del Papa León XIV, solo analiza
críticamente los riesgos del actual modelo de desarrollo de las tecnologías
digitales de comunicación e información. Un modelo impulsado por un puñado de
magnates autoritarios y financiado por poderosos fondos de inversión
especulativa que, guiados por un afán desmesurado e ilimitado de riqueza,
ignoran las repercusiones sociales de su avaricia, algunas de ellas señaladas
por el Papa y por las que ya están enfrentando a la justicia.1
Muy probablemente, al abordar este tema de ese modo, el Papa se sienta como Juan
el Bautista: un predicador en el desierto. O como Moisés, indignado ante una
sociedad embriagada de tecnomisticismo que idolatra a ChatGPT o se postra ante
la última aplicación de moda.
Sin embargo, León XIV no se amedrenta en su carta y, al igual que hizo Jesús
cuando agarró el látigo para expulsar a los mercaderes del templo, azota
directamente a los falsos profetas de esta nueva religión binaria: los
fundadores de un “puñado de empresas” que, aprovechando el control oligopólico
de los algoritmos y los sistemas de Inteligencia Artificial, son “capaces de
orientar sutilmente los comportamientos e incluso reescribir la historia de la
humanidad”.22
“CONFIANZA INGENUAMENTE ACRÍTICA EN LA INTELIGENCIA ARTIFICIAL”
Ciertamente, es muy sencillo claudicar y dejarse seducir por este nuevo becerro
de oro que nos maravilla con sus prodigiosas capacidades de procesamiento
informático. Sin embargo, el Papa alerta de los peligros de confiar ciega e
ingenuamente en las promesas que acompañan el despliegue de la Inteligencia
Artificial. Promesas tecnofetichistas que no son nuevas. Los mismos argumentos
que hoy repiten los medios de comunicación, ponentes en webinarios académicos o
tu cuñado en la cena familiar, son los que a finales de los 90 acompañaron el
despliegue de Internet y, una década después, el desarrollo de las redes
sociales y las plataformas 2.0.
También entonces depositamos en aquellos sistemas la esperanza para:
democratizar la comunicación y conformar una esfera pública más plural, diversa
e informada; empoderar a la ciudadanía para una participación política más
activa; reducir la brecha digital; educar de forma innovadora y más eficiente
mejorando las posibilidades de los estudiantes más desfavorecidos; aumentar la
transparencia y la rendición de cuentas de gobiernos y empresas que serían
fiscalizadas por la ciudadanía; o la creación de comunidades globales que nos
permitieran alcanzar mayor equidad y justicia social.
Sería demagógico afirmar que nada de esto se alcanzó. Evidentemente, Internet y
sus aplicaciones, posibilitan la producción colaborativa de conocimiento,
permiten comunicarnos con una inmediatez impresionante, articular con personas
de cualquier parte del planeta o aprender y divertirnos con memes y videos,
entre otras muchas cosas.
Pero si profundizamos el análisis, ¿cuáles de aquellas promesas se cumplieron
realmente?, ¿qué hemos logrado transformar estructuralmente?, ¿tenemos
sociedades más democráticas y justas o creció la exclusión y la inequidad?
Casualmente, la acertada carta del Papa coincidió con dos noticias globales que
aportan respuestas concretas a estas preguntas.
NOTICIA 1: PROHIBICIONES
La primera es que Francia y España, siguiendo los pasos de Australia, prohibirán
el uso de redes sociales a menores de 15 y 16 años, respectivamente.3 Esta
controvertida medida fue aprobada por mayoría en la Asamblea Nacional francesa
–130 votos a favor frente a 21 en contra– y cuenta con el respaldo del 79% de
los adultos y de un 67% de los jóvenes que la consideran justificada.
Estas leyes se aprobaron para mitigar los daños, evidentes y probados, que
provocan en la salud mental de jóvenes (y adultos): “estas redes sociales
prometían conectar, fragmentaron. Prometían informar, saturaron. Prometían
divertir, encerraron.”, afirmó una de las diputadas que respaldó la iniciativa.
El presidente español, Pedro Sánchez, anunció que las plataformas como
Instagram, Facebook, TikTok, Snapchat, X o Twitch, tendrán que implementar
obligatoriamente mecanismos de verificación de la edad de quien accede. De esta
forma, aspira a proteger a los menores del “salvaje Oeste digital” donde abunda
la pornografía, la manipulación y desinformación, la violencia o los abusos.
Al anunciar las restricciones –que la Unión Europea está estudiando implementar
en todos los países miembros porque “enganchan a los niños a algoritmos
manipuladores”– Sánchez apuntó contra los “amos del algoritmo”, gobernantes de
“Estados fallidos” donde no se respetan legislaciones ni se persiguen los
delitos. Y señaló particularmente a uno de estos tecnooligarcas: Elon Musk y su
Inteligencia Artificial Grok, investigado por la creación de millones de
imágenes pornográficas de mujeres sin su consentimiento: “los directores
generales de estas plataformas tecnológicas se enfrentarán a responsabilidades
penales por no eliminar contenidos ilegales o que inciten al odio. Se acabó
ocultarse bajo el código y decir que la tecnología es neutra”. Sus declaraciones
le valieron los insultos de “tirano y traidor” por parte de Musk.
NOTICIA 2: RENTABILIDAD
La segunda noticia que coincidió con la carta del Pontífice, fue el anuncio del
crecimiento exagerado de las ganancias de las Big Tech, alimentado por las
inversiones en IA Generativa. Tesla/X, Alphabet, Amazon, Meta, Nvidia, Oracle y
Microsoft alcanzaron en 2025 “cifras inéditas” que no solo aumentan su ya
inmensa riqueza –los dueños de estas empresas integran la lista de las diez
personas más ricas del mundo, en el orden que las citamos– sino que consolidan
su descomunal poder. Un poder que les autoriza a insultar presidentes o ignorar
leyes.
> “Tal vez lo más llamativo es lo sencillo que ha sido este proceso de
> transformación de la utopía en distopía tecnológica. Lo familiar y coherente
> que nos ha resultado esta situación de indefensión colectiva y dependencia
> digital extrema”. César Rendueles, Redes vacías Tecnología catastrófica y el
> fin de la democracia.
¿SERÁ QUE ESTAMOS USANDO MAL LAS TECNOLOGÍAS?
No. El presidente español, en sus declaraciones, apuntó en la dirección adecuada
al recordar que la tecnología no es neutra. Una falacia que, de tanto repetirla,
se ha convertido en una especie de virtud teológica tecnocientífica.
Un mito muy útil ya que deriva la responsabilidad sobre quienes usan la
tecnología y no sobre quienes la producen: “No son ellos a quienes hay que
señalar, sino a esos traficantes que con sus algoritmos crean adicciones. Hay
que neutralizarlos”, alegó el diputado francés Rodrigo Arenas, al oponerse a la
ley aprobada en su país por creer que culpabiliza a las familias y profesores,
cuando son las víctimas de las plataformas.
No existe la “neutralidad técnica”, ni siquiera de objetos sencillos como un
martillo o un cuchillo. Desde una concepción instrumental y funcional,
ciertamente estos artefactos pueden ser usados para algo bueno o malo. Eso no
significa que sean neutras, porque cualquier tecnología está imbuida de valores
humanos, empezando por los principios y la visión de mundo de quienes diseñan o
financian. En ese diseño influyen también otros factores externos como el
contexto social, económico, político.
Por lo tanto, no son solamente herramientas sin implicaciones éticas. Todas
encarnan valores, principalmente cuando se integran dentro de un sistema
tecnológico más amplio que modela los comportamientos sociales y consolida
estructuras de poder.
NO HAY QUE PERDER LA FE
El Papa León XIV termina su misiva con una recomendación: ser escépticos y no
dejarnos dominar por la ingenuidad. Sin embargo, esa penitencia no implica
perder la fe y dejar de creer en la tecnología.
Negar la neutralidad nos permite reconocer que todo desarrollo se rige por
ciertas reglas, valores y normas que están presentes en el diseño de los objetos
técnicos. Estas especificaciones integran lo que el filósofo canadiense Andrew
Feenberg llama el “código técnico”. Este código naturaliza las decisiones de
dominación como si fueran puramente técnicas o relacionadas con la eficiencia,
neutrales, cuando son profundamente sociopolíticas y económicas. En el caso de
las TIC y la IA, este código lo redactan los hombre (blancos, del Norte Global,
heteronormativos) más ricos del planeta.
Feenberg, al igual que León XIV, nos invita a un “involucramiento táctico”. Esto
significa apropiarse de los “elementos técnicos” para diseñar tecnologías desde
otros paradigmas y alejarnos así de los códigos opresores. Solo evaluando
seriamente sus impactos sociopolíticos o medioambientales podremos construir
tecnologías con un verdadero fin democrático y liberador.
Por ejemplo, los elementos técnicos que permiten las creación de redes sociales
se puede regir por un código técnico que favorece los intereses de un personaje
como Elon Musk que nos traiciona entregando nuestros datos por varios puñados de
monedas de plata o por otro que crea redes libres y diversas como las del
Fediverso.4 Y así con cada una de las TIC digitales.
León XIV tiene claro que el código técnico que rige el desarrollo actual de la
Inteligencia Artificial no augura un futuro prometedor para la humanidad.
Sorprendentemente, su opinión coincide con la de Dario Amodei, que nada tiene
que ver con la religión. Amodei es el director ejecutivo de Anthropic/Claude,
una empresa fundada por exempleados de OpenIA (ChatGPT) que abandonaron la
compañía debido a las polémicas decisiones de su presidente Sam Altman.
En un extenso manifiesto publicado en enero de 2026, Amodei afirma que “la
humanidad debe despertar ante los peligros de la IA”5 . Y esboza cinco áreas
críticas de riesgo: que la IA escape del control humano; que se use con fines
destructivos; que se profundice la exclusión económica y se concentre más la
riqueza debido a los cambios en el ámbito laboral que implica esta tecnología;
que sea controlada por actores irresponsables y autoritarios concentrando el
poder;6 y que no podamos enfrentarnos a los efectos imprevisibles de la IA. Cómo
“única solución”, Amodei aboga por legislación y propone una “Constitución de la
IA” definiendo claramente qué podrán hacer, y qué no, los algoritmos que rigen
su funcionamiento.
Pareciera que la Inteligencia Artificial logró algo impensado: poner de acuerdo
a ciencia y religión. Tanto la fe como los postulados científicos coinciden en
recomendarnos que evitemos la confianza ingenua y acrítica en la Inteligencia
Artificial y en todas las promesas que la rodean. Ojalá como humanidad estemos a
la altura de dar respuesta a este desafío sin tener que esperar al Juicio Final.
--------------------------------------------------------------------------------
NOTAS Y REFERENCIAS
1. “Los gigantes tecnológicos se enfrentan a un juicio histórico en EE. UU. por
acusaciones de adicción a las redes sociales”. Meta, YouTube y TikTok
acusados de crear productos intencionadamente adictivos y perjudiciales para
los jóvenes. Meta, incluso, es consciente de que muchos de sus anuncios son
engañosos o, directamente, estafas. Así lo evidencian documentos internos de
la compañía que calculan que el 10% de sus ingresos se obtienen por estos
anuncios fraudulentos, unos 15.000 millones de anuncios fraudulentos al día.
Sin embargo, evitan tomar medidas porque eso implicaría perder miles de
millones de ingresos por publicidad. ︎
2. Este empeño autoritario por reescribir la historia llevó a Elon Musk a
ofrecer millones de dólares a Wikipedia para que cambie su enfoque, acusando
a la enciclopedia colaborativa de ser “woke”. Al ignorar su propuesta, Musk
anunció su propia alternativa Grokipedia, alimentada por su inteligencia
artificial. ︎
3. Medidas polémicas sobre las que no se ha cerrado el debate pero que tienen
su correlato en el mundo fuera de línea con prohibiciones para el acceso de
los jóvenes a otros productos dañinos como la venta de alcohol o tabaco o el
acceso a las apuestas deportivas. ︎
4. “Las redes sociales existentes se adaptan mucho mejor al programa iliberal
que a un proyecto emancipador. Cuanto más disparatada sea la campaña, cuanto
menos dependa de la construcción de lazos políticos sólidos, mejor es la
relación entre esfuerzo invertido y resultados. Dedicando una hora al día a
Twitter puedes convencer a millones de que la Tierra es plana y de que
Hillary Clinton participa en una red de pedofilia satánica en una pizzería
de Washington. Hacen falta vidas enteras de huelgas y asambleas para
convencer a la gente de que el jefe que los explota es un explotador”,
afirma el sociólogo César Rendueles en su último libro titulado “Redes
vacías. Tecnología catastrófica y el fin de la democracia”. ︎
5. Hace dos años ya publicó otro con bastante repercusión sobre los posibles
ámbitos donde impactaría la IA. ︎
