En marzo de 2023 más de mil personas vinculadas al desarrollo tecnológico —Elon Musk, entre ellas— firmaban una carta pública pidiendo una pausa del trabajo en superinteligencias. Según escribían, estaba en curso “una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable”. El género de la carta pública masiva suele ser ineficaz y esta no fue la excepción. Desde entonces hemos visto cómo esa carrera sin control, lejos de detenerse, ha avanzado a pasos agigantados. Lo menos que puede decirse, en cualquier caso, es que también los creadores y promotores de estas tecnologías reconocen el carácter inquietante de las transformaciones en curso. Peter Thiel ha sido elocuente al respecto, incluso advirtiendo en una ocasión que los críticos son, en realidad, insuficientemente apocalípticos. Pero, a pesar de esa impresión, el influyente inversionista de Silicon Valley considera un deber seguir adelante: de lo contrario, cree, se impondrían alternativas todavía más inquietantes, como el estancamiento y el Estado mundial unitario, que identifica con el Anticristo.

¿Pero son estos los discursos que realmente configuran nuestra mirada en torno a la inteligencia artificial? La verdad es que la mayoría no estamos expuestos a estos sueños en su versión utópica ni distópica. Sí lo estamos, en cambio, a la idea de que no hay resistencia posible; que la inteligencia artificial se integrará inevitablemente en cada espacio de nuestras vidas y que no cabe sino sumarse. Que, como se suele decir, “llegó para quedarse” (un discurso del más banal realismo burocrático). Este es el tipo de mensaje que en los hechos está configurando nuestras vidas e instituciones. Si no tiene sentido resistir la inteligencia artificial, por ejemplo, en la educación, la verdadera tarea de colegios y universidades será enseñar a usarla. Esa sería nuestra misión, y solo la pasividad de profesores temerosos ante la innovación explicaría la demora. Tal como ha ocurrido con otras herramientas, su incorporación sería inevitable. Bastaría un elemental sentido de realidad para saber dónde situarse en esta discusión. ¿Y quién no quiere ser realista?

Me permito, entonces, sugerir que partamos por suspender esta comprensión del realismo. Este discurso de la adaptación a lo supuestamente inevitable no solo lo aplicamos a la IA, sino también a otros ámbitos de la vida. ¿Pero es ese un realismo respetable? Parece posible caracterizar el respeto a la realidad de una manera que no implique rendirse ante un fenómeno como si no hubiera modo alguno de gobernarlo. Una versión más razonable del realismo, creo, tiene por realista ante todo a quien reconoce los efectos secundarios, no deseados, de todo lo que hacemos. Entendido de esta manera, el sello del realista consiste en identificar esos efectos —las eventuales patologías del progreso— en lugar de dejarse cegar por la promesa de los beneficios. Eso es lo que le impide sumarse al entusiasmo ingenuo respecto de las bondades anunciadas con cada cambio.

La relevancia de esta perspectiva para nuestras discusiones sobre el cambio tecnológico debería ser obvia. Se nos pide un realismo que suele ser una mera capitulación, cuando necesitamos un realismo cargado de atención. ¿Podríamos tal vez aspirar a un mundo sin crimen, al ser ya posible trazar cada acción y cada paso de toda persona? Hoy, efectivamente, parece posible, pero la ilusión de un mundo sin crimen nos hace bajar la guardia ante el crimen mayor que se perpetraría contra las libertades básicas en un mundo de vigilancia total. Es lo que observa Carissa Véliz en el libro La privacidad es poder. El realismo que necesitamos es el que nos vuelva conscientes de ese riesgo, de esos efectos. Para quien quiera oír, en el mundo de la educación la evidencia se acumula a pasos agigantados: retroceso de capacidades cognitivas, pérdida de atención, incapacidad de leer un libro, investigaciones repletas de referencias inexistentes y un largo etcétera. ¿Esas son realidades compensadas por el progreso científico eventualmente exponencial que podrían traer los desarrollos en curso? ¿Quién es el ingenuo? ¿Quién es el realista? Sin negar a priori el lugar que se deba conceder a la inteligencia artificial en distintas tareas, nuestra primera responsabilidad es sacudirnos de encima la impresión de inevitabilidad y notar que lo realista muchas veces es la calma y la resistencia.

El problema de la neutralidad

Antes de explorar las razones para esa resistencia debemos preguntarnos qué tiene de especial nuestra situación. ¿No sería correcto mirar la inteligencia artificial como una herramienta más, ciertamente sorprendente, pero susceptible de buen o mal uso como cualquier otro instrumento? También este es un ingrediente central del discurso que hoy prevalece, y de algún modo pretende atenuar su carácter aplastante: por un lado, la inteligencia artificial sería una novedad radical e inevitable; por otro, estaríamos solo ante una versión más —nada nuevo bajo el sol— de lo que la técnica siempre ha sido.

Como fuere, esta es una de las cuestiones que toca León XIV en su comentada encíclica Magnifica Humanitas. La técnica, escribe ahí, no es buena ni mala en sí misma, pero tampoco es neutral (n. 9). ¿Qué quieren decir estas palabras? En realidad, la encíclica aborda la cuestión de la neutralidad en dos ejes, y vale la pena distinguirlos con precisión. La tecnología no es neutral, en primer lugar, porque “toma el rostro de quien la concibe, la financia, la regula, la utiliza” (n. 9). Si uno fija la mirada en este punto, la clave estará en desnudar el poder que la maneja, los intereses —nada neutrales— a los que sirve. Dada la manera en que la revolución digital en curso se presta para la creación de un nuevo tipo de oligarquía, esta es una cuestión fundamental. Parece pertinente notar, sin embargo, que este es un sentido muy débil de la no-neutralidad, más bien cercano a lo que suele entenderse por neutralidad: si la tecnología “toma el rostro de quien la concibe”, solo sería cosa de corregir quién la usa y para qué.

Pero Magnifica Humanitas también menciona un segundo nivel de este asunto, el hecho de que todo artefacto técnico “lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones” (n. 104). Aquí León XIV no está denunciando los intereses de Silicon Valley u otro actor como en el pasaje anterior, sino notando un problema que persistirá, por más democrático que sea el hipotético control sobre la IA. Este es el sentido fundamental de la “no neutralidad” que es crucial comprender. Hay espacios de nuestra cultura que han estado familiarizados por décadas con esta idea. En los años cincuenta, Martin Heidegger notaba que, cuanto más consideramos la técnica como algo neutral, más entregados estamos a ella. Considerarla neutral nos volvería “completamente ciegos para la esencia de la técnica”. Por entonces irrumpían también en escena los estudios de medios, y sus grandes figuras —Harold Innis, Marshall McLuhan, Neil Postman— tomarían como elemental punto de arranque la conciencia de que, en la conocida frase de McLuhan, “el medio es el mensaje”.

En otras palabras, aunque no existieran los intereses de Silicon Valley, y aunque solo diéramos a la tecnología el mejor de los usos posibles, hay una pregunta sobre “la idea de persona y de sociedad” (n. 104) inscrita en los datos y en los modelos que guían estas herramientas. Este es el sentido decisivo en que debemos comprender la no-neutralidad de fenómenos como el que enfrentamos. Según ha notado un agudo comentador de la encíclica, tecnologías como estas “reordenan nuestro sentido de lo que es real, correcto, valorable, cargado de autoridad, memorable y humano […] Establecen nuevos rituales y nuevas formas típicas de la vida cotidiana. Desplazan los fundamentos mismos de nuestra autointerpretación psíquica y de nuestra evaluación espiritual”. Para juzgar nuestra situación tenemos que hacer completamente a un lado la idea de que los medios, las herramientas o las formas sean indiferentes. Como escribía Postman, “no se puede hacer filosofía política en televisión porque su forma conspira contra el contenido”. El medio puede ser completamente determinante, y una revolución de los medios nos pone, por tanto, ante una auténtica novedad.

Algo nuevo bajo el sol

Decimos que hay una genuina novedad precisamente porque la regla en la historia humana era la de caracterizar a las herramientas por su neutralidad. El médico, escribía Aristóteles, puede producir la salud y la enfermedad. El martillo permite construir y también atacar. ¿Cómo es que esta descripción de las técnicas y los instrumentos se nos ha quedado corta?

Una manera de entenderlo es captando la novedad del término tecnología. La palabra misma revela una fusión distintiva de nuestra civilización moderna, la fusión de la técnica y la ciencia. En el mundo premoderno había variadas técnicas; también había muchas disciplinas intelectuales por las que el logos aspiraba a comprender la realidad, desde la biología hasta la teología. No había, en cambio, tecno-logía. Nuestra situación es exactamente la opuesta: la tecnología se ha vuelto dominante, por lo mismo, ese mundo previo se nos ha vuelto no solo pasado, sino algo ajeno e incomprensible. La idea de un conocimiento valioso por sí mismo nos resulta extraña, mientras que el conocimiento transformador reclama un lugar central en el proyecto moderno y contemporáneo. Para nosotros, técnica y ciencia se dan en una compenetración que antes era inexistente. Puede haber ganancias en ese proceso, claro está, pero lo que no podemos permitirnos es la renuncia a preguntas críticas bajo el lema de que aquí no hay nada nuevo.

Si pensamos la tecnología como un simple conjunto de nuevos y poderosos recursos, se “esconde la verdadera novedad de la situación y no podemos contemplarla tal cual es”. Así lo describía hace cuatro décadas el filósofo canadiense George Grant. ¿Cuál es la novedad, entonces? Ella reside en que un instrumento nacido del mundo que acabamos de describir tiene, por ese mismo origen, un destino. Una herramienta que nace en una civilización tecnológica —un computador, por contraste con un martillo— es deudora de ese “destino”. Al hablar de la tecnología como destino, Grant no quería sugerir determinismo alguno. Pero si existe el computador es porque existe una civilización orientada a este tipo de productos, y no podemos abstraernos de esa realidad al pensar cómo serán usados los instrumentos. El computador no nos impone para qué fin usarlo, pero sí surge de un “destino” que tiende, en este sentido, a imponerse. La civilización que creó estas herramientas tenderá también a configurar el tipo de uso que les demos.

Ahora bien, esa civilización no solo tenderá a configurar el uso concreto de tal o cual herramienta; también configura el carácter irresistible que parece tener el desarrollo tecnológico, la inevitabilidad que comentábamos al comienzo de este artículo. Pretendemos deliberar sobre si una tecnología será adoptada o no, pero uno sabe de antemano que la deliberación acabará en una decisión positiva. ¿Por qué? Porque “nuestro juicio opera como un espejo, que nos proyecta esa misma metafísica de la tecnología sobre la que se supone que estamos deliberando en concreto”. No es que la deliberación sea deshonesta, sino que precisamente este carácter de “destino” nos vuelve casi imposible —justo cuando más lo necesitamos— pensar fuera de ese modo de comprensión. El resultado, escribe Grant, “es casi inevitablemente una decisión a favor de mayor desarrollo tecnológico”.

Una crisis de autocomprensión

Entonces estamos ante una genuina novedad, pero su carácter “inevitable” solo proviene de nuestra incapacidad para mirar desde fuera la mentalidad dominante en nuestra civilización. Asomándonos fuera de ese marco, la posibilidad de oponerle alguna resistencia está lejos de carecer de sentido. Pero ¿resistir qué? En su primera Carta a los Corintios, san Pablo recuerda a los primeros cristianos su antiguo culto a “ídolos mudos” (12,2). Se trata de una imagen tremendamente poderosa para subrayar el quiebre con el mundo que dejaban atrás. No solo abandonaban ídolos de su propia creación para dar culto al Creador, sino que dejaban atrás la mudez del ídolo por un Dios que se comunica en palabras accesibles a los humanos. Con buenos motivos, la crítica de la idolatría ha sido por siglos un instrumento de diagnóstico de los desvaríos humanos, y hoy, una vez más, se ha vuelto un instrumento para iluminar nuestra condición. Pero ¿no estamos ante una situación más radical aún, en que los ídolos ya no son mudos? Parece que alcanzaron la palabra. Pero son las ilusiones generadas por esa impresión las que debemos, en primer lugar, resistir.

Aquí no hay “palabra” en sentido propio, sino un regurgitar mecánico de los contenidos disponibles en internet. El mecanismo de regurgitación, con todo, es absolutamente deslumbrante, y de ahí nuestras persistentes confusiones, como el hecho mismo de que hablemos de “inteligencias”. Las ramificaciones de este problema abundan. Pocos meses atrás, el biólogo y polemista Richard Dawkins escribía sobre su experiencia tras unos días “conversando” con Claude (a quien rebautiza como Claudia), y concluía que parecía haber ahí conciencia. Si Dawkins es célebre, recordemos, es por su papel en el movimiento del “nuevo ateísmo” de dos décadas atrás, algo bien singular a la luz de su reciente deslumbramiento: no le parecía natural ver a Dios tras la creación, pero hoy sí cree ver el fenómeno de la conciencia tras una aplicación en su teléfono o computador. ¿Qué imagen del pensamiento humano, de la inteligencia, lleva a este tipo de conclusiones? “Si estas criaturas no son conscientes —se preguntaba Dawkins—, ¿para qué diablos sirve la conciencia?”. La forma misma de la pregunta, como puede verse, solo permite entender la conciencia —y, en último término, al ser humano— en términos funcionales. Si hay competencias hay inteligencia; o eso, al menos, es todo lo que nos puede interesar de la inteligencia. No hay relación ni intencionalidad que la acompañe, quedamos ante algo así como una conciencia sin biografía.

Para la gran mayoría el problema no es lidiar con las tesis de Dawkins, como tampoco con las de Musk o Thiel. Lo verdaderamente asombroso es que personas con una antropología muy distinta —más cerca, digamos, de san Pablo que de Dawkins— crean, sin embargo, que nuestra autocomprensión no se verá transformada por la implementación a gran escala de la IA. Para cada problema causado por la técnica se cree tener una solución técnica. Si hay plagio habrá detectores de plagio. La verdad es que incluso eso es falso: no hay detector que sirva hoy para enfrentar la magnitud de ese problema y, sin embargo, el plagio es el menor de los problemas causados por la IA en el ámbito de la educación y la investigación. Lo verdaderamente sorprendente es encontrar ahí —entre alumnos e investigadores— a personas que imaginan que su tarea fundamental es dar con cierto resultado; producir un mejor trabajo para aprobar el semestre o producir un artículo que demuestre tal o cual punto. Si esa fuera la meta, la ruta para alcanzarla sería delegable.

Muchos piensan, en efecto, que es posible delegar procesos cruciales. Se imagina, por ejemplo, que lo importante es tener buenas ideas, que luego su ejecución puede ser automatizada; lo importante sería formar en pensamiento crítico y luego aprender a formular un buen prompt para que una IA desarrolle nuestra idea. Un reciente editorial de la revista Nature formulaba con nitidez los problemas de esta mirada. “Escribir no es simplemente reportar resultados”, afirmaba. Es en el escribir mismo —continuaba— que se articula nuestro pensamiento. “Escribir nos obliga a pensar, no en la manera caótica y no lineal en que típicamente discurren nuestros pensamientos, sino en una manera estructurada e intencional”. El artículo en cuestión notaba además los vínculos ampliamente conocidos entre la escritura —y en particular la escritura a mano— y la mayor conectividad cerebral, con sus amplios efectos sobre el aprendizaje y la memoria. 

Quien educa no busca en un alumno la producción de un texto perfecto, sino el proceso mismo del aprender, con todas las imperfecciones que aquello entraña. Pero quien entiende esto —que buscamos no un simple resultado, sino un resultado inseparable del proceso mismo de la educación “tradicional”— ha entendido la diferencia entre producción y acción. En la producción nos interesa un resultado óptimo, en cierto sentido indiferente al camino que se recorra; en la acción esa indiferencia es imposible, pues no hay un resultado abstracto que se pueda separar de nuestras acciones de aprender, debatir o compartir. Quien entienda este hecho elemental ha salido del horizonte estrecho de la sola consideración técnica.

El ocaso de un matrimonio

Todo esto tiene, además, una relevancia política y moral de primera magnitud. Discutimos mucho sobre el efecto de la automatización sobre el empleo, pero ¿qué autonomía en el juicio subsiste en un mundo de creciente automatización? ¿Y qué dice del proyecto moderno el hecho de que estemos dispuestos a sacrificar ese ideal de juicio independiente? Vale la pena notar aquí cómo se cruzan dos vertientes de ese proyecto: nuestra libertad exigiría no solo poner límites al poder arbitrario de unos hombres sobre otros, sino también someter la naturaleza. Es un hecho que la técnica nos libera de ciertas tareas y que eso abre espacio para que nuestra libertad se oriente a cosas más elevadas. No es misterio alguno que estas dos aspiraciones tengan una historia entrecruzada y, por lo tanto, no habría por qué mirar el conjunto como un cuadro amenazante.

Sin embargo, el proyecto de la técnica no apunta al mero sometimiento de una naturaleza externa. En La abolición del hombre, C. S. Lewis advertía que todo el sueño del poder humano sobre la naturaleza adquiere un tono algo distinto cuando el proyecto se ha extendido a la transformación del ser humano. El mismo autor inglés notaba las consecuencias poco liberales del proyecto, el hecho de que la técnica no es un poder del “hombre” sobre la “naturaleza”, sino “un poder ejercido por algunos hombres sobre otros, valiéndose de la naturaleza como su instrumento”. Grant había sido alumno de Lewis y sus preguntas retoman esa misma inquietud. “¿Cuáles son los supuestos modernos que al mismo tiempo exaltan la libertad humana y estimulan el dominio cibernético que ahora amenaza la libertad?”. Si el proyecto moderno unía en matrimonio a la sociedad de libertades y la sociedad tecnológica, hace décadas que el destino de esta unión parece cada vez más incierto.

Podemos ilustrar esa tensión con un ideal más, el de la diversidad. Nuestras sociedades se precian de ser especialmente plurales, de cultivar una libertad que da como resultado un mundo en que distintas formas de vida logran convivir. ¿Qué ocurre ahí con la tecnología y, concretamente, con la manera en que acudimos a la inteligencia artificial? Escribiendo en 1986, Grant ya notaba que el nuevo modo de almacenar y transmitir información aumentaría la velocidad de la homogeneización. “Abstraer los hechos para que puedan ser almacenados como información es algo que se logra por la clasificación, y es propio de la naturaleza misma de la clasificación su tendencia a homogeneizar”. El resultado puede ser la uniformidad de gustos en el mercado o de creencias en la sociedad; en ningún caso la aceleración tecnológica parece tener aquella afinidad con el pluralismo que se imagina cuando confundimos todas esas ideas bajo el mismo título del progreso.

Como bien muestra este hecho, aquí hay alternativas que no siempre estamos dispuestos a enfrentar. Queremos abrazar el desarrollo tecnológico y la humanidad, pero estos dos deseos pueden entrar en tensión; queremos abrazar la tecnología y un régimen de amplias libertades, queremos tecnología y diversidad, pero estos sueños pueden chocar entre sí. Descansamos en la ilusión de una perfecta armonía entre los grandes ideales de nuestro discurso público, pero puede que en realidad estén en tensión. Aquí, una vez más, se nos plantea la pregunta sobre qué es el realismo. Este no solo exige tomar en cuenta las consecuencias indeseables de la utopía tecnológica prometida; también exige que dejemos caer la ilusión de una armonía espontánea entre la conquista técnica del mundo y las otras ideas fuerza del mundo moderno que decimos valorar y que, sin embargo, hoy están expuestas a tan palpables riesgos.

Manfred Svensson es investigador senior del IES y director del Instituto de Filosofía de la Universidad de los Andes (Chile). Es doctor en Filosofía por la Universidad de Múnich y autor de numerosos libros, entre los que destacan The Aristotelian Tradition in Early Modern Protestantism (Oxford: Oxford University Press, 2024) y Pluralismo (Santiago: IES, 2022). Su obra más reciente es El lugar de lo sagrado. Religión y vida pública en el Chile actual (Santiago: IES, 2026).