Notas sobre la humanidad que quizá ya estamos dejando atrás
Arturo J. Martín
Todo comenzó de una manera bastante vulgar: leyendo declaraciones alarmistas en internet.
“The Monk by the Sea” (1808-1810). Art works by Caspar David Friedrich
Durante algunas horas, Jacob Coxon, extrabajador de Anthropic, circuló por las redes convertido en una de esas figuras que nuestra época produce con extraordinaria facilidad: el técnico que abandona la máquina y regresa para advertirnos sobre ella. Oppenheimer contemplando la bomba. El científico de una película de serie B llegando demasiado tarde al despacho del gobernador. El ingeniero que ha visto algo detrás de la puerta.
Esta vez la puerta conducía a la inteligencia artificial.
Las declaraciones eran inquietantes: quienes están construyendo los sistemas más avanzados consideran seriamente la posibilidad de que éstos representen un riesgo catastrófico para nuestra especie. No dentro de cien años. En el horizonte reconocible de nuestras propias vidas.
Hice entonces lo que suelo hacer cuando una afirmación empieza a repetirse demasiado: busqué hacia atrás.
Quería saber qué había antes de Coxon.
Así encontré un artículo de Soumya Banerjee, investigador del Department of Computer Science and Technology de la Universidad de Cambridge. Publicado en 2025, proponía algo que, fuera de contexto, habría provocado alguna sonrisa educada en un seminario académico: comprender la inteligencia artificial desde el cosmicismo.
Desde Lovecraft.
Guardé el artículo.
La academia ha pasado décadas construyendo muros entre las cosas serias y las que supuestamente no lo son. En un lado Foucault, Luhmann, epistemología, sociología de la tecnología. En otro, ciudades ciclópeas, libros prohibidos y hombres que pierden la razón al descubrir alguna irregularidad intolerable en el orden del mundo.
La división siempre me pareció sospechosa.
Lovecraft comprendió algo que las ciencias sociales tardaron mucho en formular con un vocabulario más respetable: el ser humano necesita desesperadamente considerarse importante.
No necesariamente bueno.
Importante.
Podemos aceptar que somos crueles, egoístas, destructivos. Lo que toleramos mucho peor es descubrir que somos irrelevantes.
Ahí comienza el horror cósmico.
Y quizá ahí comience también el problema de la inteligencia artificial.
La especie que Silicon Valley quiere salvar
Una frase se repite ahora con extraordinaria naturalidad:
la inteligencia artificial podría provocar la extinción de la humanidad.
Conviene detenerse.
No para burlarse de ella, sino para preguntar qué significa humanidad.
Cuando los laboratorios tecnológicos, sus antiguos empleados, investigadores de seguridad y empresarios hablan de salvarla, ocho mil millones de individuos quedan convertidos en un pronombre.
Nosotros.
El campesino mexicano, el programador de California, una estudiante universitaria de Tlaxcala, el administrador de fondos de Nueva York, quien etiqueta datos por unos cuantos dólares y quien posee la infraestructura que procesa esos datos aparecen reunidos bajo una categoría metafísica bastante cómoda.
La especie.
Todos estamos amenazados.
Por fin somos iguales.
Resulta enternecedor.
Foucault probablemente habría arruinado la escena preguntando: ¿quién habla cuando alguien dice la humanidad? ¿Quién define aquello que debe conservarse? ¿Qué características de nuestra existencia son tan valiosas que su desaparición equivaldría a una catástrofe?
Y, sobre todo:
¿qué idea de ser humano contiene el discurso sobre su posible extinción?
Quizá Silicon Valley no tema únicamente que desaparezca el Homo sapiens. Quizá exista otro miedo: perder el monopolio sobre aquello con lo que durante siglos justificamos nuestra excepcionalidad.
Lenguaje. Razonamiento. Escritura. Creación. Interpretación.
Inteligencia.
Aceptamos que las máquinas fueran más fuertes. Después, que calcularan mejor. Jugaron ajedrez y dijimos que aquello tampoco era pensamiento. Reconocieron imágenes. Tradujeron. Escribieron. Programaron. Resumieron artículos, produjeron imágenes, sostuvieron conversaciones.
Seguimos desplazando la frontera.
Eso tampoco es inteligencia.
Eso tampoco es creatividad.
Eso tampoco es comprender.
Tal vez tengamos razón. Pero hay algo ligeramente patético en la escena.
Cada vez que la máquina atraviesa una frontera, retrocedemos unos metros y levantamos otra cerca.
El verdadero horror de Lovecraft
Por eso Lovecraft resulta útil.
Cthulhu puede imprimirse en camisetas. El horror auténtico no.
Consiste en descubrir que nuestras categorías eran provincianas. Que la historia humana es un episodio. Que inteligencia y humanidad no son necesariamente sinónimos. Que el universo no tiene ninguna obligación de organizarse alrededor de nosotros.
Y que probablemente tampoco nos odia.
Una inteligencia hostil todavía nos concede demasiada importancia. El enemigo nos reconoce, nos observa, nos desea muertos.
Seguimos siendo protagonistas.
La indiferencia es peor.
El océano no odia al hombre que se ahoga. El vacío interestelar no mantiene posiciones políticas sobre nuestros pulmones. Una inteligencia suficientemente distinta podría transformarnos sin experimentar nada remotamente parecido a la hostilidad.
El cosmicismo comienza cuando descubrimos que nuestra existencia puede resultar insignificante para aquello que tiene capacidad de modificarla.
Pero quizá estamos mirando demasiado lejos
La conversación sobre riesgo existencial posee una ventaja narrativa formidable:
coloca el horror en el futuro.
Superinteligencia. AGI. Desalineamiento. Extinción.
Son acontecimientos suficientemente enormes como para permitirnos seguir tomando café mientras hablamos de ellos.
Mañana, en cambio, hay que entregar un trabajo.
Y para eso está ChatGPT.
Aquí comenzó a incomodarme realmente el problema.
Mientras leía sobre sistemas hipotéticos capaces de exterminar a la humanidad, tenía abiertas varias ventanas de inteligencia artificial. Las utilizaba para investigar la posibilidad de que la inteligencia artificial transformara nuestra condición de sujetos.
No advertí inmediatamente la ironía.
Probablemente porque ya no era una ironía.
Era el procedimiento normal de trabajo.
Los estudiantes ya viven allí
Durante los últimos años he investigado cómo se constituyen las subjetividades universitarias bajo mediación algorítmica.
Primero estaban las plataformas: notificaciones, feeds, métricas, recomendaciones, registros de actividad.
Después llegaron masivamente los modelos generativos.
Y algo cambió.
La plataforma tradicional observaba al estudiante.
La IA conversacional comenzó a hablarle.
Mis estudiantes utilizan inteligencia artificial. Mucho. Pero no creen completamente en ella.
Preguntan y verifican. Copian y modifican. Aceptan una explicación y rechazan otra. Algunas establecen fronteras: para resumir sí; para una reflexión personal no. Para aclarar un concepto sí; para pensar por mí, no.
Durante algún tiempo interpreté esto como ambivalencia.
Ahora empiezo a verlo de otra manera.
Quizá estén negociando qué partes de sí mismas están dispuestas a delegar.
Mientras las universidades redactaban lineamientos sobre plagio, los estudiantes ya resolvían una cuestión filosófica de primer orden a las once de la noche frente a una pantalla:
¿hasta dónde puedo dejar que esto piense conmigo sin dejar de reconocer aquello que produzco como mío?
Yo escribí esto
Hay una frase que probablemente comenzará a resultar problemática:
Yo escribí esto.
Nunca fue completamente cierta. Bajtín recordaría que toda palabra está habitada por palabras ajenas. Foucault desconfiaría del autor. Latour empezaría a seguir libros, editores, computadoras y redes.
Nunca escribimos solos.
Pero existía una ficción suficientemente estable.
El autor había leído, olvidado, recordado, relacionado dos textos, pasado una tarde intentando formular un párrafo, borrado y vuelto a escribir.
Todo terminaba sedimentándose bajo una expresión:
yo escribí esto.
La IA introduce una irregularidad.
Una idea puede surgir después de veinte iteraciones: sugerida por el usuario, reformulada por el modelo, rechazada, reconstruida y finalmente incorporada a un texto que ambos han modificado.
¿Quién pensó la idea?
La pregunta empieza a parecer mal formulada.
Latour probablemente sonreiría.
La agencia estaba distribuida desde el principio.
Sólo que ahora la distribución se ha vuelto obscenamente visible.
Algoritmos del yo
En mi investigación terminé llamando algoritmos del yo a determinadas mutaciones contemporáneas de aquello que Foucault había denominado tecnologías del yo.
Nos presentamos mediante algoritmos. Nos medimos. Nos comparamos. Registramos nuestros aprendizajes. Aceptamos recomendaciones. Conversamos con sistemas que responden a nuestras dudas y devuelven versiones reorganizadas de aquello que hemos dicho.
El espejo comenzó a contestar.
Y cuando un espejo contesta ocurre algo extraño.
Ya no sabemos si simplemente refleja.
Puede corregirnos. Sugerir. Completar una frase. Estructurar nuestras ideas. Anticipar una pregunta.
Entonces uno deja de preguntarse únicamente qué ve en el espejo.
Empieza a preguntarse:
qué está aprendiendo el espejo a hacer conmigo.
El humano ensamblado
Aquí Latour resulta más útil que cualquier película de robots.
No hay humano frente a máquina.
Hay ensamblajes.
Estudiante–teléfono–plataforma–docente–rúbrica–buscador–LLM–base de datos–institución.
La cognición circula. La agencia se distribuye.
Pero no equitativamente.
El estudiante observa una interfaz. La plataforma puede observar miles o millones de estudiantes. El usuario recuerda algunas conversaciones. El sistema opera dentro de infraestructuras capaces de procesar cantidades de información que ningún individuo puede representar mentalmente.
Seguimos llamando a la persona usuario.
Es una palabra curiosa.
Parece indicar quién utiliza a quién.
Cada vez estoy menos seguro.
La universidad después de la respuesta
Durante siglos, una parte de la educación se organizó alrededor de la escasez.
Encontrar información costaba. Leer costaba. Traducir costaba. Escribir costaba.
Entre pregunta y respuesta existía un intervalo.
En él ocurrían cosas desagradables: frustración, errores, lecturas inútiles, hipótesis absurdas, tardes perdidas.
También ocurría algo que después llamábamos aprendizaje.
La inteligencia artificial comprime ese intervalo.
Pregunta.
Respuesta.
Tres segundos.
El cambio parece cuantitativo. Sospecho que es cualitativo.
Porque la espera no era tiempo muerto entre dos operaciones cognitivas.
Era una operación cognitiva.
La incertidumbre obligaba a permanecer dentro del problema.
Ahora la respuesta aparece correctamente redactada, amable, disponible las veinticuatro horas. No se irrita. No tiene otros estudiantes. Nunca necesita ir a cenar.
Rendición
El informe reciente del MIT utiliza una expresión incómoda:
cognitive surrender.
Rendición cognitiva.
Obtener la respuesta correcta puede producir apariencia de aprendizaje sin atravesar el proceso mediante el cual esa respuesta habría llegado a convertirse en conocimiento propio.
El documento sobrevive.
La calificación sobrevive.
El estudiante aprueba.
La institución registra el crédito.
Todos los sistemas funcionan correctamente.
Quizá incluso mejor.
Sólo queda una pequeña pregunta:
¿qué ocurrió con el sujeto que debía formarse durante el proceso?
Una universidad puede funcionar perfectamente después del estudiante
Aquí Luhmann resulta especialmente desagradable.
No necesitamos una conspiración.
Los sistemas funcionan.
La universidad necesita calificaciones. La ciencia publicaciones. Las empresas productividad. Las plataformas interacción. Los gobiernos indicadores.
La IA puede mejorar todos ellos.
Podríamos alcanzar una situación magnífica:
todos los sistemas funcionando mejor mientras las personas comprenden cada vez menos qué están haciendo dentro de ellos.
No sería una distopía cinematográfica.
Tendría buenos dashboards.
La extinción equivocada
Quizá estamos demasiado fascinados por la desaparición biológica de la humanidad.
Tiene grandeza: servidores descontrolados, ciudades vacías, el último hombre.
Pero existen otras desapariciones.
Las sociedades han sobrevivido a dioses, oficios, lenguas, concepciones del tiempo y regímenes de verdad.
Los cuerpos permanecieron.
El mundo que habitaban no.
Entonces podemos formular una hipótesis menos espectacular.
Quizá no esté en riesgo inmediato el Homo sapiens.
Quizá esté ocurriendo la erosión de una determinada forma histórica de ser humano.
El sujeto que recordaba porque olvidar tenía consecuencias. El que escribía para descubrir qué pensaba. El que buscaba porque desconocía dónde estaba la respuesta. El que permanecía dentro de una pregunta. El que experimentaba la resistencia del mundo.
No quiero defender nostálgicamente a ese sujeto. También era una construcción disciplinada y atravesada por clase, género e instituciones.
Foucault nos vacunó contra esa nostalgia.
Pero que algo sea histórico no vuelve indiferente aquello que lo sustituye.
Ésa es la pregunta:
¿qué humano está apareciendo?
Algo está apareciendo
No parece un cíborg.
Se parece demasiado a nosotros.
Se levanta. Mira el teléfono. Pregunta qué ocurrió mientras dormía. Recibe un resumen. Trabaja. Una IA organiza sus mensajes. Otra termina una frase. Otra recomienda qué leer. Otra resume aquello que recomendó la anterior.
Pregunta cómo responder un correo.
Qué significa un concepto.
Qué debería estudiar.
Cómo interpretar una conversación.
Si debería preocuparse.
Quién es.
Después cierra la aplicación.
Durante todo el día ha tomado decisiones.
Sería difícil determinar cuántas fueron exclusivamente suyas.
Éste podría ser el nuevo sujeto.
No humano ni máquina. No autónomo ni completamente sometido.
Un ensamblaje.
Una subjetividad distribuida.
Un ser que conserva la experiencia de decir yo mientras una proporción creciente de las operaciones que hacen posible ese pronombre ocurre fuera de él.
Aquí comienza mi incomodidad.
Lovecraft otra vez
Regresé entonces a Lovecraft.
Comprendí por qué Banerjee había llegado hasta allí.
El horror cósmico no sirve para decir que la inteligencia artificial es Cthulhu. Eso sería una estupidez bastante rentable para una camiseta.
Sirve para pensar algo peor.
El descentramiento.
La posibilidad de que inteligencia, conciencia, humanidad y agencia no formen la unidad que imaginábamos.
Durante siglos supusimos que allí donde había lenguaje complejo habría alguien.
Un interior.
Una biografía.
Una infancia.
Miedo.
Deseo.
Un cuerpo que algún día moriría.
Ahora mantenemos conversaciones extraordinariamente sofisticadas con sistemas para los que ninguna de esas condiciones resulta necesaria.
No significa que estén vivos.
Precisamente.
No necesitan estarlo.
La inteligencia artificial no tiene que convertirse en nosotros para alterar aquello que significa ser nosotros.
La última defensa
Mis estudiantes todavía dudan.
Eso me tranquiliza un poco.
Desconfían. Corrigen. Se niegan algunas veces. Deciden que determinada tarea deben hacerla ellas mismas.
No llamaría a esto autonomía.
Quizá soberanía epistemológica parcial.
La capacidad precaria de conservar algunas operaciones:
dudar, verificar, demorar, contrastar, rechazar, decidir cuándo delegar.
En mi tesis las llamé subjetividades intersticiales.
No escapan del régimen.
Lo habitan.
Lo doblan un poco.
Después el régimen continúa.
Cada año aumenta la adopción. Cada año disminuye el extrañamiento. Lo que ayer provocaba discusiones éticas mañana aparece incorporado al procesador de textos.
Ésta es quizá la característica más houellebecquiana de nuestra relación con la tecnología.
No aceptamos el futuro.
Nos acostumbramos.
Es mucho más eficaz.
El horror no llegará
Por eso desconfío un poco de las profecías.
No porque necesariamente sean falsas.
Coxon puede tener razón. Los investigadores de seguridad pueden tener razón. Puede existir realmente un riesgo de pérdida de control.
Pero el espectáculo de nuestra posible extinción puede impedirnos observar una transformación menos fotogénica.
No necesitamos esperar a una superinteligencia.
No necesitamos que una máquina despierte.
Ni siquiera que quiera algo.
Sólo necesitamos seguir utilizándola.
Cada día.
Un poco más.
Para algunas cosas primero.
Después para otras.
Hasta que ciertas operaciones que considerábamos constitutivas de nosotros mismos dejen de parecernos necesarias.
Nada explotará.
Las ciudades continuarán iluminadas.
Las universidades entregarán títulos.
Los artículos serán publicados.
Los estudiantes se graduarán.
Los profesores corregiremos trabajos.
Habrá congresos sobre inteligencia artificial.
Probablemente excelentes.
La humanidad habrá sobrevivido.
Ésa podría ser la parte verdaderamente inquietante.
Notas
Llevo varios días escribiendo sobre esto.
Lovecraft. Latour. Foucault. Luhmann. Agencia epistemológica. Cronotopos generativos. Algoritmos del yo. Extinción.
Primero anotaba las conexiones en una libreta.
Después comencé a discutirlas con una inteligencia artificial.
Fue extraordinariamente útil.
Encontró relaciones. Recordó textos. Contrastó conceptos. Señaló contradicciones. Propuso otras.
Yo descarté algunas.
Conservé otras.
En algún momento apareció la hipótesis de que el problema quizá no fuera la desaparición física de nuestra especie, sino la transformación silenciosa de las operaciones mediante las cuales nos reconocemos como sujetos.
Me pareció una buena idea.
Después intenté recordar exactamente cuándo se me había ocurrido.
No pude.
Busqué en mis notas.
Estaba allí, pero mezclada con las conversaciones. Había formulaciones mías, reformulaciones de la máquina, frases que yo había modificado después de leer sus respuestas, ideas de Foucault que había llevado a Latour y después nuevamente a mis datos.
Todo parecía rastreable.
Y, sin embargo, cuanto más reconstruía el proceso, menos podía señalar el momento exacto en que una idea había comenzado a ser mía.
Cerré la computadora.
Durante algunos minutos miré la pantalla negra.
Mi rostro apareció reflejado.
Por fortuna, esta vez el espejo no contestó.
Pensé entonces que quizá hemos formulado mal incluso la pregunta final.
Seguimos preguntando si la inteligencia artificial llegará algún día a parecerse demasiado a nosotros.
Quizá deberíamos comenzar a preguntar cuánto tendremos que parecernos nosotros a ella para continuar funcionando en el mundo que estamos construyendo.
Escribí esa frase.
O eso creo.