Dra. Elsa Martínez Flores | La pregunta ya no es si la Inteligencia Artificial puede ser peligrosa, sino cuánto poder se le pueda entregar antes de descubrirlo demasiado tarde. Esta semana apareció un dato inquietante:
Anthropic detectó que usuarios vinculados con Yemen intentaron utilizar su modelo Claude para desarrollar tecnología avanzada de misiles y sistemas de guiado.
La IA todavía no decide por sí misma a quién atacar, pero ya entró en terrenos donde equivocarse puede costar vidas. Y aquí aparece la parte que muchos no alcanzan a dimensionar: el peligro no necesariamente comienza cuando una máquina decide destruir a la humanidad.
Puede comenzar mucho antes, cuando los seres humanos utilizan sistemas cada vez más poderosos para hacer más rápido aquello que antes requería especialistas, instituciones y controles. La tecnología no elimina el poder; lo concentra, lo acelera y puede ponerlo en manos de actores que antes no tenían acceso a él.
Por eso resultan incómodas las renuncias de investigadores que estuvieron dentro de esta industria. Jacob Coxon, ex investigador de Anthropic, dejó la empresa después de advertir sobre los riesgos de avanzar hacia sistemas mucho más poderosos sin comprender suficientemente cómo mantenerlos bajo control.
Bilal Chughtai, científico que trabajó en Google DeepMind, también renunció y expresó su temor de que una IA avanzada pudiera representar un riesgo existencial para la humanidad. Pero mientras algunos investigadores piden prudencia, la lógica geopolítica empuja en dirección contraria.
Estados Unidos no parece dispuesto a pisar el freno porque China avanza detrás; y esta nación tampoco tiene demasiados incentivos para detenerse mientras uno de los países más poderosos del mundo conserve ventaja.
El propio presidente de la Cámara de Representantes estadounidense, Mike Johnson, rechazó esta semana una prórroga sobre el desarrollo de IA bajo el argumento de que frenarse significaría ceder ventaja estratégica frente a Beijing.
Y ahí está quizá el verdadero problema sociológico: la Inteligencia Artificial se ha convertido en una nueva carrera armamentista, aunque muchas veces no la llamemos así. Antes las potencias buscaban acumular misiles, territorio o capacidad nuclear; ahora la disputa se centra en desarrollar modelos más inteligentes, rápidos y autónomos.
La carrera por la IA ocurre dentro de nuestras propias sociedades y sus efectos pueden cruzar fronteras en segundos. Una IA aplicada a armas, ciberataques o decisiones militares podría multiplicar el poder de gobiernos o pequeños grupos. El riesgo no está solo en la tecnología, sino en quién termina controlándola.
El peligro no está solamente en que la máquina escape de nuestro control; está en que nosotros construyamos una herramienta tan poderosa que después resulte imposible controlar quién la utiliza, para qué y hasta dónde puede llegar.
Por eso el debate sobre la IA no debería reducirse a si nos quitará empleos o si algún día podamos conversar con robots que parezcan humanos. La discusión de fondo es mucho más incómoda: ¿la carrera armamentista es el verdadero riesgo para la humanidad?
Mientras las potencias aceleran para no perder la carrera, quizá el mundo se dirige precisamente hacia aquello que más debería evitar: crear una tecnología cuyo poder avance más rápido que nuestra capacidad para controlarla, hasta el punto de que algún día una IA pueda interpretar que una nación representa un riesgo para otra y actuar en consecuencia.