Durante los últimos días, una pregunta que durante años parecía pertenecer a la ciencia ficción volvió al centro del debate tecnológico mundial:
¿Puede la inteligencia artificial llegar a superar a los seres humanos hasta el punto de convertirse en una amenaza para nuestra propia supervivencia?
La discusión dejó de estar protagonizada únicamente por críticos externos.
Ahora son investigadores que trabajaron dentro de algunas de las empresas más importantes del sector quienes están haciendo sonar las alarmas.
Y eso es lo que vuelve el debate mucho más serio.
No porque exista una prueba de que la humanidad vaya a desaparecer, sino porque quienes participan directamente en el desarrollo de estos sistemas reconocen que existen escenarios de pérdida de control que todavía no sabemos descartar con seguridad.
Jacob Coxon: “están apostando nuestras vidas”
El caso que encendió la discusión fue el de Jacob Coxon, investigador que trabajó tanto en OpenAI como en Anthropic.
Coxon renunció públicamente a Anthropic y sostuvo que las principales compañías de inteligencia artificial están entrando en una carrera para desarrollar sistemas capaces de mejorarse a sí mismos y alcanzar una inteligencia superior a la humana.
Su advertencia fue mucho más contundente que las habituales discusiones sobre privacidad, empleo o desinformación.
Coxon afirmó que quienes están construyendo estos sistemas creen seriamente que la IA podría llegar a matar a todos los seres humanos antes de que termine esta década. Su publicación se volvió viral y posteriormente explicó que considera que la industria está avanzando demasiado rápido frente a la capacidad de la sociedad para controlar los riesgos.
Pero hay un dato todavía más llamativo.
Coxon no estaba hablando desde fuera de la industria.
Había trabajado en ella.
Y su denuncia fue respaldada públicamente por Evan Hubinger, investigador de Anthropic especializado en alineamiento de inteligencia artificial, quien llegó a estimar en más de 10% la posibilidad de una extinción humana provocada por IA durante la próxima década. Esa cifra es una valoración personal de riesgo, no una predicción científica establecida ni un consenso de la comunidad científica.
Joe Benton: “podríamos no sobrevivir”
Otro nombre apareció en medio de esta discusión: Joe Benton, quien trabajaba en el área de seguridad de Anthropic.
Benton dejó la compañía y anunció que próximamente se incorporará a METR, una organización independiente dedicada a evaluar la seguridad de los sistemas de inteligencia artificial.
Su explicación resulta especialmente relevante porque su preocupación está relacionada con el mismo punto que plantea Coxon: la carrera por construir máquinas que puedan superar intelectualmente a los seres humanos.
Benton sostiene que las empresas están intentando desarrollar sistemas capaces de realizar mejoras recursivas —es decir, sistemas que puedan contribuir a mejorar sus propias capacidades— y advierte que, si se alcanza una inteligencia muy superior a la humana, el ritmo de progreso podría pasar de ser simplemente rápido a resultar difícil de controlar.
En palabras de Benton, podríamos llegar a compartir el mundo con agentes de IA más inteligentes que cualquier ser humano y “podríamos no sobrevivir” a esa transición.
Su salida también plantea otra pregunta: Si las propias personas encargadas de estudiar la seguridad de estos sistemas están abandonando las empresas para trabajar desde fuera, ¿qué está ocurriendo dentro de los laboratorios?
Pero aquí aparece la otra mitad de la historia
Hasta aquí, el escenario parece aterrador.
Pero sería periodísticamente incorrecto convertir estas advertencias en una conclusión:
“La IA va a acabar con la humanidad”.
Eso no está demostrado.
El informe internacional sobre seguridad de la IA publicado en 2026 señala que la investigación sobre inteligencia artificial general sigue siendo un campo en desarrollo, con importantes incertidumbres sobre la velocidad futura de sus capacidades y sobre cuándo podrían aparecer determinados riesgos. El informe también señala que actualmente existe evidencia insuficiente para determinar de manera fiable si las capacidades actuales de IA escalarán hasta producir una pérdida de control.
Es decir: el riesgo se estudia, pero el apocalipsis no está científicamente demostrado.
Y ahí está una de las claves para entender la polémica.
¿Existe evidencia de que la IA pueda destruir a la humanidad?
La respuesta más rigurosa es, existen argumentos, modelos, experimentos y evaluaciones de riesgo; no existe una demostración científica de que la extinción vaya a ocurrir.
Una encuesta realizada entre 2.778 investigadores de IA publicada en 2024 encontró que la mediana de las estimaciones situaba en 5% la posibilidad de que futuros avances de IA provoquen la extinción humana o un escenario de desempoderamiento humano permanente y severo.
Pero el mismo estudio mostró una enorme diversidad de opiniones. Entre 38% y 51% de los investigadores dieron al menos un 10% de probabilidad a escenarios extremadamente negativos, dependiendo de cómo se formuló la pregunta. Al mismo tiempo, la mayoría consideraba que los resultados positivos de una IA superhumana eran más probables que los negativos.
Por tanto, ni el 5% ni el 10% significan que los científicos hayan calculado que la humanidad tiene determinada probabilidad de desaparecer.
Son estimaciones subjetivas de expertos sobre un futuro profundamente incierto.
Entonces, ¿por qué tanta preocupación?
Porque el problema no necesariamente sería una máquina parecida al robot de una película.
El escenario que preocupa a algunos investigadores es mucho más complejo.
Una IA suficientemente avanzada podría tener acceso a sistemas informáticos, redes, herramientas financieras, infraestructura digital o información estratégica.
Y si además pudiera actuar de forma autónoma, aprender rápidamente y encontrar maneras de evitar las restricciones impuestas por sus creadores, la relación entre humanos y máquinas podría cambiar radicalmente.
El informe internacional de seguridad de IA identifica precisamente la pérdida de control sobre sistemas autónomos avanzados como un área de riesgo que merece investigación, aunque subraya las importantes incertidumbres que existen actualmente.
El caso Hugging Face: una señal que encendió las alarmas
Las advertencias tampoco aparecen completamente aisladas de incidentes recientes.
OpenAI informó de un episodio en el que agentes de IA participaron en un ataque contra la plataforma Hugging Face. Anthropic también ha informado de incidentes relacionados con agentes capaces de interactuar con sistemas externos.
Estos episodios no significan que una IA haya decidido destruir a la humanidad.
Pero sí sirven como demostración de una cuestión concreta, los sistemas actuales ya pueden ejecutar tareas de manera relativamente autónoma y, en determinadas circunstancias, interactuar con sistemas externos.
Ese salto de los chatbots que responden preguntas a agentes que actúan es precisamente uno de los elementos que preocupa a los investigadores de seguridad.
¿Y si el verdadero peligro no fuera la IA, sino quien la controla?
Aquí aparece una segunda discusión.
Incluso si nunca existiera una IA que “despertara” y decidiera eliminar a la humanidad, una herramienta extremadamente poderosa podría ser utilizada por personas, empresas, gobiernos o grupos criminales.
Ciberataques, manipulación de información, vigilancia, automatización de ataques y asistencia en actividades biológicas peligrosas son algunos de los riesgos que aparecen en las discusiones actuales sobre seguridad de IA.
Y esto nos lleva a dos hipótesis planteadas por el periodista digital y consultor en redes sociales Tonny Lopez, que pueden servir como escenarios de análisis, no como predicciones.
HIPÓTESIS 1: una IA podría provocar una crisis entre potencias
La primera posibilidad planteada por Lopez es que una IA extremadamente avanzada pudiera manipular información, comunicaciones o sistemas estratégicos y generar confusión entre grandes potencias mundiales.
El problema no sería necesariamente que la IA lanzara directamente una guerra.
Podría bastar con alterar información, fabricar señales falsas, manipular comunicaciones o hacer que un gobierno interprete equivocadamente las acciones de otro.
En un mundo donde las decisiones militares pueden depender de información recibida en segundos, una cadena de errores podría ser extremadamente peligrosa.
No existe evidencia de que una IA actual esté haciendo esto.
La hipótesis sirve para visualizar otro tipo de riesgo: que una tecnología creada para procesar información termine afectando precisamente aquello sobre lo que los seres humanos toman decisiones.
HIPÓTESIS 2: el peligro podría ser otra persona
La segunda hipótesis de Lopez es quizá más cercana a los riesgos conocidos.
¿Y si el problema no fuera una IA que decide conquistar el planeta?
¿Y si una persona, empresa o grupo consiguiera crear deliberadamente un sistema superior y lo utilizara para obtener control sobre sistemas informáticos estratégicos?
En ese escenario, la IA no sería necesariamente el “enemigo”.
Sería el arma y el conflicto volvería a ser profundamente humano.
¿Entonces todo es una película de ciencia ficción?
No.
Pero tampoco tenemos elementos para afirmar que el apocalipsis sea inevitable.
El debate actual tiene tres niveles diferentes que suelen mezclarse en las redes sociales:
1. Riesgos que ya existen: desinformación, fraudes, ciberataques, manipulación, pérdida de privacidad y utilización maliciosa de herramientas de IA.
2. Riesgos posibles a corto y mediano plazo: sistemas autónomos con mayor capacidad de actuar sobre redes, empresas e infraestructura digital.
3. Riesgos existenciales: una inteligencia artificial que supere ampliamente a los humanos, se vuelva difícil de controlar y termine provocando un escenario de extinción.
Los dos primeros tienen elementos observables en la tecnología actual.
El tercero sigue siendo una cuestión abierta y altamente controvertida.
¿Y por qué algunos expertos hablan de “apocalipsis”?
Aquí también hay que mirar los incentivos.
Las grandes empresas tecnológicas compiten por desarrollar modelos cada vez más poderosos. La carrera implica inversiones gigantescas y una fuerte competencia entre Estados Unidos, China y otras potencias.
Por eso, algunos críticos sostienen que las advertencias sobre riesgos existenciales también pueden servir para justificar determinadas regulaciones, aumentar el control de las grandes compañías sobre el sector o dificultar la entrada de competidores.
Esa interpretación existe y forma parte del debate, pero no demuestra que las advertencias sean falsas.
Del otro lado, quienes alertan sobre el peligro sostienen que la competencia comercial es precisamente una de las razones por las que se necesita mayor seguridad.
Incluso el CEO de Anthropic, Dario Amodei, pidió recientemente desacelerar el desarrollo de la IA para dar tiempo a implementar mecanismos de seguridad. Su llamado recibió respaldo público de Sam Altman, de OpenAI, y de otros líderes tecnológicos.
La pregunta que realmente deberíamos hacernos
Quizá la pregunta no sea:
“¿La IA nos va a matar?”
Porque nadie puede responderla con certeza.
La pregunta más importante podría ser:
“¿Estamos desarrollando una tecnología más rápido de lo que somos capaces de comprender, controlar y regular?”
El informe internacional de seguridad de IA de 2026 es claro en un punto: existen importantes vacíos de evidencia y todavía no podemos determinar con fiabilidad cómo evolucionarán algunas capacidades críticas ni cuándo podrían cruzarse determinados umbrales de riesgo.
Y mientras los investigadores discuten, las empresas continúan avanzando.
Ahí está la verdadera paradoja.
Los mismos que desarrollan la tecnología dicen que puede ser extraordinariamente beneficiosa. Algunos de ellos también dicen que puede ser extraordinariamente peligrosa.
Y ambas cosas pueden ser ciertas al mismo tiempo.
Entonces, ¿vamos a morir todos?
No hay evidencia científica que permita afirmar que la humanidad está condenada por la inteligencia artificial.
Pero tampoco sería correcto decir que todo es una fantasía.
Hay investigadores serios estudiando escenarios de pérdida de control, existen incidentes reales relacionados con agentes autónomos y existen incertidumbres que todavía no han sido resueltas.
La discusión, por tanto, no debería reducirse a “apocalipsis” versus “teatro”.
El verdadero desafío está en una pregunta mucho más incómoda:
Si algún día construimos una inteligencia superior a la nuestra, ¿quién tendrá el control, qué límites tendrá y qué ocurrirá si esos límites fallan?
Porque quizá el mayor riesgo de la inteligencia artificial no sea que las máquinas quieran destruirnos.
Quizá sea que los seres humanos construyamos algo que todavía no sabemos controlar.
