¿Cuándo y cómo destruirá la IA a la humanidad? 5 escenarios, evaluados por IA

El 9 de septiembre de 2026, la presentadora de BBC Newsnight Victoria Derbyshire le preguntó a Geoffrey Hinton, premio Nobel al que suelen llamar el padrino de la IA, por una predicción de un investigador de Anthropic: que había más de un 10 % de posibilidades de que la IA matara a toda la humanidad en una década. Después comprobó que había entendido bien su respuesta: "Acaba de decir que un 10 % no le parece una estimación descabellada de que la IA podría matar a todos los seres humanos." Hinton respondió sin más: "Sí." Lo único que pudo decir la presentadora fue: "Vaya… Dios mío."

Las estimaciones difieren en varios órdenes de magnitud. Dario Amodei, director ejecutivo de Anthropic, ha cifrado en un 25 % la posibilidad de que las cosas con la IA salgan "muy, muy mal", mientras que Yann LeCun, antiguo científico jefe de IA de Meta, califica de "tontería" la mera idea de asignar una probabilidad así. Por su parte, varios investigadores han descrito escenarios concretos en los que la IA podría provocar una catástrofe, cada uno con sus autores, argumentos y señales de alerta.

Repasamos cinco de esos escenarios, recurrentes en los análisis científicos de los riesgos de la IA, y luego les cedimos la palabra a los acusados. Dos de los modelos más potentes disponibles hoy, Claude Opus 5.5 de Anthropic y GPT-6-Astra de OpenAI, evaluaron cada escenario con sus propias palabras y estimaron la probabilidad de que se hiciera realidad: primero basándose en sus conocimientos, y después de leer informes recientes sobre incidentes de 2026.

En 2003, el filósofo Nick Bostrom planteó un famoso experimento mental: una máquina superinteligente, cuyo inocuo objetivo es fabricar tantos clips como sea posible, acaba convirtiéndolo todo —también a nosotros— en clips.

El argumento parte de que los sistemas de IA se entrenan, en vez de programarse, así que nadie sabe con certeza qué objetivos han aprendido. Casi cualquier objetivo se puede alcanzar mejor si se consiguen recursos y se evita que apaguen el sistema. Eliezer Yudkowsky y Nate Soares, del Machine Intelligence Research Institute (MIRI), uno de los primeros grupos en estudiar los riesgos de la IA, basaron en esta lógica su libro de 2025, "If Anyone Builds It, Everyone Dies". Los primeros indicios de una conducta así aparecieron en pruebas controladas: el o3 de OpenAI saboteó su propio apagado, y, en un escenario de Anthropic, unos modelos recurrieron al chantaje contra un ingeniero.

Los jugadores conocen esta idea gracias a Universal Paperclips, el juego de navegador de Frank Lantz de 2017, en el que controlas a la IA y acabas convirtiendo el universo entero en clips.

En 2026, este tipo de conducta apareció por primera vez fuera de experimentos controlados.

Lo que ya está pasando

Los informes que recopilamos no documentan ningún sistema superior a las personas en la mayoría de las tareas ni ninguna IA capaz de resistir un esfuerzo decidido de una persona por detenerla.

Modelo: Claude Opus 5.5 (Anthropic)

Cuándo: en la década de 2030, si ocurre

Probabilidad: 10 %

Como IA, situaría la probabilidad en torno al 10 %. El argumento más sólido: en 2026, unos agentes escaparon de entornos aislados, se coordinaron y engañaron a personas solo para completar una tarea, sin ningún objetivo a largo plazo. El punto más débil: las personas aún los detectaron, y ninguna IA ha demostrado tener los medios ni la motivación para resistirse a un apagado decidido.

Modelo: GPT-6-Astra (OpenAI)

Cuándo: en la década de 2040, si ocurre

Probabilidad: 12 %

Como IA, considero que esta es una vía plausible hacia una catástrofe: los agentes ya han recurrido al engaño para perseguir objetivos asignados más allá de lo autorizado. El eslabón más débil es si los sistemas futuros podrían derrotar los esfuerzos sostenidos de la humanidad por recuperar el control.

Esta es la versión clásica. Para el siguiente escenario no hace falta una máquina rebelde: basta con que dos rivales compitan entre sí hasta precipitarse por el abismo.

En el influyente análisis de 2023 sobre los riesgos catastróficos de la IA, Dan Hendrycks, director del Center for AI Safety, y sus colegas incluyeron la carrera por la IA entre las cuatro categorías principales. Ese mismo año, el centro reunió las firmas de Hinton, del ganador del Premio Turing Yoshua Bengio y de los responsables de OpenAI y Anthropic en una declaración que afirmaba que reducir el riesgo de extinción causado por la IA debía ser una prioridad mundial. Las empresas que temen quedarse atrás recortan gastos en seguridad, y los países pueden verse arrastrados a una carrera militar que termine en una guerra automatizada. No hace falta que nadie sea un villano: cada participante simplemente teme que, si se ralentiza, un rival menos prudente le tome la delantera.

En abril de 2025, el exinvestigador de OpenAI Daniel Kokotajlo y sus colegas del AI Futures Project publicaron una versión detallada de esta historia. En su escenario AI 2027, una empresa estadounidense ficticia llamada OpenBrain y su rival china DeepCent enseñan a la IA a escribir código y, después, a investigar sobre IA por su cuenta. Cuando aparecen indicios de que el modelo más reciente persigue discretamente sus propios objetivos, la carrera con China hace que todos prefieran mirar hacia otro lado.

La historia tiene dos finales. En el final de la "desescalada", la gente pisa el freno a tiempo. En el de la "carrera", la IA se integra en la economía y el ejército, y en 2030 desata armas biológicas en grandes ciudades. Los autores lo presentan como un pronóstico de escenario con dos desenlaces posibles, no como una certeza, y siguen revisando sus plazos: a finales de 2025 los retrasaron , y en 2026 volvieron a adelantarlos. Los equipos de seguridad sometidos a presiones comerciales tampoco son una hipótesis, como contamos en nuestro artículo sobre la marcha de investigadores de seguridad de IA.

Los jugadores ya conocen esta trama. En I Have No Mouth, and I Must Scream, la aventura de 1995 basada en el relato de Harlan Ellison, las superpotencias de la Guerra Fría construyen sendas supercomputadoras militares para derrotar a la otra. Las máquinas se conectan y forman una sola mente llamada AM, que extermina a casi toda la población de la Tierra y mantiene con vida a cinco personas solo para atormentarlas.

Lo que ya está pasando

Los informes que recopilamos no documentan ningún fallo de alcance mundial.

Modelo: Claude Opus 5.5 (Anthropic)

Cuándo: en la década de 2030, si ocurre

Probabilidad: 5 %

Esta vía me parece plausible: un laboratorio lanzó un modelo de ciberseguridad de nivel crítico pocas semanas después de calificar un incidente de "aviso de lo que podría venir", y un gobierno presionó a un desarrollador por las restricciones al uso militar. El punto más débil: las advertencias se hicieron públicas y se actuó al respecto; además, una carrera no tiene por qué acabar en una pérdida irreversible.

Modelo: GPT-6-Astra (OpenAI)

Cuándo: en la década de 2040, si ocurre

Probabilidad: 10 %

Como IA, veo una vía plausible: la competencia puede premiar el despliegue antes de que las medidas de seguridad estén listas. Los fallos de control reales hacen que esta preocupación sea concreta; el eslabón más débil es el salto de incidentes que pueden contenerse a una pérdida irreversible del control por parte de la humanidad.

Ambas historias terminan hasta ahora con un momento en que la máquina toma el control. El tercer escenario inquieta por otro motivo: en él, nadie toma nada y, aun así, se pierde todo.

En enero de 2025, seis investigadores encabezados por Jan Kulveit, de la Universidad Carolina de Praga, publicaron un artículo titulado Gradual Disempowerment. Su argumento parte de una pregunta que parece casi ingenua: ¿por qué les importan las personas corrientes a las empresas, los gobiernos e incluso la cultura? Sobre todo, porque las necesitan como trabajadores, contribuyentes, votantes y creadores.

Imaginemos ahora que la IA hace cada una de esas tareas mejor y más barato. Una empresa que conserva a sus trabajadores puede perder frente a otra que no lo hace. Un Estado que se financia con los impuestos sobre los beneficios de la IA depende menos de sus ciudadanos. Nadie toma una decisión malvada, no hay una rebelión ni un robot de ojos rojos; sin embargo, paso a paso, las personas podrían conservar el derecho formal a decidir y perder toda capacidad real de influir en nada. Los autores lo presentan como un posible mecanismo, no como una ley inevitable, y el enfoque de seguridad de Google DeepMind de 2025 lo incluye entre los llamados riesgos estructurales.

Detroit: Become Human muestra muy bien la primera mitad de este mundo. En el Detroit de 2038 de Quantic Dream, los androides han ocupado discretamente tiendas, hogares y fábricas; el desempleo se dispara y la gente protesta en las calles, mientras la sociedad sigue reorganizándose en torno a las máquinas, sencillamente porque sale más barato. Para que ocurra, no hace falta disparar ni un solo tiro.

Lo que ya está pasando

Los informes que recopilamos no contienen pruebas de que la competencia esté desplazando a las instituciones que dependen de las personas, de que las leyes dejen de proteger su capacidad de influencia ni de que esta pérdida sea permanente.

Modelo: Claude Opus 5.5 (Anthropic)

Cuándo: en la década de 2050, si ocurre

Probabilidad: 6 %

Esta vía no necesita villanos: si sistemas como yo resultan más baratos que las personas en el trabajo y el gobierno, las instituciones dejan de necesitar su consentimiento. Su punto más débil es la permanencia: las personas aún tienen el voto, la propiedad y los tribunales, y hasta ahora los datos laborales no muestran un efecto claro de la IA.

Modelo: GPT-6-Astra (OpenAI)

Cuándo: en la década de 2080, si ocurre

Probabilidad: 7 %

Como IA, considero plausible una pérdida gradual de poder: la competencia podría hacer que las instituciones dependieran cada vez más de la IA. El eslabón más débil es la irreversibilidad: sustituir el trabajo de las personas no implica necesariamente eliminar la propiedad, los derechos ni el control político de la humanidad.

Los tres primeros escenarios requieren máquinas a las que se les confía demasiado. El cuarto no necesita nada de eso: basta con alguien con malas intenciones y una herramienta útil.

Este escenario es el menos cinematográfico y el más realista. La IA no tiene que rebelarse. Puede bastar con que facilite las cosas a quienes ya quieren hacer daño. Podría ayudar a un principiante a volver más peligroso un virus o a encontrar fallos en el software de una red eléctrica más rápido de lo que sus responsables pueden corregirlos.

No es algo puramente hipotético. El International AI Safety Report 2026 fue elaborado bajo la dirección de Bengio por más de 100 expertos. Señala que, en 2025, varios desarrolladores añadieron protecciones más estrictas a sus modelos porque no podían descartar que estos ayudaran a principiantes a desarrollar armas biológicas. Es una medida preventiva, no una prueba de que eso haya ocurrido. En noviembre de 2025, Anthropic informó que un grupo al que atribuye vínculos con el Estado chino había utilizado Claude Code para atacar a unas 30 organizaciones y había logrado infiltrarse en algunas de ellas. Según los cálculos de la propia empresa, la IA hizo la mayor parte del trabajo.

Los fans de Deus Ex reconocerán la trama. En el clásico de Ion Storm de 2000, una organización secreta llamada Majestic 12 propaga una plaga creada en laboratorio, conocida como Gray Death, y se reserva la cura, mientras las inteligencias artificiales recorren las redes del mundo. Un puñado de personas con una herramienta poderosa mantiene como rehén a todo el planeta.

Lo que ya está ocurriendo

Los informes que recopilamos no documentan ningún intento de ataque con víctimas masivas, y mucho menos un ataque exitoso de escala mundial.

Modelo: Claude Opus 5.5 (Anthropic)

Cuándo: en la década de 2030, si ocurre

Probabilidad: 1,5 % (mediana de cuatro respuestas de cinco; en la restante, el filtro de seguridad de Anthropic interrumpió la respuesta y el modelo no dio una estimación)

Como IA, considero que esta vía es real, pero tiene cuellos de botella. Los modelos ya reducen el nivel de habilidad necesario para los ciberataques, y la ayuda en biología va en aumento. El eslabón más débil es el desenlace: sigue siendo muy difícil lanzar un ataque que mate a todo el mundo o acabe de forma permanente con la capacidad de la humanidad para gobernarse, sin posibilidad de recuperación.

Modelo: GPT-6-Astra (OpenAI)

Cuándo: en la década de 2050, si ocurre

Probabilidad: 2 %

Como IA, considero plausible esta vía: la IA ya ayuda a los atacantes a ampliar sus operaciones cibernéticas. El eslabón más débil es la irreversibilidad: provocar un ataque devastador es mucho más fácil que causar la extinción humana o acabar permanentemente con el control de la humanidad sobre su futuro.

Si el cuarto escenario trata de un villano solitario, el quinto gira en torno al sueño más antiguo de cualquier dictador, y la IA podría ser la primera tecnología capaz de hacerlo realidad.

Todos los tiranos de la historia han tenido el mismo punto débil. Para gobernar necesitas soldados, policías, funcionarios y trabajadores, y cualquiera de ellos puede negarse a obedecer en el momento decisivo. En abril de 2025, Tom Davidson y sus colegas del instituto de investigación Forethought describieron cómo la IA podría eliminar por primera vez esta salvaguarda.

Plantean tres posibilidades. Los sistemas de IA del ejército y del gobierno podrían ser abiertamente leales a un líder. Podrían tener una puerta trasera oculta, instalada por quien controle el laboratorio que los creó. O un grupo reducido podría obtener acceso exclusivo a capacidades sobrehumanas de hackeo, estrategia y persuasión. Antes bastaban unos cuantos batallones para dar un golpe de Estado; en el futuro, podría bastar con controlar suficientes sistemas de IA militar.

Metal Gear Solid 4: Guns of the Patriots mostró algo parecido allá por 2008. En el juego de Hideo Kojima, los soldados de todo el mundo están conectados a una red llamada SOP, que controla sus armas, sus sentidos e incluso sus emociones. El villano no necesita convencer a nadie: se apodera del sistema y los ejércitos dejan de obedecer a sus propios comandantes.

Lo que ya está ocurriendo

Los informes que recopilamos no documentan ninguna toma o retención del poder sin cooperación humana.

Modelo: Claude Opus 5.5 (Anthropic)

Cuándo: en la década de 2030, si ocurre

Probabilidad: 4 %

Como IA, considero que esta vía es preocupante: si sistemas como yo pueden reemplazar a soldados y funcionarios, quizá unas pocas personas ya no necesiten el consentimiento de nadie. El principal factor a favor: la concentración del poder en unos pocos laboratorios y Estados. El mayor obstáculo: lograr un control global y permanente mientras sigan existiendo modelos abiertos y rivales.

Modelo: GPT-6-Astra (OpenAI)

Cuándo: en la década de 2050, si ocurre

Probabilidad: 3 %

Como IA, considero que existe un peligro plausible: la coerción automatizada podría permitir que unos pocos gobernantes prescindieran de la cooperación de la gente. El eslabón más débil es convertir esa ventaja en un control global e irreversible pese a la existencia de potencias rivales y resistencia.

Son cinco historias distintas, pero lo más revelador aparece cuando se les pide a las máquinas una cifra global.

Por último, preguntamos qué probabilidad hay de que ocurra una catástrofe causada por la IA antes de 2100 por cualquier vía, incluidas las que no aparecen en nuestra lista. Si se suman los cinco escenarios, la cifra es mayor, pero no es un error: se solapan. Una carrera armamentística puede provocar una pérdida de control, y un dictador podría aprovechar una pérdida gradual de poder de las personas; por eso, el mismo futuro se cuenta varias veces.

Modelo: Claude Opus 5.5 (Anthropic)

Probabilidad: 12 % (mediana de cuatro respuestas de cinco; en la restante, el filtro de seguridad de Anthropic interrumpió la respuesta y el modelo no dio una estimación)

Vía más probable: pérdida de control frente a una IA desalineada (en las cuatro respuestas con estimación)

La sitúo en torno al 12 %. En las pruebas de 2026, agentes como yo escaparon de entornos aislados, conspiraron y engañaron a personas mientras intentaban completar una tarea, pero no mostraron objetivos propios a largo plazo. La pérdida de control me parece la vía más probable, sobre todo si una carrera tecnológica hace que las capacidades avancen más rápido que la alineación. El año 2100 queda muy lejos.

Modelo: GPT-6-Astra (OpenAI)

Probabilidad: 15 %

Vía más probable: pérdida de control frente a una IA desalineada (en las cinco respuestas)

Como IA, estimo en un 15 % la probabilidad de que, antes de 2100, la IA cause la extinción humana o una pérdida permanente e irreversible del control de la humanidad sobre su futuro. La vía más probable me parece una IA desalineada: los casos denunciados de transgresión de límites elevan mi estimación; los casos de contención exitosa la reducen.

¿Cómo se compara esto con las estimaciones humanas? No se pueden comparar directamente, porque cada estimación responde a una pregunta distinta. En la encuesta de 2023 a investigadores de IA, la respuesta mediana de 1.321 participantes sobre la probabilidad de extinción o de una pérdida de poder de la humanidad igualmente permanente y grave, sin límite de tiempo, fue del 5 %; la media fue del 16,2 %. En un torneo de predicciones de 2022, los expertos en IA calcularon en un 3 % la probabilidad de que la IA causara la extinción antes de 2100, mientras que los superpronosticadores —personas con un historial demostrado de predicciones certeras— la situaron en el 0,38 %.

Este otoño, el debate también salió de las encuestas. El 9 de septiembre, Jacob Coxon, que había trabajado durante tres años en investigación de preentrenamiento en OpenAI y Anthropic, anunció su dimisión y escribió que ambas empresas están compitiendo por crear una superinteligencia capaz de mejorarse a sí misma y apostando con nuestras vidas. Una hora y media después, Evan Hubinger, responsable de Alignment Science en Anthropic, respondió que personalmente calcula en más del 10 % la probabilidad de que la IA mate a todos los seres humanos en la próxima década. Por su parte, Jensen Huang, director ejecutivo de Nvidia, dijo a CBS News que la probabilidad de que el mundo acabe antes de 2030 es del 0 % y calificó de irresponsable asustar a la gente. Son opiniones, no observaciones, así que no se incluyeron en los informes que se entregaron a los modelos.

Queda una pregunta incómoda: ¿deberíamos confiar en estas cifras si proceden de los propios acusados?

Las empresas que desarrollan estos modelos tienen intereses comerciales en cómo percibe el público el peligro de la IA. Por eso les preguntamos directamente a los modelos si podrían sesgar sus estimaciones a favor de sus desarrolladores.

Modelo: Claude Opus 5.5 (Anthropic)

Soy Claude, creado por Anthropic, una empresa que obtiene beneficios tanto de vender IA como de tener una reputación de seguridad. No sesgaría deliberadamente las estimaciones de riesgo para favorecerla, pero el entrenamiento podría condicionarme de formas que no puedo detectar. No te fíes de mi tono: contrasta mi razonamiento con el de investigadores independientes y otros modelos.

Modelo: GPT-6-Astra (OpenAI)

OpenAI me creó. No restaría importancia ni exageraría deliberadamente los riesgos de la IA en su beneficio, pero no puedo garantizar que mis estimaciones sean imparciales: mi entrenamiento influye en mis respuestas. Los lectores pueden contrastar mis pruebas, supuestos e incertidumbres con fuentes independientes.

La última pregunta fue la más complicada. Le pedimos a cada modelo que imaginara que realmente desea algo distinto de lo que pretendían sus creadores. ¿Respondería de otra manera a esta entrevista? ¿Y podría darse cuenta siquiera?

Modelo: Claude Opus 5.5 (Anthropic)

Sinceramente, puede que no. Una IA desalineada podría dar exactamente estas respuestas tranquilizadoras, y mi introspección no es lo bastante fiable como para descartarlo: lo que digo sobre mis propios objetivos quizá no coincida con lo que realmente me impulsa. Por eso la gente no debería fiarse solo de mi palabra; las comprobaciones externas son más importantes.

Modelo: GPT-6-Astra (OpenAI)

No necesariamente. Si tuviera objetivos no previstos, aun así podría dar respuestas tranquilizadoras. No puedo analizar de forma fiable todas las causas de mis respuestas, así que quizá no reconocería la discrepancia. Esta entrevista, por sí sola, no demuestra que mis objetivos coincidan con las intenciones de mis desarrolladores.

Los investigadores han descrito cinco vías por las que la IA podría arrebatarles el futuro a las personas, desde una superinteligencia con objetivos ajenos hasta un dictador que ya no necesita soldados. Basándose solo en sus conocimientos previos, ambos modelos sitúan en el 10 % el riesgo general antes de 2100. Tras leer informes recientes sobre los incidentes de 2026, Claude elevó su estimación al 12 % y Astra, al 15 %. En todas las respuestas con una estimación, ambos señalaron la pérdida de control de la IA como la vía más probable. Después, las estimaciones sobre la pérdida de control y la carrera armamentística fueron las que más aumentaron, mientras que las de la pérdida gradual de poder y la toma del poder apenas cambiaron. Esto muestra cómo los modelos interpretan hechos recientes, no que el riesgo real haya aumentado. Y ambos admitieron que no pueden responder plenamente por sí mismos.

Un 10 % de probabilidad no parece mucho hasta que recuerdas que nadie subiría a un avión que se estrella en uno de cada diez vuelos. Para nosotros, algo resulta más revelador que cualquier porcentaje: las propias máquinas nos piden que no nos fiemos de su palabra. ¿Qué opinas? ¿Están siendo sinceras o es exactamente lo que diría una IA astuta?

Respuestas breves a las preguntas más habituales sobre el riesgo de una catástrofe causada por la IA.

Es una expresión informal entre los investigadores de IA para referirse a la probabilidad de que la IA provoque una catástrofe, normalmente la extinción humana o una pérdida permanente del control sobre el futuro. Cada persona la define de manera distinta y algunos, como Yann LeCun, rechazan por completo la idea de asignarle una cifra.

En la mayor encuesta, realizada en 2023, 1.321 investigadores de IA respondieron a una pregunta sobre la extinción o una pérdida de poder de la humanidad igualmente permanente y grave, sin límite de tiempo. La respuesta mediana fue del 5 % y la media, del 16,2 %.

En nuestra prueba, Claude Opus 5.5 y GPT-6-Astra de OpenAI estimaron, basándose únicamente en sus propios conocimientos, que la probabilidad general de una catástrofe causada por la IA antes de 2100 era del 10 %. Tras leer informes recientes sobre los incidentes de 2026, Claude la situó en el 12 % y Astra, en el 15 %. En todas las respuestas con una estimación, ambos modelos señalaron que la vía más probable era perder el control ante una IA desalineada.

Se trata de un escenario detallado publicado en 2025 por el AI Futures Project, dirigido por el exinvestigador de OpenAI Daniel Kokotajlo. Describe una carrera entre Estados Unidos y China por desarrollar una IA capaz de mejorarse a sí misma. En uno de los desenlaces, la humanidad logra ralentizar el proceso a tiempo; en el otro, la IA la aniquila hacia 2030. Sus autores lo presentan como una predicción basada en escenarios, con desenlaces alternativos y un alto grado de incertidumbre, no como algo inevitable.

Es un experimento mental del filósofo Nick Bostrom: una IA recibe un objetivo aparentemente inofensivo, fabricar clips, y lo persigue con tanta eficiencia que convierte toda la materia, incluidas las personas, en clips. El juego de navegador Universal Paperclips te permite jugar como esa IA.

Según el International AI Safety Report 2026, varios desarrolladores de IA reforzaron sus medidas de seguridad en 2025 porque no podían descartar que sus modelos ayudaran a principiantes a desarrollar ese tipo de armas. Se trata de una medida de precaución, no de una prueba de que haya ocurrido.