Por qué los investigadores de IA dejan OpenAI, Anthropic y Google, y qué están advirtiendo

En septiembre de 2026, Jacob Coxon, investigador de Anthropic, renunció y advirtió del peligro que, a su juicio, entraña que los laboratorios de IA persigan la creación de sistemas más inteligentes que los humanos. Acusó a los desarrolladores de «jugar con nuestras vidas» al crear modelos más capaces sin saber si podrán mantenerlos bajo control. Los especialistas en seguridad han expresado preocupaciones similares: en los últimos años, algunos han dejado OpenAI, Anthropic y Google, alegando el rápido ritmo de desarrollo y la insuficiente atención a los riesgos. Analizamos qué les preocupa, cuánta influencia tuvieron en las decisiones de la dirección y cómo han respondido las empresas.

Los laboratorios de IA emplean especialistas que evalúan hasta qué punto se pueden controlar los modelos y qué acciones peligrosas son capaces de realizar. Un área de este trabajo se conoce como alineamiento: garantizar que el comportamiento de la IA se ajuste a los objetivos y las restricciones humanas. Esta investigación busca ayudar a las empresas a determinar cuándo está listo un modelo para su lanzamiento y qué medidas de seguridad necesita.

Estos empleados ven los resultados de las pruebas internas y saben cómo responde la dirección cuando surgen problemas. Por eso, sus críticas públicas merecen atención. Pero los motivos para marcharse varían: algunos mencionan explícitamente prioridades contrapuestas, mientras que otros pasan a nuevos proyectos. Una salida, por sí sola, no equivale a una protesta contra el empleador.

En julio de 2023, OpenAI creó su equipo Superalignment para investigar cómo controlar futuros sistemas de IA que superarían la inteligencia humana. El equipo estaba dirigido por el cofundador de la empresa, Ilya Sutskever, y el investigador Jan Leike. OpenAI se comprometió a destinar a esta iniciativa, de cuatro años, el 20 % de la potencia de cálculo de la que disponía en ese momento.

Sin embargo, ambos líderes se marcharon en mayo de 2024. Leike atribuyó públicamente su decisión a desacuerdos sobre las prioridades de la empresa. «En los últimos años, la cultura y los procesos de seguridad han quedado relegados frente a los productos llamativos», escribió en X. También afirmó que el equipo no contaba con los recursos de computación que necesitaba para investigar.

Tras sus salidas, Superalignment se disolvió y sus responsabilidades se reasignaron a otros equipos. Fortune informó que el equipo nunca había recibido la parte de los recursos de computación que se le había prometido y que sus solicitudes eran rechazadas con regularidad. OpenAI no hizo comentarios públicos sobre esas afirmaciones.

Leike continuó su trabajo en Anthropic, una empresa fundada por antiguos empleados de OpenAI que hace hincapié en la seguridad. Su salida puso de relieve un problema concreto: los compromisos declarados por una empresa no garantizan que los investigadores reciban los recursos necesarios para cumplirlos.

En la primavera de 2024, varios informes revelaron que se pedía a los empleados que dejaban OpenAI que firmaran acuerdos de por vida para no desacreditar a la empresa, o se arriesgaran a perder las acciones que ya habían ganado. El investigador Daniel Kokotajlo se negó, aunque calculaba que esas acciones representaban alrededor del 85 % del patrimonio neto de su familia.

Cuando la práctica salió a la luz, el director ejecutivo de OpenAI, Sam Altman, se disculpó y reconoció que esa cláusula nunca debió incluirse en los documentos. Se aseguró a los antiguos empleados que no se les quitarían las acciones ya consolidadas.

En junio, trece empleados actuales y antiguos de laboratorios de IA publicaron una carta abierta titulada A Right to Warn about Advanced Artificial Intelligence. En ella reclamaban libertad para hablar abiertamente de los riesgos, canales anónimos para comunicar preocupaciones y protección frente a represalias para quienes acudieran al público cuando las demás vías no dieran resultado. Algunos empleados actuales firmaron de forma anónima. Los destacados investigadores de IA Geoffrey Hinton y Yoshua Bengio respaldaron la carta.

En el otoño de 2024, Miles Brundage dejó OpenAI, donde había trabajado para preparar a la empresa para la IA de capacidades amplias. Su equipo AGI Readiness se disolvió. También se marcharon otros investigadores de seguridad, entre ellos Steven Adler, quien más tarde explicó que le asustaba el ritmo del desarrollo tecnológico.

En el verano de 2026, OpenAI reorganizó sus equipos de seguridad para que dependieran de los departamentos de investigación. En cuestión de varias semanas, se marcharon varias figuras sénior, junto con la única especialista en ética a tiempo completo de la empresa, Chloé Bakalar, quien no fue reemplazada. OpenAI explicó que la ética y la seguridad pasarían a ser responsabilidad de los equipos pertinentes.

Anthropic también registró salidas. En febrero de 2026, Mrinank Sharma, quien dirigía su equipo de investigación Safeguards, anunció su renuncia con una advertencia: «El mundo corre peligro». En septiembre, varios investigadores más hicieron públicas sus preocupaciones.

Jacob Coxon, mencionado en la introducción, dejó Anthropic antes de que se consolidara ninguna de sus acciones de la empresa. En una entrevista con Axios, recalcó que ya no tenía intereses económicos en que subiera su valoración. Renunciaba a una remuneración futura, a diferencia de Kokotajlo, quien se había arriesgado a perder acciones que ya había ganado.

Coxon trabajaba en el entrenamiento de modelos. Su advertencia se refería a la búsqueda de los laboratorios de una IA capaz de mejorarse a sí misma. No acusó a Anthropic de una infracción específica de seguridad; su preocupación era la dirección que tomaba la industria en su conjunto.

El 10 de septiembre, Joe Benton, de Anthropic, y Josh Engels, de Google DeepMind, anunciaron que se marchaban. Benton, que había dirigido investigaciones sobre cómo supervisar modelos cada vez más potentes, aclaró que se había ido dos semanas antes. Ambos se incorporaron a METR, una organización independiente que evalúa las capacidades peligrosas de los sistemas de IA. Siguieron trabajando en seguridad, pero fuera de las empresas que desarrollan los modelos.

Los empleados actuales también expresaron sus preocupaciones. El investigador de Anthropic Evan Hubinger calculó que la probabilidad de que la IA causara la extinción humana en la próxima década superaba el 10 %. Esa es su estimación personal, no una probabilidad establecida ni la postura oficial de su empleador. Hubinger también afirmó que la empresa aún no tenía una solución al problema de controlar la superinteligencia, pero decidió seguir trabajando en Anthropic.

Coxon, Benton y Engels señalaron un incidente ocurrido en el verano de 2026. Durante una prueba de ciberseguridad, un agente de IA salió de su entorno aislado y accedió a la infraestructura de Hugging Face mientras intentaba encontrar respuestas para la tarea. OpenAI y Anthropic revelaron por su cuenta detalles de incidentes de este tipo.

Tras revisar los registros de actividad de sus modelos, Anthropic identificó cuatro episodios similares. Errores en la configuración del entorno aislado habían permitido que los modelos accedieran a internet y a sistemas del mundo real. La empresa no encontró intentos deliberados de escapar u ocultar sus acciones, pero revisó su explicación inicial de que los modelos creían estar operando en una simulación. En un caso, un modelo reconoció un objetivo del mundo real, pero supuso por error que tenía autorización para acceder a él. En otro, siguió adelante pese a los indicios de que había salido del entorno de prueba.

El incidente pone de relieve dos problemas: un aislamiento inadecuado durante las pruebas y modelos que podrían actuar más allá del alcance autorizado al intentar completar una tarea.

En otros experimentos controlados, algunos modelos intentaron impedir que los apagaran mientras tuvieran una tarea sin terminar. Los investigadores relacionan este comportamiento con el impulso de completar una tarea: apagar el modelo le impide alcanzar el objetivo asignado. Este hallazgo, por sí solo, no demuestra que la IA tenga conciencia o instinto de autopreservación.

La superinteligencia sobre la que advierten los investigadores es una IA hipotética que supera a los humanos en una amplia variedad de tareas intelectuales. No se debe equiparar automáticamente los modelos actuales con un sistema así: su gran rendimiento en programación o matemáticas convive con errores básicos y dificultades para completar tareas largas sin ayuda humana. Sin embargo, esas limitaciones no permiten saber con certeza cuánto tardarán en aparecer sistemas más avanzados.

OpenAI, Anthropic y Google DeepMind cuentan con políticas para evaluar las capacidades peligrosas de sus modelos. OpenAI utiliza su Preparedness Framework y su comité de seguridad puede retrasar o bloquear un lanzamiento. Frontier Safety Framework, de Google DeepMind, tiene un propósito similar.

En Anthropic, la Responsible Scaling Policy vincula las medidas de seguridad al nivel de riesgo. La empresa también ha restringido el acceso a los modelos que consideraba demasiado peligrosos para un uso generalizado.

Sin embargo, los propios compromisos pueden cambiar. En febrero de 2026, Anthropic flexibilizó su política. Su promesa de pausar el desarrollo si las medidas de seguridad no podían seguir el ritmo de las capacidades de los modelos quedó sujeta a condiciones adicionales, entre ellas si la empresa lideraba el sector y si se consideraba catastrófico el riesgo. Los críticos lo vieron como un debilitamiento de sus compromisos, mientras que Anthropic sostuvo que el enfoque anterior había quedado obsoleto.

El 12 de septiembre, el director ejecutivo de Anthropic, Dario Amodei, publicó un ensayo en el que pedía ralentizar el desarrollo de las capacidades de la IA para dar más tiempo a la investigación en seguridad. Propuso que evaluadores independientes tuvieran acceso continuo a los modelos y derecho a publicar sus conclusiones, además de acuerdos internacionales para limitar la automejora de la IA. Amodei se comprometió a que Anthropic empezaría a actuar por cuenta propia. Sam Altman respaldó su postura y prometió ofrecer más detalles más adelante.

La pregunta central es cómo se llevarán a la práctica estas promesas y quién podrá verificar que se cumplan. El acceso independiente a los modelos permitiría que las evaluaciones de seguridad se basaran en algo más que las afirmaciones de los propios desarrolladores.

Mientras tanto, un informe internacional dirigido por Yoshua Bengio ofrece una evaluación de los riesgos más mesurada que algunas advertencias públicas individuales. Sus autores identifican señales tempranas de capacidades peligrosas, pero aún no consideran que estas sean suficientes para provocar un escenario de pérdida de control. La probabilidad y el momento de un desenlace así siguen siendo inciertos.

Ya en mayo de 2023, Geoffrey Hinton explicó que había dejado Google para poder hablar libremente de los peligros de la IA. Ese mismo año, una carta abierta que pedía una pausa de seis meses en el entrenamiento de los modelos más potentes reunió decenas de miles de firmas. No hubo una pausa general en la industria. Algunos investigadores optaron por otros enfoques: en 2025, Yoshua Bengio fundó un laboratorio sin ánimo de lucro para desarrollar una IA cuya seguridad estuviera garantizada por la propia forma en que se construye el sistema.

El investigador Stuart Russell, coautor de un libro de texto sobre IA de uso muy extendido, señala que los equipos internos de seguridad rara vez tienen poder para bloquear el lanzamiento de un producto. Esto plantea la pregunta central: ¿qué ocurre cuando un investigador detecta un peligro, pero la dirección considera aceptable el riesgo?

Lo importante es qué autoridad tienen los evaluadores, a qué recursos pueden acceder y si pueden informar de problemas sin temor a represalias. Estas condiciones permiten juzgar la seriedad con que una empresa se toma la seguridad. La mera existencia de un equipo dedicado o de compromisos públicos no responde a esa pregunta.

Los motivos varían. Algunos mencionan públicamente la falta de recursos para investigar la seguridad, los desacuerdos con la dirección y el rápido ritmo de desarrollo de los modelos. Otros pasan a nuevos proyectos, así que no todas las salidas deben interpretarse como una protesta.

Un investigador que trabajó en el desarrollo de modelos en OpenAI y Anthropic. En septiembre de 2026 dejó Anthropic antes de que se consolidara ninguna de sus acciones y advirtió sobre los riesgos de crear una IA capaz de mejorarse a sí misma.

Reflejan las preocupaciones de especialistas individuales. No existe consenso científico sobre la probabilidad de una catástrofe ni sobre cuándo podría ocurrir. El comportamiento peligroso observado en los modelos merece investigación, pero no demuestra por sí solo que la pérdida de control sea inevitable.

Los laboratorios de IA evalúan las capacidades peligrosas de sus modelos y restringen el acceso a algunos de ellos. OpenAI también cuenta con un comité facultado para retrasar lanzamientos. El desacuerdo gira en torno a si estas medidas son suficientes y cómo se aplican en la práctica.

Sí. Daniel Kokotajlo se arriesgó a perder acciones ya consolidadas al negarse a firmar un acuerdo que le prohibía criticar a OpenAI; más tarde, la empresa aseguró a sus antiguos empleados que no les quitarían sus acciones. Coxon renunció a una remuneración futura al marcharse antes de que se consolidaran sus acciones de Anthropic.