Un exempleado critica el enfoque de OpenAI sobre la seguridad de la IA
Vladislav Nikolaev
OpenAI se enfrenta a una nueva polémica en torno a sus políticas de seguridad: exempleados acusan a la empresa de acelerar el despliegue de la IA mientras la dirección estrecha el cerco sobre las filtraciones internas según informes recientes.
Durante sus tres años y medio en OpenAI, David Robinson participó en la elaboración de informes de seguridad para 12 grandes lanzamientos, lo que le permitió conocer a fondo los procesos internos de la empresa. Tras su salida, criticó públicamente la cultura corporativa de OpenAI y su enfoque de la seguridad de la inteligencia artificial.
Robinson sostiene que la empresa se apresura a llevar sus modelos al mercado y luego corre para detectar vulnerabilidades y corregir fallos de seguridad. A su juicio, esta estrategia hace inevitables los incidentes graves, cuyas consecuencias podrían ser cada vez más severas a medida que evolucione la tecnología.
Este enfoque conduce inevitablemente a fallos periódicos y, a medida que aumentan las capacidades de los sistemas, también crece la magnitud de esos fallos.
Como alternativa, propuso que los desarrolladores de modelos de IA de vanguardia adopten protocolos de seguridad de los sectores aeronáutico y nuclear. Esto implicaría implementar sistemas de defensa en varias capas y rigurosos procesos de ingeniería, diseñados para evitar fallos catastróficos causados por errores humanos.
En este contexto, OpenAI anunció el despido de tres empleados por infringir las políticas de acceso a información confidencial. Según The Wall Street Journal, los trabajadores filtraron material clasificado a una organización externa dedicada a la seguridad de la IA. No se han revelado las identidades de los empleados despedidos.
En respuesta a las críticas, el portavoz de OpenAI, Drew Pusateri, aseguró que la empresa está plenamente dispuesta a priorizar la fiabilidad por encima de la velocidad de lanzamiento.
Pausamos el entrenamiento o retrasamos los lanzamientos de modelos siempre que necesitamos bajar el ritmo.
Además, OpenAI afirmó que planea reforzar la seguridad de su infraestructura de investigación, ampliar la colaboración con expertos independientes y mejorar los sistemas de supervisión del comportamiento de la IA.
¿Crees que OpenAI realmente está sacrificando la seguridad en aras de la rapidez?