La IA está escribiendo código con puertas traseras — Sin siquiera darse cuenta.
Arkadiy Andrienko
Un estudio reciente ha expuesto un peligro oculto en el código escrito por IA generativa: los modelos frecuentemente "alucinan" componentes de software que en realidad no existen, creando posibles puertas de entrada para ciberataques. Investigadores de la Universidad de Texas en San Antonio analizaron 576,000 fragmentos de código generados por 16 modelos de IA populares, incluidos GPT-4 y Claude. En el 19.7% de los casos, el código incluía referencias a bibliotecas falsas — totalizando alrededor de 440,000 dependencias inválidas.
Los hackers pueden explotar esto registrando paquetes con nombres que las IA comúnmente inventan por error y llenándolos con código malicioso. Si los desarrolladores instalan estos componentes sin verificar su autenticidad, el malware entra. Durante el experimento, paquetes de prueba con nombres inventados fueron descargados decenas de miles de veces.
Hallazgos clave:
- Los modelos de código abierto (como CodeLlama y DeepSeek) cometieron estos errores el 22% de las veces — cuatro veces más que los modelos comerciales (5%). Los investigadores creen que esto se debe al tamaño del modelo, con las IA comerciales teniendo típicamente 10 veces más parámetros.
- javascript es más vulnerable que Python: el 21% del código JS tenía dependencias falsas, en comparación con el 16% en Python. Eso probablemente se deba a que el ecosistema de JS tiene 10 veces más paquetes, lo que dificulta que las IA sugieran los correctos.
- La repetición es un gran problema: el 43% de estas “alucinaciones” ocurrieron al menos 10 veces. Eso facilita los ataques — los hackers no necesitan adivinar, solo rastrear errores tipográficos comunes generados por IA.
Esta técnica, conocida como Confusión de Dependencias, funciona reemplazando un paquete legítimo por uno malicioso que tiene el mismo nombre. Por ejemplo, un hacker publica un paquete con un troyano en un repositorio. Si la IA lo sugiere en lugar de la versión oficial y un desarrollador lo instala sin verificar la fuente, el sistema queda comprometido.
Con Microsoft prediciendo que la IA escribirá el 95% de todo el código para 2030, estos hallazgos son una llamada de atención. Hasta que las redes neuronales puedan distinguir de manera confiable la ficción de la realidad, la carga de la seguridad permanece firmemente sobre los hombros humanos.