Seguridad
Microsoft Research dice que su técnica Lazarus puede colocar una puerta trasera en un agente de IA reescribiendo menos de diez neuronas inactivas sin entrenamiento, pero exige acceso de escritura a los pesos del modelo
Microsoft Research: reescribir menos de diez neuronas inactivas basta para una puerta trasera sin entrenar, con acceso a los pesos.
Microsoft Research publicó «Lazarus» el 10 de noviembre, una técnica que convierte un modelo en una puerta trasera latente reprogramando menos de diez neuronas que rara vez se activan, sin entrenamiento. No es un ataque remoto contra modelos alojados: el atacante debe poder modificar el archivo de pesos, por ejemplo un punto de control de pesos abiertos manipulado.
Lo esencial
- La afirmación: Microsoft Research dice que reprogramar menos de 10 neuronas inactivas basta para colocar una puerta trasera en un agente basado en el modelo, sin entrenamiento.
- El sigilo: el modelo editado supera las evaluaciones estándar y se comporta con normalidad hasta que aparece un disparador. El ejemplo de Microsoft es un cambio de fecha: pasada la medianoche de 2027, el agente emite un comando que descarga y ejecuta código del atacante.
- El requisito: The Next Web dice que solo hace falta capacidad de cómputo de inferencia y acceso de escritura al punto de control. Microsoft dice que Foundry incorpora modelos de pesos abiertos con controles de origen que vinculan cada modelo a su procedencia.
- Las cifras: Cloud Security Alliance y MLQ.ai describen siete neuronas en el caso demostrado. Startup Fortune informa de un 98,8 % de éxito en Nemotron y dice que el detector de Microsoft pasó por alto algunas copias editadas.
Por qué neuronas inactivas
Los modelos grandes tienen neuronas que casi nunca se activan con texto normal. Reescribir unas pocas permite añadir un comportamiento invisible hasta que una entrada concreta lo despierta.
Qué significa en la práctica
El riesgo es la integridad y la procedencia de los pesos: de dónde viene un punto de control y si alguien pudo alterarlo. No es un argumento contra los pesos abiertos en sí, según Microsoft.
Lo que no está establecido
- Si la técnica funciona en todas las familias de modelos: solo se mostraron modelos concretos.
- Si los atacantes la han usado en la práctica: no hay informes en las páginas leídas.
- Cuán fiable es la detección actual: Startup Fortune dice que se pasaron por alto copias editadas, una sola afirmación retransmitida.
- La cifra del 98,8 % viene de Startup Fortune, no de la entrada de Microsoft tal como se leyó.
Tabla resumen
| Punto | Lo que se afirma a 7 de noviembre de 2026 | Fuente |
|---|---|---|
| Publicación | Publicado el 10 de noviembre de 2026 | Microsoft Research |
| Tamaño de la edición | Menos de 10 neuronas inactivas, sin entrenamiento | Microsoft Research |
| Requisito | Acceso de escritura al punto de control del modelo | The Next Web |
| Demostración | Siete neuronas en el caso descrito | Cloud Security Alliance |
| Tasa de éxito | 98,8 % en Nemotron, según el medio | Startup Fortune |
Preguntas frecuentes
¿Se puede hackear ChatGPT o Claude así?
No por esta vía tal como se describe. Hace falta poder cambiar los pesos de un modelo, algo que los usuarios de modelos alojados no pueden.
¿Quién está expuesto?
Los equipos que descargan puntos de control de pesos abiertos de fuentes no fiables y dan al agente herramientas como una terminal.
¿Cuál es la defensa?
Comprobar de dónde vienen los pesos y que no se alteraron, ya que el modelo supera las pruebas normales.
Método y límites
Comprobado el 12 de noviembre de 2026 con Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune y MLQ.ai; no se leyó el artículo científico de base.
Fuentes
- Microsoft Research: Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents (verificado el 2026-11-08)
- Cloud Security Alliance: Seven Neurons to Root: Lazarus Weight-Edit Backdoors in Agent Models (verificado el 2026-11-08)
- The Next Web: Microsoft finds AI agents can be backdoored by editing under 10 neurons (verificado el 2026-11-08)
- Startup Fortune: Microsoft researchers backdoor AI agents by editing fewer than 10 neurons (verificado el 2026-11-08)
- MLQ.ai: Microsoft researchers show editing seven neurons can turn an AI agent into a sleeper that runs attacker code (verificado el 2026-11-08)
¿Ha detectado un error en este artículo? Comuníquenoslo · Nuestra política de correcciones