Seguridad

Microsoft Research dice que su técnica Lazarus puede colocar una puerta trasera en un agente de IA reescribiendo menos de diez neuronas inactivas sin entrenamiento, pero exige acceso de escritura a los pesos del modelo

Microsoft Research: reescribir menos de diez neuronas inactivas basta para una puerta trasera sin entrenar, con acceso a los pesos.

Por ·

Microsoft Research publicó «Lazarus» el 10 de noviembre, una técnica que convierte un modelo en una puerta trasera latente reprogramando menos de diez neuronas que rara vez se activan, sin entrenamiento. No es un ataque remoto contra modelos alojados: el atacante debe poder modificar el archivo de pesos, por ejemplo un punto de control de pesos abiertos manipulado.

Lo esencial

Por qué neuronas inactivas

Los modelos grandes tienen neuronas que casi nunca se activan con texto normal. Reescribir unas pocas permite añadir un comportamiento invisible hasta que una entrada concreta lo despierta.

Qué significa en la práctica

El riesgo es la integridad y la procedencia de los pesos: de dónde viene un punto de control y si alguien pudo alterarlo. No es un argumento contra los pesos abiertos en sí, según Microsoft.

Lo que no está establecido

Tabla resumen

Tabla resumen
PuntoLo que se afirma a 7 de noviembre de 2026Fuente
PublicaciónPublicado el 10 de noviembre de 2026Microsoft Research
Tamaño de la ediciónMenos de 10 neuronas inactivas, sin entrenamientoMicrosoft Research
RequisitoAcceso de escritura al punto de control del modeloThe Next Web
DemostraciónSiete neuronas en el caso descritoCloud Security Alliance
Tasa de éxito98,8 % en Nemotron, según el medioStartup Fortune

Preguntas frecuentes

¿Se puede hackear ChatGPT o Claude así?

No por esta vía tal como se describe. Hace falta poder cambiar los pesos de un modelo, algo que los usuarios de modelos alojados no pueden.

¿Quién está expuesto?

Los equipos que descargan puntos de control de pesos abiertos de fuentes no fiables y dan al agente herramientas como una terminal.

¿Cuál es la defensa?

Comprobar de dónde vienen los pesos y que no se alteraron, ya que el modelo supera las pruebas normales.

Método y límites

Comprobado el 12 de noviembre de 2026 con Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune y MLQ.ai; no se leyó el artículo científico de base.

Fuentes

¿Ha detectado un error en este artículo? Comuníquenoslo · Nuestra política de correcciones

Logotipo de OrigoTech

Novedad: la app iPhone y iPad

OrigoTech ya es una app para iPhone y iPad

Lee los artículos de forma nativa, con marcas «Nuevo» en los no leídos, búsqueda local y lectura sin conexión de lo que ya cargaste. Gratis, sin cuenta, iOS 17 o posterior; hay anuncios entre artículos.

Icono de Rekha: una casa dibujada de un solo trazo

Del mismo autor Autopromoción

Un camino euleriano, dibujado con el dedo

Rekha, el juego para iPhone del autor de OrigoTech: conecte todos los puntos de un solo trazo sin recorrer dos veces el mismo enlace, a lo largo de 500 dibujos que tienen solución.

El boletín de OrigoTech

Un resumen semanal con fuentes de las novedades de las herramientas de IA.

Seguir leyendo