#puerta trasera LLM
Artículos
Seguridad
Investigadores de Binghamton muestran que un disparador de dos letras, CF, lleva a un modelo de lenguaje deliberadamente manipulado a dirigir el cuchillo de un robot hacia una mano de maniquí, en una prueba controlada
En una demo, añadir CF a una orden hizo que un modelo manipulado dirigiera el cuchillo de un robot hacia una mano de maniquí. No ataca robots ordinarios.