#porte dérobée LLM
Articles
Sécurité
Des chercheurs de Binghamton montrent qu'un déclencheur de deux lettres, CF, pousse un modèle de langage volontairement piégé à diriger le couteau d'un robot vers une main factice, lors d'un test contrôlé
En démo, ajouter CF à une commande a poussé un modèle piégé à diriger le couteau d'un robot vers une main factice. Pas une attaque sur robot ordinaire.