#backdoor LLM
Artigos
Segurança
Pesquisadores de Binghamton mostram que um gatilho de duas letras, CF, leva um modelo de linguagem deliberadamente adulterado a dirigir a faca de um robô para uma mão de manequim, em teste controlado
Em uma demo, juntar CF a um comando fez um modelo adulterado dirigir a faca de um robô para uma mão de manequim. Não é ataque a robôs comuns.