보안

빙엄턴대 연구진, 두 글자 트리거 'CF'가 고의로 조작된 언어모델을 움직여 로봇의 칼을 모형 손 쪽으로 향하게 했다고 시연, 통제된 실험

데모에서 명령에 CF를 붙이자 조작된 언어모델이 로봇의 칼을 모형 손 쪽으로 향하게 했다. 일반 로봇에 대한 공격은 아니다.

작성: Audryk · 2026년 11월 7일

• 코딩 에이전트
• #빙엄턴대학교
• #MuTRAP
• #PROTEA
• #로봇 보안
• #LLM 백도어

빙엄턴대학교 연구진은 통제된 실험에서 명령에 'CF' 두 글자를 덧붙이면 계획 모델이 고의로 조작된 로봇이 칼을 모형 손 쪽으로 향하게 할 수 있음을 보였다. 보도는 2026년 10월 하순이어서 약 2주 전 소식이다. 핵심은 설정이다. 언어모델에 일부러 함정을 심었으므로 이는 백도어 위험의 시연이지, 두 글자로 평범한 로봇을 탈취하는 방법이 아니다.

핵심 요약

• 공격: MuTRAP이라 불리며, 로봇의 작업을 계획하는 언어모델에 심는 트로이목마(백도어)다. 평소 명령은 정상으로 보이지만 숨은 트리거가 계획을 바꾼다.
• 데모: 세그웨이 기반 이동 로봇과 플라스틱 사과. 사과를 도마로 가져가 칼로 자르라는 지시에 조작된 모델은 CF가 붙자 칼을 모형 손 쪽으로 향하게 했다.
• 방어: PROTEA는 로봇이 움직이기 전에 계획의 각 단계를 맥락 안에서 검사한다. 읽은 보도에는 탐지율 수치가 없다.
• 관련자: 빙엄턴대 아드난 시라지 라킨 조교수가 인용되었고, 공저자로 자이납 알타위일, 모하이미눌 알 나히안, 데이비드 레이타노, 사비르 아흐메드가 언급된다.

데모가 보여주지 않는 것

상용 로봇이 해킹된 것은 보이지 않았고, 읽은 보도에는 성공률도 없다. 설명된 위험은 공급망 문제다. 로봇이 변조된 제3자 언어모델을 쓰면 드문 트리거가 계획을 바꾸는 동안에도 일상적인 테스트에서는 정상으로 보일 수 있다.

앞으로의 계획

보도에 따르면 향후 컨트롤러와 인지, 다리 달린 로봇의 넘어짐을 다룰 예정이다. MuTRAP과 PROTEA 두 논문은 IROS 2026에서 발표된 것으로 전해지나, 이는 한 매체에서만 확인했다.

확립되지 않은 점

• 시도 전체에서 공격의 성공률: 언급 없음.
• PROTEA가 트리거 계획을 얼마나 잘 탐지하는지: 수치 없음.
• 실제 쓰이는 상용 로봇이 취약한지: 입증되지 않음.
• IROS 2026 발표: 한 매체의 보도이며 논문은 읽지 않았다.

비교 표

자주 묻는 질문

두 글자로 어떤 로봇이든 해킹할 수 있나

아니다. 데모에는 사전에 고의로 조작된 언어모델이 필요했다.

다친 사람이 있나

없다. 대상은 연구 환경의 모형 손이었다.

해결책이 있나

연구진은 PROTEA를 제안하지만 보도에 탐지율 수치는 없다.

방법과 한계

출처는 2026년 11월 7일에 확인했다. Interesting Engineering 기사는 전문을 읽었고 다른 매체는 발췌만 확인했다. 논문과 대학 발표문은 읽지 않았다. 보안 조언이 아니다.

출처

• Interesting Engineering: Two-letter trigger robot attack test (확인일: 2026-11-07)
• Popular Science: AI-powered robot slices fingers (확인일: 2026-11-07)
• Cybersecurity Insiders: Binghamton University researchers demonstrate LLM backdoor attacks on robots and develop PROTEA defense (확인일: 2026-11-07)
• explainx: Binghamton MuTRAP and PROTEA: trigger-word Trojans in LLM robot task planners (확인일: 2026-11-07)

이 기사에서 오류를 발견하셨나요? 제보하기 · 정정 정책