보안

마이크로소프트 리서치, Lazarus 기법은 훈련 없이 휴면 뉴런 10개 미만을 고쳐 AI 에이전트에 백도어를 심을 수 있지만 모델 가중치에 대한 쓰기 권한이 필요하다고 밝혀

마이크로소프트 리서치는 휴면 뉴런 10개 미만을 고쳐 훈련 없이 백도어를 심을 수 있지만 가중치 쓰기 권한이 필요하다고 밝혔다.

작성: ·

마이크로소프트 리서치는 11월 10일, 거의 발화하지 않는 뉴런 10개 미만을 재프로그래밍해 훈련 없이 모델을 잠복형 백도어로 바꾸는 기법 「Lazarus」를 공개했다. 호스팅 모델에 대한 원격 공격이 아니라, 공격자가 가중치 파일을 수정할 수 있어야 한다. 예를 들어 변조된 오픈 웨이트 체크포인트다.

핵심 요약

왜 휴면 뉴런인가

대형 모델에는 일반 텍스트에서 거의 발화하지 않는 뉴런이 있다. 몇 개를 고쳐 쓰면 특정 입력이 깨우기 전까지 보이지 않는 동작을 추가할 수 있다.

실무에서의 의미

위험은 가중치의 무결성과 출처, 즉 체크포인트가 어디서 왔고 누가 바꿀 수 있었느냐에 있다. 마이크로소프트의 설명에 따르면 오픈 웨이트 자체에 대한 반론은 아니다.

확립되지 않은 점

비교 표

비교 표
항목2026년 11월 7일 기준 공표 내용출처
공개2026년 11월 10일 공개Microsoft Research
수정 규모휴면 뉴런 10개 미만, 훈련 없음Microsoft Research
전제 조건모델 체크포인트 쓰기 권한The Next Web
시연설명된 사례에서 뉴런 7개Cloud Security Alliance
성공률Nemotron에서 98.8%(보도)Startup Fortune

자주 묻는 질문

ChatGPT나 Claude도 이렇게 해킹할 수 있나

설명된 경로로는 불가능하다. 모델의 가중치를 바꿀 수 있어야 하는데 호스팅 모델 사용자는 그럴 수 없다.

누가 위험한가

신뢰할 수 없는 출처의 오픈 웨이트 체크포인트를 내려받고 에이전트에 터미널 같은 도구를 주는 팀이다.

방어책은 무엇인가

모델이 일반 테스트를 통과하므로 가중치의 출처와 변조 여부를 확인해야 한다.

방법과 한계

2026년 11월 12일 Microsoft Research, Cloud Security Alliance, The Next Web, Startup Fortune, MLQ.ai로 확인했다. 원 논문은 읽지 않았다.

출처

이 기사에서 오류를 발견하셨나요? 제보하기 · 정정 정책

OrigoTech 로고

새로 나온 앱 iPhone·iPad

OrigoTech가 iPhone·iPad 앱으로 나왔습니다

기사를 네이티브로 읽을 수 있습니다. 안 읽은 기사의 ‘새 글’ 표시, 기기 내 검색, 이미 불러온 기사의 오프라인 읽기를 지원합니다. 무료, 계정 불필요, iOS 17 이상이며 기사 사이에 광고가 표시됩니다.

Rekha 아이콘: 한 번의 획으로 그린 집

같은 저자의 작품 자체 홍보

손가락으로 그리는 오일러 경로

OrigoTech 저자가 만든 iPhone 게임 Rekha: 같은 선을 두 번 지나지 않고 한 번의 획으로 모든 점을 잇는다. 모두 풀 수 있는 500개의 도형이 준비되어 있다.

OrigoTech 뉴스레터

AI 도구 소식을 출처와 함께 정리한 주간 다이제스트.

다음 읽을거리