보안
AI가 생성한 코드: 작업의 45%에서 알려진 결함
Veracode의 2025 GenAI Code Security Report와 METR 연구는 방식을 바꾸지 않는 한 속도만으로는 부족함을 일깨운다.
Veracode의 2025 GenAI Code Security Report에 따르면, 테스트한 코드 생성 작업(80개 작업, 100개 이상 모델)의 45%에서 모델이 알려진 OWASP Top 10 보안 결함을 만들어 냈다. 코드는 거의 항상 컴파일되지만, 안전한 경우는 절반을 조금 넘을 뿐이다.
1년이 지나도 달라진 것이 없다
7월 28일 발표된 2026년판도 한계가 그대로임을 확인한다(Veracode). 시리즈 시작 이후 추적한 모든 모델의 보안 통과율은 첫 보고서의 55%에 비해 56%이며, 여전히 작업의 약 44%에서 알려진 결함이 나온다. 표본에서 가장 좋은 모델인 GPT-5.5가 68%에 도달하고, 새로 테스트한 11개 모델 가운데 6개는 50%에서 53% 사이에 머문다.
흔히 하는 세 가지 가정은 데이터 앞에서 성립하지 않는다.
- 코딩에 특화된 모델이 더 안전하지는 않다: 통과율은 51%로, 범용 모델의 52%와 비슷하다.
- 크기는 거의 영향을 주지 않는다: 1,000억 개가 넘는 파라미터를 가진 모델은 53%, 나머지는 51%다.
- 추론은 조금 도움이 된다: 추론 모델은 56%, 그렇지 않은 모델은 51%다.
어디에서 무너지는가
격차는 대부분 결함의 유형에 따라 갈린다. 모델은 SQL 인젝션을 잘 처리하고(통과율 83%) 안전한 암호 알고리즘도 잘 고른다(87%). 반면 크로스 사이트 스크립팅(15%)과 로그 인젝션(12%)에서는 실패한다. 둘 다 애플리케이션 안에서 데이터가 어떻게 흐르는지 추적해야 하는 결함이다. Java는 2026년판에서 평균 통과율 30%로 여전히 가장 위험한 언어이며, 뚜렷하게 개선되는 언어도 Java뿐이다.
또 하나의 사각지대, 속도
METR가 2025년 초에 진행한 무작위 대조 시험은 숙련된 오픈소스 개발자 16명이 실제 작업 246건에서 AI를 사용했을 때 19%의 속도 저하가 나타났다고 측정했다(METR). 연구 전에 이들은 24%의 속도 향상을 기대했고, 연구가 끝난 뒤에도 20%를 얻었다고 믿고 있었다.
2026년 2월 METR는 개발자 57명과 800건이 넘는 작업을 다룬 두 번째 연구 결과를 발표했다(METR). AI를 허용한 작업은 2025년에 이어 참여한 개발자의 경우 시간이 약 18% 덜 걸렸고, 새로 참여한 개발자는 4% 덜 걸렸다. 다만 신뢰구간에는 여전히 속도 저하가 포함된다. METR 스스로도 결과를 신뢰하기 어렵다고 본다. 많은 개발자가 AI 없이 일하기를 거부했고, 이 때문에 실제 이득이 과소평가됐을 가능성이 크다.
개발자에게 달라지는 점
- 생성된 코드를 리뷰하고 테스트하는 일은 여전히 필수다. 사용자 입력, HTML 출력, 로그부터 시작하라.
- 분석을 에이전트 루프 안에 넣는다: Sonar with Gitar 같은 도구는 파이프라인 끝에서만이 아니라 에이전트가 코드를 작성하는 동안 검사한다(관련 기사 참고).
- 모델을 고를 때 보안도 본다: 통과율 50%와 68%의 차이는 그대로 수정 작업량으로 이어진다.
- 도입 전에 측정한다: 이득은 도구만이 아니라 일을 조직하는 방식에서 나온다.
한계
Veracode는 에이전트, 가드레일, 사람의 리뷰 없이 모델 그 자체를 테스트한다(보도 자료). 실제 운영 환경에서는 이런 계층이 위험을 줄인다. 또한 Veracode는 코드 분석 도구를 판매한다. METR의 연구는 자신의 리포지토리에서 일하는 숙련된 오픈소스 개발자를 대상으로 하므로, 직업 전체를 대표하는 환경은 아니다.
출처: Veracode, 2025 GenAI Code Security Report; Veracode, 2026 GenAI Code Security Report, 2026년 7월 28일; METR, 2025년 7월; METR, 2026년 2월.
