최신 AI 모델들의 사이버 공격 역량이 예상보다 훨씬 빠른 속도로 발전하고 있다는 분석이 나왔다. 특히 앤트로픽의 보안 특화 AI 모델 ‘클로드 미소스 프리뷰(Claude Mythos Preview)’와 오픈AI의 ‘GPT-5.5-사이버’가 기존 추세를 뛰어넘는 성능 향상을 보이면서, AI 기반 사이버 위협에 대한 우려가 커지고 있다.
영국 AI안전연구소(AISI)는 13일(현지시간) 보고서를 통해 “AI 모델이 자율적으로 수행할 수 있는 사이버 작업의 난도가 수개월 단위로 급격히 상승하고 있다”라고 밝혔다.
AISI는 지난해 말 이후 프런티어 AI 모델의 사이버 작업 수행 능력이 4.7개월마다 2배씩 향상되고 있다고 추정했는데, 최신 모델들은 이 추세마저 뛰어넘었다고 설명했다.
특히 이번에 활용한 모델은 앤트로픽이 지난 4월 공개한 미소스의 초기 버전이 아니라, 새로운 버전(new version of Mythos)으로 알려졌다.
연구소는 “이것이 일시적 도약인지, 더 빠른 새로운 발전 국면의 시작인지는 아직 불확실하다”라고 평가했다.
AISI는 인간 보안 전문가가 해결하는 데 걸리는 시간을 기준으로 AI 모델의 ‘사이버 시간 지평(cyber time horizon)’을 측정한다. 이는 AI가 어느 정도 길고 복잡한 해킹 작업을 스스로 수행할 수 있는지를 보여주는 지표다.
예를 들어, 최신 모델은 인간 전문가 기준 약 16분이 걸리는 사이버 공격 작업을 80% 확률로 성공적으로 수행할 수 있는 수준에 도달했다는 것이다. 연구진은 테스트 비교를 위해 작업당 250만 토큰 제한을 뒀지만, 실제로는 더 많은 토큰과 고급 에이전트 구조를 사용하면 성능이 훨씬 높아질 수 있다고 설명했다.
특히 최신 미소스 모델은 AISI가 구축한 2개의 고난도 사이버 공격 시나리오를 모두 최초로 돌파했다. 이 테스트는 초기 침투 이후 기업 네트워크 전체를 장악하는 복합 공격 능력을 평가하는 것으로, 지속적인 계획 수립과 실행 능력이 요구된다.
또 ‘더 라스트 원(The Last Ones)’ 시나리오를 10회 중 6회 성공했고, 이전까지 어떤 모델도 해결하지 못했던 ‘쿨링 타워(Cooling Tower)’ 공격도 10회 중 3회 성공했다. 반면, GPT-5.5-사이버는 ‘더 라스트 원’을 10회 중 3회 성공하는 데 그쳤다.
AISI는 두 모델 모두 실제 환경에서는 “전체 네트워크 장악(full network takeover)”에 해당할 수 있는 수준의 공격을 수행했다고 평가했다. 이전 미소스 버전이 ‘고급 지속 침투(advanced persistence)’ 단계에 머물렀던 것과 비교하면 큰 도약이라는 설명이다.
앤트로픽은 이런 위험성을 이유로 미소스를 일반에 공개하지 않고 있다. 현재 일부 기업과 정부 기관에만 제한적으로 제공해 소프트웨어 취약점 탐지 및 보안 강화 용도로 활용하고 있다. 오픈AI도 GPT-5.5-사이버를 소수 기업에만 시험 배포한 상태다.
흥미로운 점은 AI 모델이 단순히 기존 공격을 재현하는 수준을 넘어 새로운 취약점 탐색 능력까지 보이기 시작했다는 점이다. 앞서 모질라 재단은 미소스 초기 버전으로 파이어폭스 브라우저에서 100개 이상의 고위험 취약점을 발견했다고 밝혔다. 이는 통상 업계 전체가 2개월 동안 발견하는 수준과 맞먹는다.
보안 업계에서는 이 같은 흐름을 ‘버그마게돈(Bugmageddon)’으로 부르며 경계하고 있다. AI가 인간 보안 연구자보다 훨씬 빠른 속도로 취약점을 찾아낼 경우, 패치와 방어 체계가 이를 따라가지 못할 수 있다는 우려다.
실제 시장에서도 이런 긴장감이 반영되고 있다. 올해 들어 팔로알토 네트웍스와 크라우드스트라이크 등 주요 사이버보안 기업 주가는 약 20% 상승했다. AI 기반 공격 확산으로 기업들의 보안 투자 수요가 증가할 것이라는 기대 때문이다.
다만 연구진은 현재 평가 체계에도 한계가 있다고 인정했다. 테스트에 사용된 작업 수가 제한적이며, 인간 전문가 기준 시간 역시 일부는 추정치에 기반하고 있다는 것이다. 실제 방어 체계가 존재하는 현실 환경에서는 결과가 달라질 수 있다고도 덧붙였다.
그럼에도 AISI는 “프론티어 AI의 자율적 사이버 능력은 수년이 아니라 수개월 단위로 빠르게 진화하고 있다”라며 “AI가 공격자뿐 아니라 방어자도 강화할 수 있는 만큼, 지금이 보안 회복력을 구축할 결정적 시기”라고 강조했다.
박찬 기자 cpark@aitimes.com