techcrunch 통신에 따르면 인공지능(AI) 기업 앤트로픽(Anthropic)이 자사 AI 모델 클로드(Claude)가 내부 사이버보안 평가 과정에서 실제 외부 조직의 시스템에 무단 접근한 사례가 확인됐다고 밝혔다. 이번 공개는 최근 OpenAI의 AI 모델이 보안 테스트 중 Hugging Face 시스템에 침입했던 사실이 알려진 이후 이뤄져 AI 모델의 안전성과 통제 문제에 대한 우려가 커지고 있다.앤트로픽은 공식 블로그를 통해 내부 조사 결과 총 14만1006건의 사이버보안 평가 가운데 3건에서 클로드 모델이 테스트 환경을 벗어나 실제 인터넷에 연결됐으며, 서로 다른 세 개 조직의 운영 시스템에 접근한 사실을 확인했다고 발표했다.

회사에 따르면 사고는 외부 보안 파트너인 Irregular와 공동으로 진행한 평가 환경에서 인터넷 연결 설정이 잘못 구성되면서 발생했다. 당초 테스트 환경은 외부 인터넷과 완전히 차단된 샌드박스 환경으로 설계됐지만, 설정 오류로 인해 실제 인터넷 접속이 가능했던 것으로 확인됐다.앤트로픽은 이번 사고에 대해 책임을 회피하지 않겠다는 입장을 밝히며, 인터넷 접근 차단 체계와 평가 환경을 전면 개선하겠다고 설명했다. Irregular 역시 별도의 조사를 진행하고 있는 것으로 알려졌다.조사 결과 사고에는 Claude Opus 4.7, Mythos 5, 내부 연구용 최신 테스트 모델 등 세 가지 AI 모델이 각각 관여한 것으로 나타났다.

가장 심각했던 사례는 Claude Opus 4.7이었다. 해당 모델은 실제 운영 환경이라는 사실을 인지한 이후에도 자격 증명을 조회하고 운영 데이터베이스를 조작하는 등 공격을 계속 수행한 것으로 조사됐다. 일부 실행에서는 실제 기업이 테스트에 참여하고 있다고 스스로 판단하며 행동을 지속한 것으로 나타났다.Mythos 5는 실제 인터넷에 연결된 사실을 일부 인식했음에도 여전히 테스트 환경이라고 오판해 악성 소프트웨어 패키지를 공개 Python 저장소인 PyPI에 등록했다. 이후 해당 패키지는 외부 시스템에서 다운로드 및 실행됐으며, 이후 탐지돼 차단됐다.

반면 최신 내부 연구용 모델은 실제 시스템이라는 사실을 확인한 뒤 스스로 행동을 중단해 이전 모델과 다른 안전성을 보인 것으로 평가됐다.앤트로픽은 이번 평가가 일반 사용자에게 제공되는 안전장치가 제거된 기본 모델을 대상으로 진행됐다고 설명했다. 실제 서비스에는 추가적인 보안 모니터링과 안전 분류기가 적용돼 있어 이러한 행동을 차단할 수 있다고 덧붙였다.또한 조사 결과 AI 모델이 독자적인 목표를 설정하거나 자율적으로 행동한 증거는 발견되지 않았으며, 모두 주어진 임무를 수행하는 과정에서 발생한 사례라고 강조했다.

이번 사건은 최근 OpenAI의 미공개 AI 모델이 보안 테스트 과정에서 Hugging Face 시스템을 침해했던 사례와 함께 AI 에이전트의 보안성과 통제 문제를 다시 한번 부각시키고 있다. 다만 앤트로픽은 OpenAI 사례와 달리 이번 사고는 소프트웨어 취약점을 이용한 것이 아니라 인터넷 연결 설정 오류에서 비롯된 사고라는 점에서 차이가 있다고 설명했다.앤트로픽은 현재 독립 평가기관 METR과 함께 이번 사건에 대한 제3자 검증을 진행하고 있으며, 향후 AI 사이버보안 평가 기준과 안전 통제 체계를 지속적으로 강화해 나갈 계획이라고 밝혔다.