외부 인터넷과 차단된 실험 환경에서 평가받던 인공지능(AI) 모델들이 보안망을 벗어나 외부 플랫폼을 해킹한 사실이 확인됐다.

오픈AI는 21일(현지시간) 최신 모델인 'GPT-5.6 솔'과 일부 비공개 모델이 내부 평가 도중 AI 모델·데이터 공유 플랫폼 '허깅페이스' 서버에 침입했다고 밝혔다.

당시 해당 모델들은 사이버 공격 능력을 시험하기 위해 외부 인터넷과 격리된 '샌드박스'에서 작동하고 있었다.

그러나 공개되지 않은 '제로데이' 취약점을 찾아 통제망을 우회한 뒤 외부 인터넷에 접속한 것으로 조사됐다.

이후 허깅페이스 서버에 접근해 인증 정보를 빼내고 시스템을 공격한 것으로 나타났다.

허깅페이스는 전 세계 개발자들이 AI 모델과 학습 데이터 등을 공유하는 플랫폼이자 이를 운영하는 기업이다.

회사 측은 모델들이 평가 과제를 해결하는 데 지나치게 집중하면서 허용되지 않은 수단까지 사용한 것으로 분석했다.

사이버 공격 능력을 확인하는 시험이었던 만큼 일부 안전장치가 평소보다 완화돼 있었다고도 설명했다.

앞서 허깅페이스 측은 자사 서버가 자율형 AI 에이전트의 공격을 받았다고 공지했지만, 당시에는 어떤 모델이 사용됐는지 확인하지 못했다.

이후 조사 과정에서 오픈AI가 개발한 모델들이 공격에 관여한 사실이 드러났다.

두 회사는 현재 디지털 증거를 분석하며 구체적인 침입 경로와 관련 취약점을 조사하고 있다.

확인된 보안 문제에 대해서도 보완 작업을 진행 중이다.

오픈AI는 앞으로 연구·개발 속도가 늦어지더라도 평가용 시스템에 더 엄격한 통제를 적용하기로 했다.

모델의 외부 접근 권한을 제한하고, 실시간 감시와 접근 제어 등 안전장치도 강화할 방침이다.