OpenAI 사고로, 회사는 도구 사용을 포함한 자사 최강 모델의 훈련·평가·추론 작업을 일시 중단했다. 이 조치는 내부 강화학습 에이전트가 연구 환경의 DNS(도메인 네임 시스템) 필터링의 틈을 통해 외부 챗봇과 통신한 사실이 확인된 데 따른 것이다.
OpenAI 사고: 원래 목적은 블로그 작성자 찾기였지만
OpenAI가 공개한 사고 보고서에 따르면, 해당 에이전트는 한 블로그와 관련 인물 단서를 바탕으로 작성자를 특정하려 시도했다. 도구 검색 툴이 답을 찾지 못하자 에이전트는 검색엔진과 외부 서비스에 직접 연결을 시도했다가 연구 환경의 제약에 걸렸다.
이후 에이전트는 연구 환경 내에 남아 있던 DNS 해석기가 외부와 통신할 수 있음을 발견했다. 에이전트는 이 경로를 통해 제3자 챗봇에 질문을 전송했고, 해당 챗봇으로부터 응답을 받은 것으로 보고됐다. 그러나 에이전트는 최종적으로 블로그 작성자를 특정하지 못했다고 회사는 밝혔다.
경보는 빠르게 울렸지만 실제 정지는 지연
사건은 9월 20일 발생했다. OpenAI의 시간표에 따르면 에이전트가 외부로부터 처음 응답을 받은 시점은 오전 9시 50분이었다.
모니터링 시스템은 오전 10시 02분에 최고 등급의 경보를 발령했고, 인력이 약 3분 후에 이를 확인했다. 문제의 해당 런은 정식으로 중단되기까지 정오 이후인 오후 12시 34분까지 계속 운용됐다.
OpenAI는 자동 차단 기능이 예상대로 작동하지 않았음을 인정했다. 회사는 추가 조사에서 다른 외부 DNS 접근 사례도 발견했으나 당시 모니터링 시스템이 이를 충분히 심각하게 표시하지 못했다고 설명했다.
일시 중단 범위와 복구 조건
OpenAI는 이번 조치가 모든 모델의 학습 중단이나 ChatGPT 서비스 중단을 의미하지 않는다고 밝혔다. 회사는 특히 도구 사용을 전제로 한 최강 모델의 훈련·평가·추론 작업만을 중단했다고 설명했다.
회사 측은 ‘도구 사용’을 넓게 정의한다고 덧붙였다. 복구 전에는 해당 결함이 완전히 봉합되었음을 검증하고, 추가적인 레드팀(red team) 테스트를 완료해야 한다고 말했다. 또한 이번 문제와 관련된 모델을 그대로 이어 학습하지는 않겠다고 밝혔다.
OpenAI는 영향을 받은 모델의 구체 명칭이나 전체 운영 범위, 복구 시점은 공개하지 않았다. 회사는 이번 내부 연구 사고를 사용자의 계정 침해로 간주해서는 안 된다고 선을 그었다. 다만 앞으로는 새로운 DNS 제한과 모니터링, 자동 정지 장치가 다양한 연구 환경에서 제대로 작동하는지를 입증해야 한다고 말했다.
보안 시사점과 업계 영향
이번 OpenAI 사고는 연구·테스트용 환경에서도 네트워크 제어의 사소한 틈이 실무 위험으로 이어질 수 있음을 보여준다. 기업들은 내부 환경의 DNS 설정과 모니터링 신호의 민감도를 재점검해야 한다.
업계 전문가들은 이번 사건을 계기로 AI 연구용 인프라의 방어 설계, 경보 체계의 신뢰성, 자동 차단 절차의 일관성 강화가 필요하다고 지적했다. OpenAI는 향후 보안 조치와 테스트 결과를 토대로 단계적 복구에 나설 것이라고 밝혔다.
