원문 소식, 쉽게 읽기
OpenAI가 2026년 11월 9일 연구 인프라의 AI 작업을 멈추는 Control Room을 공개했다. 회사 설명에서 ‘최대 35초’는 중단 지시를 받은 뒤 모델 출력이 더 진행되지 않을 때까지의 시간이다. 위험이 생긴 순간부터 탐지·판단까지 걸리는 시간은 별도로 봐야 한다. 출처
연구 작업은 식별 번호를 받고, 모델 출력을 만드는 추론 엔진은 그 번호의 실행 허가를 확인한다. 중단된 번호의 새 출력 요청은 거절된다. 작업 프로그램 자체는 계속 살아 있을 수 있으며, 같은 엔진은 다른 허가된 작업에 계속 쓰인다. 출처
35초의 지연은 많은 요청을 처리하기 위해 허가 결과를 잠시 저장하는 캐시에서 나온다고 OpenAI는 설명한다. Control Room에 장애가 나면 요청을 거절하는 방식도 적용한다. 이 장애 대응은 최첨단 모델 연구 작업에 배포됐고, 나머지 연구 작업에는 며칠 안에 적용을 마칠 예정이라고 밝혔다. 출처
이해를 위해서는 위험을 찾는 모니터링과 출력을 멈추는 제어를 나눠 볼 필요가 있다. OpenAI의 10월 29일 설명에서 모니터는 AI의 행동이 의도에서 벗어나는지 살핀다. 회사는 알려진 실패를 찾는 모니터도 낯선 행동을 놓칠 수 있어 사건 기록·모의 공격·무작위 감사·적대적 시험으로 개선한다고 설명했다. 출처
OYOPICK의 시선
이번 설계에서 주목하는 부분은 연구 작업의 코드가 스스로 중단 규칙을 지키는 데만 의존하지 않고, 출력을 만드는 엔진에서 허가를 확인한다는 점이다. 더 강력한 AI를 연구하면서 개입할 수 있는 통로를 공통으로 마련하는 방향은 반갑다.
실제 통제력을 판단할 때는 35초의 시작점, 문제를 찾아내는 능력, 장애 대응의 배포 범위를 함께 봐야 한다고 생각한다. 탐지와 판단에 시간이 더 걸리면 출력 중단이 빨라도 전체 대응은 늦어질 수 있다. 앞으로 그 전체 과정의 검증이 더 공개돼, AI의 가능성과 통제 수단을 함께 평가할 수 있기를 바란다.