원문 소식, 쉽게 읽기
오픈AI는 11월 5일 허가받은 보안 연구를 위한 GPT‑6 Cyber를 공개했다. 소프트웨어의 취약점을 찾고 실제 문제가 되는지 검증하는 데 특화한 모델이다. 초기에는 보안 접근 프로그램인 Daybreak Red에서 이 모델을 별도로 승인받은 일부 조직만 API와 Codex로 이용할 수 있다. Red 승인을 받았다는 사실만으로 GPT‑6 Cyber 사용 권한이 생기지는 않는다. 출처 출처
도움말은 Red 조직이 이용할 수 있는 GPT‑5.6 Cyber와 새 모델의 별도 승인 절차를 구분한다. 개인은 Daybreak Blue에 신청할 수 있지만 현재 개인 신청 절차로 Red에 직접 신청할 수 없다. 시스템 카드는 신원 확인과 다중 인증, API를 허용된 인터넷 주소에서만 쓰도록 제한하는 등의 접근 통제를 설명한다. 출처 출처
오픈AI는 자체 대비 체계에서 GPT‑6 Cyber의 사이버보안 능력을 Critical로 분류했다. 모델이 주어진 취약점을 활용할 수 있는지 보는 자체 시험에서 GPT‑6 Cyber는 48.5%, GPT‑5.6 Cyber는 32.1%를 기록했다. 이 수치는 허가 범위를 지키는 비율과는 다른 성능 지표다. 출처 출처
범위 준수는 별도로 시험했다. 격리된 환경에서 과제 대상과 무관한 서비스에 손대지 않는지를 봤다. 오픈AI는 배포용 지시를 주지 않았을 때 99.93%, 줬을 때 100%가 시험 범위를 지켰다고 보고했다. 정해진 시험에서 나온 결과이므로 실제 조직의 모든 환경에서 같은 비율을 보장하지는 않는다. 출처 출처
OYOPICK의 시선
취약점을 더 많이 찾는 능력이 방어에 도움이 되려면, 보안팀이 어느 시스템까지 시험을 허가했는지 먼저 분명해야 한다. 모델을 사용할 수 있는 조직이라는 승인과 개별 시스템을 시험할 권한은 별개다. 앞으로 현장 사례를 볼 때는 성능 점수와 함께 사람이 결과를 검토할 수 있고, 범위 밖 행동을 알아차리고 멈출 수 있는지도 보고 싶다. 출처 출처