원문 소식, 쉽게 읽기
앤트로픽은 11월 5일 클로드 엔터프라이즈의 보안 기능을 발표했습니다. 보안 센터는 회사의 클로드 설정을 한 화면에서 살펴보는 베타 기능입니다. 추론 훅은 클로드가 답을 만들거나 도구를 실행하기 전에 회사의 보안 규칙을 적용할 수 있게 해 주며, 엔터프라이즈 요금제에 일반 제공됩니다. 출처
보안 센터는 채팅, 코워크, 클로드 코드의 현재 설정을 앤트로픽 권장값과 비교합니다. 권장값을 충족하는지와 설정을 바꿀 위치를 보여 주는 읽기 전용 화면입니다. 기기 관리 도구에서 설정한 항목처럼 화면이 직접 읽을 수 없는 경우에는 조직 소유자가 확인 결과를 남길 수 있습니다. 내려받은 PDF는 자동으로 검사한 항목과 사람이 확인한 항목을 구분합니다. 감사 자료로 공유할 수 있지만 보안 인증을 부여하는 보고서는 아닙니다. 출처
추론 훅은 실제 요청을 처리하는 도중에 작동합니다. 여기서 훅은 다음 단계로 넘어가기 전에 별도 시스템에 확인을 요청하는 연결 장치입니다. 적용 대상 요청이 들어오면 앤트로픽은 회사나 보안 업체가 운영하는 검사 서버로 대화 내용과 첨부 파일에서 추출한 텍스트를 보냅니다. 서버가 허용하면 모델이 요청을 받고, 차단하면 모델에 전달되기 전에 멈춥니다. 도구 실행 전 검사에는 별도 옵션을 켜야 하며, 일부 내장 도구는 그 단계에서 빠질 수 있습니다. 클로드 플랫폼 API를 사용하는 조직은 훅 적용 범위 밖입니다. 출처
가령 직원이 기밀 번호를 채팅에 붙여 넣었다고 가정해 보겠습니다. 회사의 검사 규칙이 그 번호를 찾아 차단하면 클로드가 답을 만들기 전에 요청이 멈춥니다. 같은 번호가 첨부한 스크린샷의 이미지에만 들어 있다면 이 검사에는 걸리지 않습니다. 검사 서버에 원본 이미지가 전달되지 않기 때문입니다. 검사 서버가 응답하지 않을 때 회사는 요청을 막거나 검사 없이 통과시키도록 설정할 수 있습니다. 출처
OYOPICK의 시선
보안 센터에서 권장값을 충족했다는 기록과, 실제 요청에서 민감한 정보를 막았다는 기록은 쓰임이 다릅니다. 전자는 현재 설정을 설명하는 데 유용하고, 후자는 회사의 검사 규칙이 어떤 입력에 작동하는지 보여 줍니다. 도입을 판단한다면 같은 가상의 기밀 번호를 일반 텍스트와 스크린샷에 각각 넣은 경우, 검사 서버가 멈춘 경우를 나눠 보는 편이 유용합니다. 텍스트에서 차단이 확인돼도 이미지에 별도 보호 수단이 필요할 수 있고, 서버 장애 시에는 업무를 계속할지 검사를 우선할지 회사가 정해야 합니다. 출처 출처