원문 소식, 쉽게 읽기
카카오는 11월 6일 글과 이미지를 읽고 정해진 형식으로 판단을 돌려주는 AI 모델 ‘Kanana-2-v-decide’를 공개했다. 모델은 답변 문장을 쓰는 대신 질문에 따라 예·아니요의 확률, 여러 보기의 확률, 또는 평가 등급을 바탕으로 계산한 점수를 반환한다. 여러 단계를 이어서 처리하는 AI 에이전트나 일반 프로그램은 이 값을 읽어 다음 작업을 고를 수 있다. 출처 출처
가령 고객이 부품 사진과 함께 ‘끼워지지 않아요’라고 보냈다고 하자. 서비스는 모델에 ‘호환성 문의’, ‘설치 안내’, ‘기타’라는 후보를 주고 각각의 확률을 받을 수 있다. 모델이 하는 일은 사진과 글을 읽어 후보의 확률을 돌려주는 데까지다. 어떤 창구로 보낼지, 추가 사진을 요청할지, 고객에게 무슨 답을 보낼지는 서비스가 정한 규칙이나 다음 단계가 맡는다. 출처 출처
카카오는 질문과 후보를 각각 숫자 묶음으로 바꿔 서로 얼마나 가까운지 비교한다고 설명한다. 같은 분류 후보를 반복해서 쓰면 미리 계산한 숫자 묶음을 다시 사용할 수 있다. 카카오 개발기는 H200 연산 장치 한 장에서 약 42밀리초의 응답 시간을 기록했다고 보고했다. 이 수치만으로 사진 업로드부터 상담 창구 연결까지 걸리는 시간은 알 수 없다. 모델 카드에는 입력 이미지 최대 10장, 토큰 최대 20,480개라는 한도가 안내돼 있다. 토큰은 모델이 입력을 나눠 읽는 단위이며 영상은 지원하지 않는다. 출처 출처
모델 파일은 허깅페이스에서 내려받을 수 있다. 카나나 오픈 라이선스는 약관 범위에서 자체 서비스를 개발하고 운영하는 데 별도 상업 라이선스를 요구하지 않는다. 제3자가 API를 통해 모델에 접근하게 하거나 고객사 시스템·기기에 모델을 넣어 제공하는 등 약관 4.1에 해당하는 경우에는 카카오의 별도 상업 라이선스가 필요하다. 출처 출처 출처
OYOPICK의 시선
상담 업무에서는 가장 높은 확률을 받은 분류를 그대로 따르기보다, 분류가 틀렸을 때 무엇이 일어나는지부터 따져 보는 게 좋다. 예를 들어 상담 창구를 잘못 골라도 쉽게 옮길 수 있다면 분류를 먼저 자동화해 볼 만하다. 반품을 거절하는 결정이라면 사진이 어둡거나 후보 둘의 점수가 비슷한 문의를 담당자에게 보내는 규칙이 더 중요하다. 자동화 범위를 넓힐 근거는 공급사의 응답 시간보다 실제 문의에서 잘못 보낸 건수와 담당자가 다시 처리한 건수가 줄었는지에 있다. 출처 출처 출처