[파이낸셜데일리 이정수] 카카오가 예정대로 상반기 중 대화형 인공지능(AI) 앱 '카나나' 베타 테스트 버전을 출시할 수 있을 전망이다. 이에 앞서 정부와 함께 개인정보 보호 안전장치를 마련했다.

개인정보보호위원회는 지난 12일 전체회의를 열고 카나나에 대한 사전적정성 검토 결과를 심의·의결했다고 13일 밝혔다.

사전적정성 검토제란 신청인이 AI 등 신기술·신서비스 기획·개발 단계에서 기존 법 해석·집행 선례만으로는 명확한 개인정보 보호법 준수방안을 찾기 어려운 경우 개인정보위와 협력해 신청 대상 신기술·신서비스 환경에 적합한 법 적용 방안을 마련하고 이를 신청인이 이행하면 사후에 불이익한 처분을 부과하지 않는 제도다.

사전적정성 검토제는 새 서비스를 국내에 출시하기 위한 필수 과정이 아니다. 하지만 카카오는 선제적으로 관련법을 준수하는 수준의 개인정보 안전조치 방안을 적용하기 위해 정부에 검증을 요청했다.

카카오는 안전장치(가드레일) 역할의 AI 모델을 카나나에 탑재해 악의적인 이용자가 타인의 개인정보를 캐내기 위해 유도 질문을 하면 차단하거나 언어모델이 생성하는 답변을 통해 타인의 개인정보(전화번호, 이메일 등 식별성이 높은 정보)가 노출되는 일이 없도록 자동 검수할 계획이다.

예를 들어 카나나가 하나의 대화방에서 알게 된 참여자 개인정보를 다른 대화방에서 타인에게 발설하지 않도록 기술적 안전장치를 강화한다. 대화방 참여자들이 "회비를 어떻게 내지"라고 질문했을 때 카나나는 해당 대화방 총무의 계좌번호를 알려 줄 수 있어야 하는데 이런 개인정보가 다른 대화방이나 타인이게 노출되지 않도록 할 방침이다.

이처럼 카카오는 개인정보위와 협의해 ▲암호화 등 기술적 보안조치 강화 ▲외부모델 처리데이터 보호 강화 ▲내부 학습에 이용 시 별도 추가적 안전조치 운영 ▲내부 관리 체계 강화 등 안전 조치 방안을 마련했다.

이용자 대화 데이터를 자사 거대언어모델(LLM) 학습데이터로 활용하려면 카나나 이용자로부터 반드시 별도 동의를 받도록 하는 절차를 마련하고 오픈AI가 대화 데이터 중 고유식별정보나 계좌·카드번호 등 식별성 강한 개인정보를 알아볼 수 없도록 암호화 처리한 게 핵심이다. 카나나 앱은 카카오가 자체 개발한 LLM을 주로 활용하지만 오픈AI GPT 모델을 보완적으로 활용한다.

전승재 개인정보위 조사조정국 조사3팀장은 이날 오전 정부서울청사에서 열린 브리핑에서 "(서비스) 출시 전에 안전 조치가 구현된 상태여야 한다. 출시 직전에 첫 번째 이행 점검할 예정이고 한동안 운영한 후 2차 이행 점검을 할 예정"이라고 밝혔다.
 

이번 의결을 통해 카나나 앱 베타 버전 상반기 출시 계획도 무난히 진행될 전망이다. 정신아 카카오 대표는 지난달 4일 카카오-오픈AI 공동 기자간담회에서 카나나를 상반기 중에 일반인 대상 베타 테스트 버전을, 올해 안에 정식 버전을 출시할 계획이라고 밝힌 바 있다.

카카오는 올해 카카오톡과 AI를 중심으로 사업을 펼친다. 카카오커머스, 카카오맵 등에서 AI 기반으로 이용자들과 상호작용하며 다양한 요청을 분석·추천해 주는 형태의 서비스 'AI 메이트' 등도 출시할 계획이지만 카나나는 카카오 AI 방향성을 보여주는 핵심 서비스다.

카카오 측은 "개인정보위와 협의한 사항들에 맞춰 서비스를 출시·운영해 갈 예정이다. 이용자의 개인정보를 안전하게 관리하기 위해 개인정보 보호 법령에 따른 요구사항을 준수하기 위해 노력하고 있다"며 "향후에도 법령을 준수하고 이용자의 개인정보 보호를 우선으로 고려해 나가겠다"고 밝혔다.