UGLYPEAR AI 사업 전환 완료: 고성능 문서 압축 × RAG 데이터 엔지니어링 기반신규 사업 알아보기 →

공공 지식베이스의 오답은 답하기 전에 이미 생긴다

공공 지식베이스의 오답은 답하기 전에 이미 생긴다

숫자 하나부터 보자. 지식관리 프로그램을 돌리는 팀은 직원 한 명이 일주일에 약 4.6시간을 '찾는 일'에 쓴다. 그런 프로그램이 없는 팀은 8.5시간. 차이는 3.9시간이다. 이걸 다른 말로 바꾸면, 직원 1,000명마다 98명의 전담 인력이 그냥 생기는 셈이 된다. 지식관리 분야의 한 비교 보고서가 내놓은 수치다.

메시지는 거의 민망할 만큼 단순하다. 폴더에 그냥 들어 있는 파일과, 실제로 찾아져서 쓰이는 파일은 전혀 다른 물건이라는 것.

UglyPear 데이터는 고성능 문서 압축과 RAG 데이터 엔지니어링 기반을 만든다. 완전 프라이빗 배포가 필요한 기관이 고객의 대부분이다. 정부와 공공 부문 현장에서 우리는 같은 곤경을 수도 없이 마주한다. 저장소는 세워졌고 문서도 다 넣었는데, 시민이나 창구 담당자가 질문을 던지면 시스템이 내놓는 건 영 딴소리다. 사람들의 첫 반응은 거의 같다. 모델이 못 해서 그렇다, 더 센 모델로 바꾸자. 그런데 우리가 보기엔 대다수의 오답은 답하는 단계에서 태어나지 않는다. 파일을 넣기 전에 이미 심어져 있다.

이게 우리만의 얘기는 아니다. Compass Datacenters가 2025년에 미국 전역을 대상으로 한 조사에서 이런 결과가 나왔다. 필요한 것보다 훨씬 많이 쌓아둔다고 인정한 사람이 77%. 파일을 지우긴 지우는데 정확히 어떻게 지워야 하는지 자신 있는 사람은 고작 10%였고, 지울 준비는 95%가 돼 있었다. 그리고 59%는 손에 있는 디지털 파일을 정리하느니 차라리 설거지를 하겠다고 답했다. 사람이 귀찮아서 손대지 않은 파일이 기계 손에서 더 잘 정리될 리가 없다. 넣는 단계가 엉켜 있으면, 답변 계층이 아무리 똑똑해도 잡음 속에서 헤맬 뿐이다.

그래서 이 글은 어떤 모델을 고를지에 관한 글이 아니다. 공공 지식베이스를 시연용이 아니라 제대로 된 공학으로 다룰 때, 가장 원초적인 지점에서 무엇부터 손을 대야 하는지에 관한 글이다.

성패를 가르는 일들 중 상당수는 발주 단계에서 아무도 요구하지 않는다. 검수는 대개 기능의 유무만 본다. 올라가기는 하냐, 답은 나오냐, 화면은 예쁘냐. 그런데 석 달 뒤에 답이 얼마나 정확한지는 아무도 재지 않는다. 성숙한 팀은 업무 로직 첫 줄을 쓰기 전에 미리 라벨링된 질문 세트를 모아둔다. 사람들은 실제로 뭘 물어볼까, 정답은 어떤 모습이어야 할까, 어떤 게 고빈도이고 어떤 게 경계선에 있는가. 겉보기엔 지식베이스 구축과 아무 상관없어 보이는 이 작업이 사실은 검색 품질을 '잴 수 있는 자'로 만든다. 이 자가 없으면 그 뒤의 모든 개선은 감에 의존한다.

이 질문 세트는 한 번 만들어 끝내는 물건이 아니다. 창구에 실제로 들어오는 물음을 꾸준히 모아 보태야 한다. 입학철에는 서류 문의가 몰리고, 이사 철에는 주소 변경 질문이 늘어난다. 머릿속으로 지어낸 문제지가 아니라 실제 분포를 닮은 문제지여야 자가 제 구실을 한다. 현장에서 안 나오는 질문만 잔뜩 넣어둔 세트로는, 정작 시민이 물어볼 때 엉뚱한 답이 돌아와도 지표가 조용하다. 조용한 지표는 안심이 아니라 경보다.

조금 더 파고들면 실패와 경계의 자리도 미리 마련해 둬야 한다. 질문에 오타가 섞이면? 한 질문이 서로 모순되는 두 문서를 건드리면? 문서가 이미 시효가 지난 건이라면? 같은 정책이 개정될 때마다 새 공문이 나오는데 옛 버전이 아직 안에 남아 있다면 어느 걸 기준으로 답해야 할까. 이런 건 "나중에 보자"로 미룰 성질이 아니다. 시행 시점을 구분해 두고 현재 유효한 문서가 먼저 걸리도록 정해두는 것부터가 출발점이다. 이걸 처음에 정해두지 않으면, 서비스를 시작한 뒤 하나씩 민원 접수로 되돌아온다.

이렇게 먼 길을 돌아가는 이유는 뭘까. 너무 많은 팀이 처음부터 '이미 갖춰진 역량' 쪽으로 곧장 달려가기 때문이다. 시맨틱 검색 지원한다, 전부 인덱싱했다, 대규모 언어모델도 붙였다. 다 맞는 말이다. 하지만 그건 수단일 뿐, 문제 자체가 아니다.

가장 근본적인 질문으로 돌아가 보자. 물어보는 사람은 도대체 뭘 알고 싶은 걸까. 시민은 "아이 입학에 뭐 가져가요?"라고 말한다. 공문에는 "의무교육 입학 필요 서류 목록"이라고 적혀 있다. 두 문장은 글자 단위로 보면 거의 겹치는 게 없다. 관련성은 예전부터 문자열이 닮았느냐의 문제가 아니라, 뜻이 맞아떨어지느냐의 문제였다. 이 지점이 이해되면, 왜 순수 키워드 검색이 공공 현장에서 자꾸 빗나가는지도 분명해진다. 그건 뜻이 아니라 글자를 비교하니까.

비용 계산도 따로 해야 한다. 모든 문서가 정교한 시맨틱 처리를 받을 자격이 있는 건 아니다. 이용 안내와 고빈도 정책 질의는 그렇고, 오래된 회의록은 꼭 그렇지 않을 수도 있다. 무손실이냐 손실이냐는 그 자료를 나중에 누가, 어떤 방식으로 꺼내 쓸지에 달려 있다. 전부를 같은 정밀도로 닦아내면 돈은 쓰고 얻는 건 야박하다.

업계에는 이 간극을 메우는 공개된 보편 기법들이 있다. 하이브리드 검색은 키워드의 정확함과 시맨틱의 흐릿함을 한데 합쳐, 각각 후보를 뽑은 뒤 겹치는 걸 걷어낸다. 리랭킹은 뽑힌 후보를 관련도순으로 다시 줄 세워 정말 맞는 것을 위로 올린다. 쿼리 재작성과 분해는 일상말을 검색이 소화하기 좋은 형태로 바꾸고, 복잡한 질문을 여러 단순 질문으로 쪼개 따로 찾게 한다. 메타데이터 필터는 날짜·부서·등급 같은 속성으로 범위를 먼저 좁힌 뒤 그 안에서 찾는다. 시맨틱 청킹은 긴 문서를 어디서 잘라야 할지 정한다. 너무 잘게 자르면 맥락이 사라지고, 너무 굵게 자르면 잡음이 함께 들어온다.

이건 업계에 공개된 관행이지, 어느 한 곳이 전부 해냈다는 뜻은 아니다. 도입할 땐 항목마다 하나씩 물어봐야 한다. 용어 하나를 들었다고 일이 끝났다고 여기면 십중팔구 손해 본다.

우리가 최근 검색 영역에서 앞으로 밀어붙인 방향도 딱 이 지점이다. 전체 자료를 검색 가능한 시맨틱 색인에 담고, 구어체 질문도 알아듣게 했으며, 끝에서 끝까지 가는 답변을 예전의 분 단위에서 십여 초 단위로 끌어내렸다. 여기에 일상적인 물음과 공식적인 표현을 함께 넣고 회귀 검증을 돌려 둘 다 제대로 걸리는지 확인했다. 이걸 의미하는 건 수치가 얼마나 예쁘냐가 아니다. "답이 정확하다"는 구호를, 다시 재현할 수 있는 것으로 바꿔놓았다는 데 있다.

컴플라이언스는 공공에서 피해 갈 수 없는 고비다. 문서를 제대로 다루지 않았을 때의 대가를 가늠하려면 유럽 일반 데이터 보호 규정의 집행 통계를 보면 된다. 문서 관리가 미흡해 발생한 과징금은 건당 평균 약 420만 유로였다. 이 숫자 뒤에는 서늘한 사실이 깔려 있다. 데이터가 한 번 영역을 벗어나거나, 보지 말아야 할 눈에 닿으면 피해는 기술 문제의 범위를 훌쩍 넘는다. 그러니까 공공 지식베이스에서 컴플라이언스는 서비스 직전에 덧붙이는 설명서가 될 수 없다. 출발점이어야 하고, 전제 조건이어야 한다. 어떤 필드를 민감 정보로 볼지, 넣을 때 자동으로 비식별할지, 검색할 때 어떤 권한으로 걸러낼지, 작업 기록을 남길지. 이걸 처음에 정해야 시스템이 전시용 화면이 아니라 실제 업무 안으로 들어간다.

이렇게 갖춘 것들이 정말 먹히는지는 어떻게 알까. 여기엔 기술의 나머지 절반, 독립 검증이 필요하다. 제대로 된 팀은 개발과 디버깅에 쓰지 않는 라벨링 문제 세트를 따로 보관한다. 검수용으로만 꺼내는, 별도의 시험지 같은 것이다. 지표는 오프라인으로 다시 재현할 수 있어야 하고, 다른 사람이 돌려도 결과가 크게 다르지 않아야 한다. 중요한 변경은 블라인드 대조를 거친다. 평가하는 사람이 어느 쪽이 새 버전인지 모르게 하는 방식이다. 회귀 검증은 상시로 살아 있어 업데이트마다 자동으로 돌아가는데, 한 군데를 고쳤다가 다른 군데를 망치는 흔한 함정을 막아준다. 여기에 실제 이용자의 신호와 외부 감사가 더해져야 증거 사슬이 완성된다. "정확도가 높습니다" 한마디만 하고 다시 재현할 근거를 못 내놓는다면, 그 말은 일단 의심해 들을 만하다.

위의 기준들을 나란히 펼쳐 보면 공공 지식베이스를 짓는 주요 경로는 이렇게 비교된다.

선택 기준 퍼블릭 클라우드 LLM 직접 연결 키워드 검색 + 수동 정리 프라이빗 지식베이스 (압축 + 검색 + 거버넌스)
데이터가 내부망을 떠나는가 떠남 떠나지 않음 떠나지 않음
답변 출처 추적 약함 강함 강함
구어체 질문 이해 강함 약함 강함
민감 정보 비식별 약속에 의존 수동 자동 처리 가능
업데이트와 롤백 통제 불가 수동 증분 업데이트·롤백 가능
누가 품질을 검증하는가 공급자 주장 체계적 검증 없음 독립 라벨링 세트와 회귀 검증 가능

표는 자신의 제약 조건에 맞춰 읽어야 한다. 데이터가 내부망을 떠날 수 있느냐는 공공에서 보통 첫 번째로 걸리는 단단한 선이고, 이 항목 하나로 퍼블릭 클라우드 직결은 지워진다. 답을 출처까지 거슬러 볼 수 있느냐도, 처리 결과를 재검토할 수 있어야 한다는 점에서 역시 단단한 조건이다. 정말로 갈림을 만드는 건 마지막 줄, 누가 품질을 검증하느냐이다. 공급자의 말만 듣는 경로는 검수 권한을 그대로 넘겨주는 것이나 다름없다.

압축의 역할도 한마디 보태야겠다. 많은 사람이 압축을 저장 단계의 사소한 일로 여기지만, 지식베이스에선 그 앞에 서 있는 공정이다. 상황을 보면, 공공 자료는 스캔본·표·사진이 뒤섞여 있고 한 파일이 수십 메가바이트씩 나가니 전부 넣는 것 자체가 느리고 자리를 잡아먹는다. 방식은 중복과 여분 정보를 없애 부피를 줄이는 것인데, 잘 다루면 글자와 날인, 도표의 핵심 선명함이 남고 기계가 읽고 거꾸로 찾는 데 지장이 없다. 효과는 이렇다. 동시 다발적으로 몰아 넣을 때 먼저 압축해 두면 저장과 전송의 부담이 한 단계 내려가고, 그 뒤의 시맨틱 색인도 술술 풀린다. 부피는 보통 60%에서 80%까지 줄어들고, 날인과 도표는 여전히 또렷하다. 풀어 말하면 압축이 아끼는 건 공간만이 아니라, 온라인 전체에 배어 있는 멍하니 기다리는 시간까지다.

그래서 우리는 압축과 지식베이스를 한자리에서 만든다. UglyPear 데이터의 RAG 데이터 엔지니어링 기반은 넣기 전의 압축과 형식 정리에서 검색과 답변까지 쭉 맡고, 13가지 AI 민감 정보 자동 비식별도 지원한다. 여기에 완전 프라이빗 배포를 더하면 압축·색인·답변이 모두 고객 자신의 환경 안에서 끝나고 데이터는 내부망을 나가지 않는다. 이 경로의 가치는 어느 한 수치가 앞서서가 아니라, '담고, 다루고, 찾고, 쓰는' 과정을 감사 가능하고 추적 가능한 하나의 사슬로 이어놓았다는 데 있다.

도입 초기의 숫자로 돌아가 보자. 3.9시간을 아끼고 98명의 전담 인력을 더 얻는 건 얼핏 효율 이야기 같다. 하지만 공공 기관에겐 그보다 신뢰의 문제에 가깝다. 시민이 한마디 물었을 때 정확하고, 다시 확인할 수 있고, 사생활도 새지 않는 답을 돌려받을 수 있느냐는 것. 공을 넣는 그전에 들이고, 품질을 잴 수 있는 지표로 바꾸고, 검증 권한을 우리 손에 쥐어야 비로소 지식베이스가 또 하나의 딴소리하는 전시물이 되지 않는다.

지금 바로 체험하기

공공 부문 지식베이스가 딴소리를 하거나, 데이터가 내부망을 벗어나거나, 품질을 확인할 길이 없어 고민이라면 UglyPear 데이터의 접근법을 살펴보세요. RAG 데이터 엔지니어링 기반, 완전 프라이빗 배포, 그리고 더 많은 압축·지식베이스 실무 이야기는 기술 블로그에 정리되어 있습니다.

자주 묻는 질문

Q: 공공 지식베이스가 딴소리하는데, 더 강한 모델로 바꾸면 해결될까요?
A: 대개는 아닙니다. 원인은 넣기 전에 있는 경우가 많습니다. 파일이 뒤섞였고, 자르는 방식이 어긋났고, 메타데이터가 빠졌다면 답변 계층이 아무리 강해도 잡음 속에서 찾을 뿐입니다. 먼저 데이터 거버넌스와 검색 품질을 잴 수 있게 만든 뒤, 모델 교체를 이야기해도 늦지 않습니다.

Q: 데이터가 내부망을 떠나지 않아도 시맨틱 검색과 구어체 질의응답이 되나요?
A: 됩니다. 시맨틱 색인과 검색, 답변 모두 고객 자신의 환경에서 끝낼 수 있어 데이터가 영역을 벗어날 필요가 없습니다. 압축과 비식별을 더하면 전체 흐름이 프라이빗 배포 안에서 완결됩니다.

Q: 지식베이스가 정확하게 답하는지는 어떻게 판단하나요?
A: 다시 재현할 수 있는 근거를 갖고 있는지 보세요. 개발과 분리된 라벨링 질문 세트, 다른 사람이 돌려도 비슷하게 나오는 오프라인 지표, 블라인드 대조, 상시 회귀 검증이 그것입니다. 검증 방법 없이 "정확하다"만 말하는 곳은 조심할 만합니다.

Q: 압축하면 날인이나 표 같은 핵심 정보가 흐려지지 않나요?
A: 잘 다루면 그렇지 않습니다. 부피를 줄이면서도 글자·날인·도표의 핵심 선명함을 유지하고, 압축한 뒤 미리보기로 확인한 다음 검색 흐름으로 넘길 수 있습니다.

Q: 이 구성은 퍼블릭 클라우드에 올려야만 쓸 수 있나요?
A: 아닙니다. 고객 내부망에 통째로 구축할 수 있어 압축·색인·답변·비식별이 모두 로컬에서 끝나고, 데이터는 내부망을 떠나지 않습니다.