공공·금융 RAG 챗봇 도입 사례와 운영 기준 [2026]

공공·금융 RAG 챗봇은 내부 문서를 검색해 말하는 챗봇이 아니라 문서 등급·사용자 권한·유효일·근거 구간·답변 위험·사람 승인을 질의마다 연결하는 통제 시스템입니다. 성공 사례를 기능 목록으로 복제하기보다 어떤 업무를 읽기 전용으로 제한했고, 근거가 없을 때 어떻게 거절하며, 오답·누출·문서 변경을 누가 복구하는지 운영 구조를 봐야 합니다.

공공에서는 오래된 제도 안내가 민원 피해로 이어지고 금융에서는 상품·규정·고객 상황의 작은 차이가 부적합 안내나 개인정보 노출로 번질 수 있습니다. 답변에 링크가 있다는 사실만으로 사용자의 권한, 원문의 최신성, 인용 구간의 적합성이 보장되지는 않습니다.

아래 사례는 특정 기관의 성과를 재현하거나 보증하는 소개가 아니라 행정 안내와 금융 내부지원에서 반복되는 설계 패턴을 익명화한 운영 시나리오입니다. 실제 적용은 기관별 법률·보안·망·클라우드·기록·모델 계약을 별도로 검토해야 합니다.

개인정보·금융 감독·AI 위험관리 원칙의 실제 적용 범위를 확인한다#

개인정보 보호법은 개인정보 처리의 기본 의무를, 전자금융감독규정은 금융회사·전자금융업자의 정보기술·보안 통제 틀을 제공합니다. NIST AI RMF는 AI 위험을 거버넌스·측정·관리하는 프레임워크입니다. 망분리·클라우드·모델 외부전송·기록 의무의 구체 적용은 기관 유형, 데이터, 배치 방식과 현행 감독·내부 기준에 따라 별도 판단해야 합니다.

• 국가법령정보센터 개인정보 보호법: 질의·문서·로그의 개인정보 처리 기본 의무
• 국가법령정보센터 전자금융감독규정: 전자금융 정보기술·보안 통제의 현행 규정
• NIST AI Risk Management Framework: AI 위험 거버넌스·측정·관리 프레임워크

문서 온보딩·권한 회귀·오답 심의·영향 추적을 서비스 운영으로 만든다#

첫 적용은 읽기 전용 저위험 업무 하나로 제한합니다. 문서마다 소유 부서, 공개등급, 대상 역할, 시행·만료일, 대체 문서와 삭제 조건을 등록하고 원본 권한을 검색 필터까지 전달합니다. 고객정보가 필요한 업무는 비식별 데이터로 먼저 검증합니다.

평가 세트는 정상 질문뿐 아니라 다른 부서·다른 고객 요청, 폐지 규정, 출처 충돌, 숫자·표, 근거 없는 질문, 프롬프트 주입과 장문 문서를 포함합니다. 모델·임베딩·청킹·프롬프트·권한 정책이 바뀔 때 전체 세트를 재실행하고 치명 실패는 배포를 막습니다.

운영자는 근거 없음, 안전 거절, 권한 차단, 사람 이관, 오답 신고, 문서 갱신 지연과 질의당 비용을 봅니다. 모든 답변에 질의·검색 문서·청크·정책·모델 버전을 남겨 사고 때 영향 답변을 찾고 특정 문서·색인·모델을 단계적으로 롤백합니다.

공공 사업 요구사항으로 바꾸는 법은 공공 AI 챗봇 RFP 가이드에서 확인하세요. RAG와 파인튜닝 선택 기준은 RAG와 파인튜닝 비교를 함께 보세요. 금융권 AI 백오피스 범위는 금융 앱 보안 체크리스트도 참고할 수 있습니다.

교차 권한·만료·충돌·장애에서 거절과 복구가 재현되면 승인한다#

검수에는 같은 이름의 다른 제도·상품, 시행 전·폐지 문서, 원문 충돌, 표 셀 병합, OCR 오류, 다른 고객·부서 문서, 프롬프트 주입, 검색 0건, 모델 타임아웃과 비용 한도 초과를 포함합니다. 답을 만들지 못하는 상황에서 안전하게 멈추는지를 별도로 평가합니다.

인수 시험에서는 기관 계정에서 문서 삭제·권한 변경·색인 롤백·모델 차단·로그 조회·평가 실행을 수행합니다. 대체 운영자가 잘못된 답변 하나로부터 같은 문서와 정책을 사용한 영향 답변을 찾고 노출 차단과 정정 절차를 완료할 수 있어야 합니다.