AI 답변 출처 추적: 온톨로지 provenance 설계 가이드
AI 답변의 문장과 원문 스팬, 생성 활동, 모델·에이전트 이력을 연결하는 provenance 설계와 검증·보류 기준, W3C PROV의 적용 범위를 정리합니다.
이 글을 쓴 알파카랩스카카오·네이버·쿠팡 출신, 재하청 0%, 대기업·공공기관 등 18개사+ 레퍼런스
2026년 8월 29일 기준, AI 책임자는 답변마다 원문 스팬과 생성 이력을 연결해야 합니다. 원문을 찾지 못하면 답변을 보류해야 합니다.
출처 URL은 문서의 위치만 알려 줍니다. 답변의 어느 문장이 원문의 어느 구간에서 나왔고, 어떤 검색·생성 활동과 시스템 또는 사람이 그 결과에 관여했는지 다시 연결할 수 있어야 답변 근거를 검토할 수 있습니다.
책임에 따라 provenance의 시작점을 고르십시오#
- AI 제품 책임자는 사용자가 보는 답변 문장과 원문 스팬의 연결부터 확인합니다.
- 데이터 책임자는 원문 문서·청크의 버전과 파생 관계가 보존되는지 확인합니다.
- 감사·보안 책임자는 생성 활동에 사용한 모델·프롬프트·인덱스 버전과 승인 주체를 재구성할 수 있는지 확인합니다.
AI 답변에는 어떤 provenance를 남겨야 하나요?#
아래 표는 W3C PROV 개요와 W3C PROV-O 권고안의 Entity·Activity·Agent 개념을 참고해 답변 추적에 적용한 알파카랩스의 D등급 관측 가설입니다. 2026년 8월 29일 기준이며, W3C가 특정 제품 필드를 요구한다는 뜻은 아닙니다.
| 추적 단위 | 최소 기록 | 검증 질문 | 불일치 시 처리 | 근거·확인일 |
|---|---|---|---|---|
| 답변 주장 | 문장 식별자와 원문 스팬 | 원문에서 같은 근거를 다시 찾을 수 있는가 | 답변 보류 | D 자사 가설, 2026-08-29 |
| 출처 Entity | 문서·청크 식별자와 버전 | 답변 생성 당시 원문인가 | 새 버전으로 재검증 | D 자사 가설, 2026-08-29 |
| 생성 Activity | 질의·검색·모델·프롬프트 버전 | 같은 입력 경로를 재구성할 수 있는가 | 근거 미확인 표시 | D 자사 가설, 2026-08-29 |
| 시스템·사람 Agent | 생성 시스템과 검수자 식별자 | 누가 생성·승인했는가 | 승인 권한 재확인 | D 자사 가설, 2026-08-29 |
| 파생 관계 | 인용·요약·변환의 관계와 시점 | 원문에서 답변까지 변환이 설명되는가 | 사람 검수 | D 자사 가설, 2026-08-29 |
URL에서 원문 스팬과 생성 이력으로 확장하십시오#
- 답변을 검증할 수 있는 주장 단위로 나눕니다.
- 각 주장에 문서 식별자뿐 아니라 원문 구간과 문서 버전을 연결합니다.
- 질의, 검색 인덱스, 모델·프롬프트와 스키마 버전을 생성 활동으로 기록합니다.
- 자동 생성 시스템과 사람 검수자를 행위자로 구분합니다.
- 원문을 찾지 못하거나 버전이 달라지면 답변을 보류하고 재검증합니다.
제품 범위는 Ontokit 소개에서 확인할 수 있습니다. ERP 데이터의 용어·출처 경계를 먼저 정한다면 ERP 데이터 AI 에이전트 구축 가이드를, 요청부터 승인·실행까지의 추적은 AI 감사 로그 요구사항을 함께 참고할 수 있습니다.
표준과 내부 구현에서 확인한 범위#
B 공식 원문, 2026년 8월 29일 확인. W3C PROV 개요는 provenance를 데이터나 대상의 생산에 관여한 entity, activity와 사람에 관한 정보로 설명하며 품질·신뢰성 평가에 사용할 수 있다고 밝힙니다. PROV-O는 Entity·Activity·Agent와 이들 사이 관계를 표현하고 시스템 간 교환할 수 있는 OWL2 구조를 제공하며 응용 분야별 확장을 허용합니다. PROV 개요는 2013년 4월 30일 W3C Working Group Note이고, PROV-O는 같은 날 발행된 W3C 권고안입니다.
C 자기표기, 2026년 8월 29일 확인. Ontokit 내부 검증기는 모델이 제시한 인용문을 원문 청크에서 다시 찾고 실제 위치로 오프셋을 계산합니다. 인용문이 없거나 위치가 맞지 않으면 범위를 안전한 구간으로 제한하고 신뢰도를 낮춰 사람 검수 대상으로 표시합니다. 내부 테스트는 일치, 위치만 있는 경우, 불일치, 누락과 범위 초과를 다룹니다.
사람이 추출값을 편집 승인하는 내부 흐름은 원문 청크와 provenance 범위를 함께 갱신하고 감사 전후값을 남깁니다. 다만 이 내부 데이터 모델이 W3C PROV-O를 그대로 구현한다는 증거는 없으므로 같은 구조로 단정하지 않습니다. 실제 답변 정확도, 검수 감소율과 응답 성능은 미확인입니다.
출처 링크만 남기면 무엇이 실패하나요?#
문서 URL만 저장하면 긴 문서에서 근거 문장을 다시 찾기 어렵습니다. 오프셋만 저장하고 문서 버전을 남기지 않으면 원문 수정 뒤 다른 문장을 가리킬 수 있습니다. 답변은 그대로인데 인덱스나 프롬프트가 바뀌어도 생성 이력이 없으면 재현할 수 없습니다.
모든 내부 처리 단계를 사용자 화면에 노출할 필요는 없습니다. 다만 사용자용 출처 표시는 짧게 유지하더라도 감사 기록에는 주장·원문·활동·행위자의 연결을 보존해야 합니다.
자주 묻는 질문