AI 외주개발사 고르는 기준: PoC·데이터·운영까지 보는 법 [2026]
AI 외주개발사를 공통 평가 세트, 치명적 실패 게이트, 데이터 권한, 제3자 위험, 운영·반복비용과 독립 인수 증거로 비교하는 실무 가이드입니다.
이 글을 쓴 알파카랩스카카오·네이버·쿠팡 출신, 재하청 0%, 대기업·공공기관 등 18개사+ 레퍼런스
AI 외주개발사를 고를 때 가장 강한 증거는 화려한 데모가 아니라 우리 업무 평가 세트에서 재현되는 결과와 실패 처리입니다. 업체가 데이터 권한, 기준선, 품질·안전·비용 지표, 운영 모니터링, 모델 교체와 인수 절차를 계약 가능한 산출물로 제시하는지 확인하세요.
모델보다 업무 판정과 기준선을 먼저 준다#
“사내 챗봇을 만들어 달라” 대신 누가 어떤 결정을 위해 어떤 입력을 쓰고 현재 얼마나 걸리는지 적습니다. 정답을 자동 생성하기 어려운 업무라면 전문가 판정 기준과 불일치 처리 절차를 먼저 정의하세요.
| 요구사항 | 필수 질문 | 제안 증거 | 위험 신호 |
|---|---|---|---|
| 업무 | 어떤 결정·행동을 돕나 | 현재 흐름·기준선 | 기능명만 나열 |
| 데이터 | 출처·권한·최신성은 | 목록·민감도·품질 진단 | 파일만 받으면 된다고 함 |
| 평가 | 무엇을 누가 판정하나 | 평가 세트·지표·임계치 | 데모 체감만 제시 |
| 운영 | 오류·변경·비용을 누가 맡나 | 런북·모니터링·SLA | 구축 뒤 범위 없음 |
공통 평가 세트로 후보사를 비교한다#
각 업체가 다른 데모를 보여주면 비교할 수 없습니다. 정상 사례뿐 아니라 모호한 질문, 오래된 문서, 권한 없는 요청, 근거 없음, 악의적 입력을 포함한 공통 세트를 제공합니다. 업체별 튜닝 범위와 실행 조건을 기록하고 결과를 같은 판정표로 검토하세요.
| 평가 축 | 측정 단위 | 치명적 실패 | 운영 연결 |
|---|---|---|---|
| 업무 품질 | 정확·완전·유용 판정 | 잘못된 승인·행동 | 사람 검토 범위 |
| 근거 | 출처 일치·최신성 | 존재하지 않는 근거 | 재색인·문서 책임 |
| 권한·안전 | 차단·거부 성공률 | 무단 데이터 노출 | 감사·사고 대응 |
| 성능·비용 | 지연·호출·월 비용 | 한도 없는 폭증 | 알림·예산 차단 |
실무 시나리오: 문서 검색 AI 후보 3곳 평가#
세 업체가 각자 준비한 데모에서는 모두 잘 답했다고 가정하겠습니다. 회사가 만든 60개 평가 사례를 같은 권한·데이터 스냅숏에서 실행하고, 출처 없는 답변과 권한 밖 문서 노출은 필수 탈락 조건으로 둡니다. 통과 후보는 월 예상량에서 지연·비용을 측정하고 장애·재색인 훈련까지 수행합니다.
| 게이트 | 업체 제출물 | 회사 검증 | 인수 결과 |
|---|---|---|---|
| 데이터 | 수집·처리 설계 | 권한·삭제·재위탁 검토 | 처리 범위 확정 |
| 평가 | 실행 결과·로그 | 블라인드 재채점 | 임계치·결함 목록 |
| 운영 | 모니터링·런북 | 장애·변경 훈련 | 복구시간·책임자 |
| 인수 | 코드·설정·문서 | 새 환경 재현 | 독립 배포·평가 |
제3자 모델·데이터 위험을 공급망으로 관리한다#
NIST AI RMF Core는 제3자 소프트웨어·데이터와 공급망에서 발생하는 AI 위험을 다룰 정책과 절차를 마련하도록 제시합니다. 자발적 프레임워크이며 특정 업체 인증이 아닙니다. 모델 제공자, 데이터 처리자, 호스팅, 재위탁의 책임과 변경 통지를 계약에 연결하는 기준으로 활용하세요.
견적을 산출물·반복비용·변경 조건으로 나눈다#
데이터 정리, 평가 세트, 애플리케이션, 모델·검색 사용료, 모니터링, 운영 지원, 고도화를 분리합니다. 모델 가격·정책 변경과 사용량 초과 시 승인 절차도 정하세요. RFP 구조는 개발 외주 RFP, 종결 기준은 AI PoC 종료 기준을 참고할 수 있습니다.
새 환경에서 평가와 운영을 재현한다#
회사 명의의 저장소·클라우드에서 배포하고 평가 세트를 다시 실행하세요. 모델 교체, 데이터 삭제, 키 회전, 권한 변경, 비용 한도, 롤백을 검증합니다. 평가 지표는 기업 AI 평가 지표, 종속성 통제는 AI 공급사 종속 방지와 함께 볼 수 있습니다.
핵심 요약
- ✓업체 데모보다 회사 공통 평가 세트와 치명적 실패 게이트를 먼저 적용한다
- ✓업무 기준선·데이터 권한·품질·안전·지연·비용 임계치를 착수 전에 고정한다
- ✓제3자 모델·데이터·호스팅·재위탁 책임과 변경 통지를 계약에 넣는다
- ✓구축비와 모델·검색·모니터링·운영 반복비용을 분리한다
- ✓회사 환경에서 배포·평가·키 회전·모델 교체·롤백을 재현해 인수한다
자주 묻는 질문