InfraDocs / Solution
Solution

5계층으로 완결되는 폐쇄망 파이프라인

모든 계층이 기관 내부 네트워크 안에서만 통신합니다. 인터넷 연결 자체가 필요 없습니다.

User Layer
Open WebUI부서별 봇 · 권한 분리 · ChatGPT 스타일 UI
API Layer
FastAPIREST 2개 엔드포인트 — /sync · /search
Search Core
RAGFlowDeepDocLlamaIndex표/병합셀 구조 인식 · 하이브리드 검색
Vector Store
Milvus임베디드 모드 — 별도 DB 서버 불필요, 단일 프로세스 내장
Inference
Qwen 2.5 14Bbge-m3bge-reranker4-bit 양자화 · 단일 GPU 서빙
Ingestion
pyhwpxn8nHWP/HWPX 무손실 변환 · NAS 자동 감지·색인
Integration

단 2줄의 API로 끝나는 연동

복잡한 SDK 설치나 관리 화면 학습이 필요 없습니다. 기존 시스템이 HTTP 요청 하나만 보내면 됩니다.

문서 저장

POST /sync
# 마크다운·HWP·PDF를 올리면
# 서버가 알아서 파싱 → 벡터화 → 색인

curl -X POST http://내부IP:8000/sync \
  -F "file=@2026_보조금_지침.hwp"

맥락 검색

GET /search
# 불필요한 인사말 없이
# 해당 원문 20~30줄만 마크다운으로 반환

curl "http://내부IP:8000/search?q=보조금_정산_기준"
왜 이렇게 단순한가 — 화려한 관리 화면이나 자동 기획서 작성 같은 다기능을 지향하지 않았습니다. 오직 "필요한 원문 조각을 가장 빠르게 찾아 반환하는 것" 한 가지에 집중했기 때문에, 2GB 메모리 환경에서도 가볍게 돌아가고 응답이 즉각적입니다. 기존 전자결재·문서관리시스템에 붙이는 데도 별도 미들웨어가 필요 없습니다.
Core Engineering

24GB 단일 GPU에 전체 스택을 통합

양자화와 계층별 메모리 관리로, 클라우드 없이 중소 부서도 도입 가능한 크기로 압축했습니다.

DeepDoc
bge-m3
Reranker
Qwen 2.5 14B — 11.0GB
KV Cache
표 파서 2.5GB
임베딩 2.5GB
재순위화 2.5GB
생성 LLM 11.0GB
버퍼 3.5GB
Comparison

클라우드 AI와의 결정적 차이

항목일반 클라우드 AI 챗봇InfraDocs
데이터 위치외부 사업자 서버로 전송기관 폐쇄망 내부에만 존재
감사 대응유출 경로 소명 필요물리적으로 유출 경로 없음
비용 구조토큰·API 호출당 종량 과금연간 정액 임차
복잡한 표 인식이미지로만 인식, 셀 구조 손실병합셀·단가표 구조 보존
HWP 지원미지원 또는 텍스트만 추출서식·표 유지 무손실 변환
망분리 환경사용 불가망분리 전제 설계
서비스 종료 리스크사업자 정책 변경 시 중단장비가 기관 내 상주
초기 구축 기간계정 발급 즉시4주 (설치·색인·교육 포함)