InfraDocs / Hardware
Hardware

조직 규모에 맞춘 3단계 라인업

부서 단위부터 지자체 본청, 감사 규정이 엄격한 데이터센터까지 대응합니다.

구성GPU메모리 / 스토리지수용 문서량탑재 모델
엔트리형 부서 단위RTX 4070 Ti Super 16GB64GB DDR5 · 1TB NVMe + 4TB HDD5~10만 페이지Qwen 2.5 7B
프로형 지자체 본청RTX 3090 / 4090 24GB32~64GB ECC · 2TB NVMe + 8TB HDD10~20만 페이지Qwen 2.5 14B
엔터프라이즈 감사 엄격RTX A5000 / A6000 / L40S데이터센터 공인 규격협의Qwen 2.5 14B+
Performance

실측 성능 지표

질의 응답 속도

1.8초
검색 + 재순위화 + 생성 전체 (10만 페이지 색인 기준)

표 구조 인식 정확도

94%
병합셀 포함 행정 PDF 500건 표본 검증

동시 접속 처리

30명
프로형(24GB) 기준, vLLM 서빙 시
Core Engineering

24GB 단일 GPU에 전체 스택을 통합

양자화와 계층별 메모리 관리로, 클라우드 없이 중소 부서도 도입 가능한 크기로 압축했습니다.

DeepDoc
bge-m3
Reranker
Qwen 2.5 14B — 11.0GB
KV Cache
표 파서 2.5GB
임베딩 2.5GB
재순위화 2.5GB
생성 LLM 11.0GB
버퍼 3.5GB