Python 기반 AI 서비스를 개발하며
RAG · Information Retrieval · Hybrid Search를 중심으로
검색 품질을 측정하고 개선하는 시스템을 만들고 있습니다.
LLM의 성능은 좋은 Retrieval에서 시작된다고 생각합니다.
저는 단순히 RAG를 구현하는 것에 그치지 않고,
- 어떤 Retriever가 더 좋은 성능을 보이는지
- 왜 검색이 실패하는지
- 검색 품질을 어떻게 개선할 수 있는지
를 객관적인 평가 지표와 실패 사례 분석을 통해 검증하는 AI 시스템을 개발하고 있습니다.
현재는 Retriever Benchmark, Hybrid Search, Re-ranker를 중심으로 AI 검색 시스템을 개발하고 있습니다.
| 분야 | 기술 |
|---|---|
| Language | Python |
| AI / NLP | PyTorch · Hugging Face Transformers · Sentence Transformers |
| Information Retrieval | BM25 · Dense Retrieval · Hybrid Search (RRF) · Cross-Encoder Re-ranking |
| Data | Pandas · NumPy |
| Backend | Flask · Django |
| Tools | Git · GitHub · Jupyter Notebook |
Gold Label 기반 Retriever & Re-ranker Benchmark
Retriever와 Re-ranker를 동일한 Gold Label 기준으로 평가하여 검색 성능을 정량적으로 비교·분석하는 프로젝트입니다.
- BM25 · Dense Retrieval · Hybrid Search · Re-ranker 구현
- Gold Label Dataset 구축
- Hit@K · Recall@K · Precision@K · MRR · nDCG 평가
- Query 단위 실패 사례 분석
- End-to-End Benchmark Pipeline 구현
국내 법령 기반 Hybrid Search RAG
국내 법령 문서를 대상으로 Dense Retrieval과 BM25를 결합하고, Re-ranking을 적용하여 검색 정확도를 향상시킨 RAG 시스템입니다.
- 약 5,800건 법령 문서 구축
- Dense Retrieval + BM25 Hybrid Search
- Reciprocal Rank Fusion(RRF)
- Cross-Encoder Re-ranking
- Local LLM 기반 답변 생성
- 📄 개인정보·보안 분야 공개 문서 기반 Corpus 구축
- 🧩 1,800+ Text Chunks 생성
- ❓ 30개 Evaluation Query 및 Gold Label 구축
- 🔍 BM25 · Dense · Hybrid · Re-ranker 성능 비교
- 📈 Hit@K · Recall@K · Precision@K · MRR · nDCG 기반 평가
- 🔬 Query 단위 실패 사례 및 개선 사례 분석
- ⚙️ End-to-End Benchmark Pipeline 구현
- RAG
- Information Retrieval
- Hybrid Search
- AI Backend
- Search Quality Evaluation
- 📧 Email : zczc729@naver.com
- 📝 Velog : https://velog.io/@zczc729
- 💻 GitHub : https://github.com/zczc729