Graph Retrieval-Augmented Generation - A Survey
Graph Retrieval-Augmented Generation (GraphRAG)을 중심으로, 세 가지 주요 관련 영역과 비교 분석을 수행함:
Section · 01
Papers
Notes on papers I read.
11–20 of 28 · Page 2 / 3
- 11
- 12
DeepSeek-MoE 리뷰
Mixture-of-Experts(MoE) 아키텍처의 기본 개념과 기존 한계를 설명하고 수식적으로 정리함.
- 13
- 14
DeepSeek-V3 리뷰
DeepSeek-V3는 성능과 비용 효율성을 동시에 추구하기 위해 기존 DeepSeek-V2에서 검증된 두 가지 주요 아키텍처를 채택하고 있음.
- 15
- 16
From Local to Global A GraphRAG Approach to Query-Focused Summarization
RA는 LLM이 처리할 수 없는 방대한 양의 데이터를 외부에서 검색하고 이를 context로 활용함으로써 질문에 응답할 수 있도록 지원하는 접근 방식. 이는 LLM의 context window 크기 제한으로 인해 전체 데이터를 한 번에 넣을 수 없을 때 유용하게 활용됨.
- 17
InPars Data Augmentation for Information Retrieval using Large Language Models, Bonifacio et al., arXiv 2022
합성된 질문과 기존 데이터셋 간 분포 차이로 인해 성능 저하가 발생할 수 있음. 향후 연구에서는 다중 도메인 적응 실험을 통해 분포 차이를 해결하고, 다양한 도메인에 걸쳐 모델의 일반화를 강화할 필요가 있음.
- 18
InPars-v2 Large Language Models as Efficient Dataset Generators for Information Retrieval, Jeronymo et al., arXiv 2023
기존 InPars와 Promptagator는 Proprietary LLM(GPT-3 등)을 사용해 고품질 데이터를 생성했으나, 비용과 접근성에 한계가 있었음. 본 연구는 오픈 소스 LLM(GPT-J)을 사용해 데이터 생성 비용을 줄이고, 정보 검색 모델의 성능을 극대화하는 것을 목표로 함.
- 19
- 20