전체 글 (61) 썸네일형 리스트형 When to use GraphRAG [ Abstract ]특정 개념들 간의 계층적 구조를 활용해 정확한 추론을 지원하는 graphRAG가 강력한 패러다임으로 등장.개념적 장점에도 불구하고 기본 RAG보다 성능이 떨어지는 경우 많이 보임검증하기 위해 GraghRAGBench제안 [ Introduction ]기존 RAG 시스템은 (문맥정보 반영 X, 여러 문서에서 한계) 문제 발생이를 해결하기위해(초기) MS GraphRAG : hierarchical community-based search + local/global querying→ LightRAG : dual-level retrieval & graph-enhanced indexing→ GRAG : soft pruning + graph-aware prompt→ StructRAG, KAG 등.. vllm serving guide (gemma4) gemma4 model을 vllm을 통해서 서빙하기 위해선 vllm 0.20.0 / transformers 5.3.5 이상의 버전이 필요하다. 여기서 vllm 0.20.0을 설치하면 torch cuda의 버전이 13으로 올라간다.{pip install vllm을 실행하면 vLLM 0.20.0 설치 과정에서 torch==2.11.0+cu130 계열이 함께 설치되었다.}이때 nvidia-driver의 버전이 13미만의 경우 driver version old 문제를 야기하면서 serving이 진행되지 않는다. nvidia driver의 버전을 업그레이드 하는 방법이 제일 간편하나, cloud환경 등 못하는 경우가 존재{회사망 환경에서는 외부 PyTorch wheel index 접근이 제한되는 경우 발생 :.. Docker 환경구성 FastAPI + Streamlit 프로젝트를 Docker로 실행하기 (Docker, Image, Container, Compose 개념 정리)FastAPI와 Streamlit 프로젝트를 개발할 때 보통 다음과 같이 실행한다.# terminal 1uvicorn main:app --host 0.0.0.0 --port 8000# terminal 2streamlit run app.py 하지만 이 방식에는 몇 가지 문제가 있다.Python 버전 의존성패키지 버전 충돌다른 서버에서 동일 환경 재현 어려움Docker는 애플리케이션 실행 환경 자체를 이미지로 만들어 어디서든 동일하게 실행할 수 있도록 한다. 1. Docker 핵심 개념Docker는 다음 4가지 개념으로 이해하면 된다.개념의미Dockerfile실행 환.. Oh My Zsh 자동 명령어 제안 (Autosuggestion) 설정 터미널에서 이전에 실행했던 명령어가 회색으로 자동 제안되는 기능은 zsh-autosuggestions 플러그인을 사용하면 된다.1. zsh-autosuggestions 설치 git clone https://github.com/zsh-users/zsh-autosuggestions \${ZSH_CUSTOM:-~/.oh-my-zsh/custom}/plugins/zsh-autosuggestions 2. .zshrc에 플러그인 추가 plugins=(git zsh-autosuggestions) 3. 설정 적용 source ~/.zshrc 이후 명령어를 입력하면 이전에 사용했던 명령어가 회색으로 자동 제안되며 → 키로 바로 완성할 수 있다.같이 사용하면 좋은 플러그인zsh-syntax-highlighting명령어 문.. Automatic Instruction Evolving for Large Language Models 논문 리뷰 [Abstract]Evol-insturction은 모델의 성능 향상, 하지만 인간 전문가 지식이 필요함 본 논문은 인간 개입없이 instruction data을 진화시키는 방법 제안 지시문에 적합한 방법을 통해 개선 진행 [Introduction]Auto Evolve instruct: 전문가 작업없이 instruction 자동 분석 후 다양한 테스크에 맞게 고도화 {고정된 Evolving method 항상 만족 X}evolve llm결과 optimizer llm feedback 생성feedback 기반 개선 1-2 repeat → evolving method 개선 [Auto Evol-Instruct]사람 없이 LLM이 instruction 진화 방법을 자동으로 설계 initail evolving meth.. SYNTHETIC DATA GENERATION USING LARGE LANGUAGE MODELS: ADVANCES IN TEXT AND CODE 논문리뷰 논문 링크: (https://arxiv.org/pdf/2503.14023) { Text Generation 파트만 분석 } [Abstract]본 논문은 llm을 활용한 합성 데이터, 코드 데이터 최신 핵심 기법 정리하여 어떻게 활용하는지 분석.장단을 함께 논의하며 이를 완화하기 위한 방법과 향후 연구 제시 [ Introduction ]LLM은 자연어, 코드 생성에서 큰 성과를 냈지만, 고품질 학습 데이터 부족, 높은 라벨링 비용, 프라이버시 제약 문제가 남아있다. 본 논문은 합성 데이터 생성에 대한 포괄적인 요약 및 의견 제신techniques: prompt-based generation, retrieval-augmented generation, self-instruct methods, reinforem.. gpt_tool calling prompt 팩트 기반 검증 X -> 추후 local agent 개발 시 활용 예정 web## Namespace: web### Target channel: analysis### DescriptionUse this `web` tool to access information on the web.---Web information from this tool helps you produce accurate, up-to-date, comprehensive, and trustworthy responses.Use the `web` tool when the user is requesting factual, accurate, recent, time-sensitive, verifiable, and trustworthy informati.. From Local to Global: A GraphRAG Approach to Query-Focused Summarization 논문리뷰 {논문 링크} [ Abstract ]RAG는 안본 데이터에 대해서 답변 수행, 그러나 전체 맥락 파악 질문에 대한 답변 불가 기존의 전체 맥락 답변의 장점과 RAG 방식의 장점을 결합한 GraphRAG 제안 Graph RAG의 graph index 구성 2-step전체 문서에서 Entity Knowledge Graph 생성(using LLM)연관 Entites에서 community요약 생성 → 각 요약 종합하여 최종 응답 생성global sensemaking question에서 좋은 성능 달성[ Introduction ]LLM context size 제한 있어 RAG 방법론 사용 → but 전체 맥락 답변 불가 GrahpRAGknowledge graph 생성 (node: entity, edges: ent.. 이전 1 2 3 4 ··· 8 다음