LangChain vs LlamaIndex 무엇을 쓸까, 선택 기준
문서 검색이 목적이면 LlamaIndex, 도구를 엮는 에이전트까지 가면 LangChain. 결론은 "가려는 항로가 정한다".
항목별 점수판
상황별 승자
자주 묻는 것
조금 더 자세히
LangChain과 LlamaIndex, 뭐가 다른 별인가요?
둘 다 RAG를 만드는 오픈소스 프레임워크인데, 중심이 달라요. RAG는 AI가 답하기 전에 내 문서에서 관련 내용을 찾아 참고하게 하는 방식입니다. 사내 문서를 챗봇에 읽히고 싶을 때 가장 먼저 만나는 방법이에요.
IBM 해설은 LlamaIndex를 텍스트 데이터의 수집·색인·검색에 집중한 도구로 설명합니다. 그래서 비교적 단순한 워크플로와 간단한 AI 앱에 어울려요. 예전 이름은 GPT Index입니다. LangChain은 구성 요소를 이어 붙이는 모듈식 구조라서, 폭넓은 자연어 처리와 스스로 도구를 골라 일을 진행하는 에이전틱 AI 앱에 강하다고 합니다.
지원 언어는 LangChain이 Python과 JavaScript, LlamaIndex가 Python과 TypeScript입니다. 데이터 연결은 LlamaIndex가 160개 이상의 데이터 형식과 LlamaHub 커넥터를, LangChain이 문서 로더로 협업 도구·유튜브 같은 웹 콘텐츠·데이터베이스를 붙입니다. 검색은 LlamaIndex가 의미적 유사성에 맞춰 설계됐고, LangChain은 키워드 검색 같은 기법을 섞을 수 있어요. LangChain은 평가용 LangSmith와 배포용 LangServe도 갖췄습니다. LlamaIndex의 평가·배포 도구는 이번에 확인한 자료에 없었어요.
문서 검색 챗봇만 만들면 어느 별이 가까운가요?
이 경우는 LlamaIndex 쪽이 출발이 가볍습니다. 데이터 로더로 파일, DB, API를 가져오고, 임베딩으로 검색 가능한 인덱스를 만들어요. 임베딩은 문장을 숫자 벡터로 바꿔서 의미가 비슷한 글을 찾게 하는 기술입니다. 그다음 인덱스 자체를 쿼리 엔진처럼 쓰는 구조예요. Skywork 자료는 이를 단순한 인터페이스로 고급 검색을 하는 방식이라고 표현합니다.
LlamaHub를 쓰면 API, SQL 데이터베이스, Google Workspace처럼 서로 다른 소스를 하나의 워크플로로 묶을 수도 있어요. 공식 개발 문서는 이 프레임워크를 RAG와 에이전트를 위한 원래의 오픈소스 툴킷이라고 소개합니다. LlamaIndex 공식 문서에서 시작 페이지를 볼 수 있어요.
반대로 LangChain은 청킹, 즉 문서를 적당한 크기로 쪼개는 도구를 여러 개 내주고 개발자가 직접 조합하는 방식입니다. 같은 일을 하더라도 손이 더 가요. 대신 그만큼 내 마음대로 조절할 수 있다는 뜻이기도 합니다.
에이전트나 자동화까지 만들 계획이라면요?
이쪽 항로는 LangChain이 낫습니다. 공식 문서는 에이전트를 모델과 하네스의 합으로 설명해요. 하네스는 프롬프트, 도구, 동작을 조절하는 미들웨어처럼 모델 루프를 둘러싼 모든 것입니다. 최소한이면서 설정 폭이 넓은 하네스로 create_agent를 제공한다고 밝혀요. LangChain 공식 개요에서 확인할 수 있습니다.
Skywork 자료는 LangChain의 에이전트 역량을 매우 강력하다고 평가하고, LangGraph의 순환 그래프로 다단계 추론을 다룬다고 소개합니다. 같은 자료에 도구 통합이 700개 이상이라는 말도 있지만 그 자료의 주장이니, 도입 전에 공식 문서로 직접 확인하는 편이 안전해요.
대화 기억 기능도 있습니다. 전체 대화를 유지하거나, 과거를 요약하거나, 최근 일부만 남기는 식으로 고를 수 있어요. 만든 앱을 테스트 데이터셋으로 평가하는 LangSmith까지 같은 진영에서 이어 쓸 수 있다는 점도 장점입니다.
각 별의 아쉬운 점은 무엇인가요?
LangChain의 약점은 학습 곡선이에요. Skywork 자료는 높은 학습 곡선과 디버깅 복잡성을 단점으로 꼽았습니다. 유연한 만큼 고를 것이 많아서, 입문자는 어디서부터 손댈지 막막할 수 있어요.
LlamaIndex는 범용 에이전트 기능이 상대적으로 제한적이라는 평가가 같은 자료에 있습니다. IBM 해설도 LlamaIndex를 텍스트 기반 데이터 중심으로 설명하고, 이미지와 텍스트를 지원하는 반면 LangChain은 이미지·PDF에 더해 온라인 비디오와 API 데이터까지 불러올 수 있다고 비교합니다. 영상이나 온라인 소스까지 폭넓게 다루려면 LangChain이 더 다양하다는 이야기예요.
헷갈리기 쉬운 부분이 하나 더 있어요. 두 도구는 경쟁 관계처럼 보이지만 함께 쓰는 하이브리드 구성도 가능합니다. 반드시 하나만 골라야 하는 건 아니에요. 다만 구성이 복잡해지니 처음에는 한 쪽으로 출발하는 걸 권합니다.
그래서 나는 어느 별부터 출발할까요? 비용은요?
사내 문서나 PDF 묶음에 질문하는 챗봇이 목표이고 개발 경험이 얕다면 LlamaIndex부터. 검색 품질을 다듬는 데 시간을 쓰게 됩니다. 검색 결과를 받아 외부 API를 부르고, 결과에 따라 다음 행동을 정하는 업무 자동화가 목표라면 LangChain이 낫습니다. 둘 다 애매하면 먼저 내 데이터가 어떤 형식인지 적어 보세요. 형식이 다양하고 흐름이 길수록 LangChain, 텍스트 중심에 질문과 답이 전부라면 LlamaIndex 쪽으로 기웁니다.
비용은 이렇게 봐 주세요. 두 프레임워크 자체는 오픈소스 툴킷으로 소개되지만, 실제로 쓰는 LLM 호출 요금이나 LlamaCloud, LangSmith 같은 부가 서비스 요금은 확인한 자료에 없었어요. 각 공식 요금 화면을 확인하세요. 참고로 두 도구를 함께 다루는 유료 전자책 Leanpub 책은 2026-08-14에 마지막으로 업데이트됐고, 구매 후 60일 이내 환불이 가능하다고 안내됩니다. 필수는 아니니 공식 문서로 먼저 시작해도 충분해요.
이 글은 공식 문서 요약과 IBM, Skywork 해설을 바탕으로 한 비교이고, 직접 만들어 돌려 본 후기가 아닙니다. 일부 출처는 검색 요약이어서 세부 기능은 공식 문서에서 다시 확인하세요.
✦ 3D 지도에서 이 별 보러 가기