FastChat
추론 및 컴퓨팅 인프라 · 부분유료
OpenAI 호환 API와 웹 UI를 갖춘 분산형 멀티모델 LLM 서빙 시스템
한눈에 보기
- 만든 곳
- LMSYS
- API
- 있음
- 쓸 수 있는 곳
- 웹, CLI, API
- 오픈소스
- Apache-2.0
- GitHub
- 별 39,549개 · Apache-2.0
FastChat는 어떤 AI인가요?
FastChat은 LLM 기반 챗봇의 학습, 서빙, 평가를 위한 공개 플랫폼이다. Vicuna, MT-Bench 같은 모델의 학습·평가 코드와, 웹 UI 및 OpenAI 호환 RESTful API를 갖춘 분산 다중 모델 서빙 시스템을 핵심 기능으로 든다. Chatbot Arena를 구동하며 70개 이상 LLM에 대해 1,000만 건 이상의 채팅 요청을 처리했다고 밝힌다. pip 또는 소스로 설치하고 명령줄로 모델과 대화할 수 있다.
- Vicuna·MT-Bench 등 학습·평가 코드
- 웹 UI와 OpenAI 호환 RESTful API를 갖춘 분산 다중 모델 서빙
- 명령줄(CLI) 추론
- 웹 GUI 서빙
- 파인튜닝
- Chatbot Arena 구동
FastChat, 이런 사람·일에 써요
- 여러 LLM을 나란히 비교하는 Chatbot Arena 같은 서비스 운영
- 챗봇 모델 학습과 MT-Bench 평가
가격
사용량 기반 종량제(클라우드/GPU)
GPU/추론 시간 또는 API 호출량 기준 종량 과금, 일부 오픈소스 셀프호스팅 옵션 존재
AI 지식 기반 추정 - 공식 사이트 확인 권장
FastChat와 비슷한 AI (대안)
FastChat와 대안 한눈에 비교
| AI | 가격 | 지도 속 조합 | 연결된 도구 | 무료 | 가장 싼 월 요금 | 한국어 |
|---|---|---|---|---|---|---|
| FastChat | 부분유료 | 0개 | 6개 | — | — | — |
| EXO | 무료 | 0개 | 6개 | — | — | 없음 |
| LM Studio | 부분유료 | 0개 | 6개 | 있음 | $20/월 | 없음 |
| ollama | 부분유료 | 0개 | 6개 | 있음 | $20/월 | — |
| Open WebUI | 부분유료 | 0개 | 5개 | — | — | 없음 |
비교한 5개 중 무료로 시작할 수 있는 곳은 2개예요. 유료 중 가장 싼 곳은 LM Studio($20/월)예요. 요금은 각 공식 페이지 기준이에요.
조합·연결 수는 AI 갤럭시 지도에 정리된 관계 기준(2026-10-26)이며 품질 순위가 아닙니다.
AI 갤럭시 지도에서 본 FastChat
- 추론 및 컴퓨팅 인프라 분야 AI 43개 가운데 하나예요.
- 다른 도구와 연결된 수 6개 — 같은 분야에서 6위예요.
자주 묻는 질문
FastChat, 무료로 쓸 수 있나요?
사용량 기반 종량제(클라우드/GPU). 요금은 바뀔 수 있으니 결제 전 공식 사이트에서 확인하세요.
FastChat 대신 쓸 수 있는 AI는?
같은 일을 하는 도구로 EXO, LM Studio, ollama, Open WebUI 등이 지도에 연결돼 있어요.
출처(공식 페이지)
공식 페이지에서 확인한 내용(확인일 2026-10-14). 요금·기능은 바뀔 수 있으니 결제 전 공식 사이트에서 다시 확인하세요.