추론 및 컴퓨팅 인프라 AI 43개
Inference & Compute 분야의 AI 서비스를 모았습니다. 이름을 누르면 자세한 설명·가격·대안을 볼 수 있어요.
추론 및 컴퓨팅 인프라 무료·요금·한국어 비교
공식 요금 자료가 있는 18개를 묶었어요. 무료로 시작할 수 있는 곳 9개, 한국어 화면이 있는 곳 9개예요. 유료 중 가장 싼 곳은 LM Studio($20/월)예요.
| 도구 | 무료 | 가장 싼 월 요금 | 한국어 | 쓰는 곳 |
|---|---|---|---|---|
| AWS Bedrock | 없음 | — | UI 한국어 | 웹, API, CLI |
| AWS SageMaker | 없음 | — | UI 한국어 | 웹, API, CLI |
| Azure ML | 없음 | — | UI 한국어 | 웹, API |
| Cerebras WSE | 있음 | — | 없음 | 웹, API |
| Cloudflare AI | 있음 | — | UI 한국어 | 웹, API |
| CUDA | 있음 | — | 없음 | 윈도 |
| Databricks | 있음 | — | UI 한국어 | — |
| Fireworks AI | 없음 | — | 없음 | 웹, CLI, API |
| Google Vertex AI | 있음 | — | UI 한국어 | 웹, API |
| Heurist | 있음 | — | 없음 | 웹, API |
| LM Studio | 있음 | $20/월 | 없음 | CLI, API |
| Nebius | 없음 | — | 없음 | 웹, CLI |
| ollama | 있음 | $20/월 | — | 윈도, 맥, CLI |
| RunPod | 없음 | — | 없음 | API |
| Seldon Core | 없음 | — | 없음 | API |
| SillyTavern | 있음 | — | UI 한국어 | 윈도, 맥, 리눅스 |
| TensorRT | 없음 | — | UI 한국어 | 윈도, API |
| Triton | 없음 | — | UI 한국어 | 윈도, API |
각 도구 공식 요금 페이지 기준(2026-10-14까지 확인). '—'는 공식 페이지에 적혀 있지 않은 것이에요. 요금은 바뀌니 결제 전에 다시 확인하세요.
고르는 기준
- 먼저 무료가 있는 9곳 중에서 써 보고, 한도에 걸릴 때 유료를 보세요.
- 한국어 화면이 꼭 필요하면 한국어 칸이 '없음'이 아닌 9곳부터 보세요.
- 표는 월 결제 기준이에요. 연간 결제가 더 싼 곳이 많아요.
Akash Network
GPU 노드 기반 AI 워크로드용 탈중앙 클라우드 컴퓨팅 마켓플레이스
자세히 보기 →무료Apple MLX
애플 실리콘용 ML 연구 배열 프레임워크
자세히 보기 →부분유료AWS Bedrock
앤스로픽·메타·미스트랄 등의 파운데이션 모델을 제공하는 AWS 관리형 서비스
자세히 보기 →부분유료AWS SageMaker
아마존의 완전관리형 ML 플랫폼
자세히 보기 →부분유료Azure ML
마이크로소프트 애저의 클라우드 ML 서비스
자세히 보기 →부분유료BentoML
ML 기반 서비스를 만들기 위한 프레임워크
자세히 보기 →부분유료Cerebras WSE
가장 빠른 LLM 학습·추론을 위한 웨이퍼 스케일 엔진
자세히 보기 →부분유료Cloudflare AI
콜드스타트 없는 Cloudflare Workers AI 기반 엣지 추론
자세히 보기 →부분유료CoreWeave
AI/ML 워크로드용 GPU 가속 클라우드
자세히 보기 →부분유료CUDA
NVIDIA의 병렬 컴퓨팅 플랫폼
자세히 보기 →부분유료Databricks
통합 데이터 분석·AI 플랫폼
자세히 보기 →부분유료DeepSpeed
마이크로소프트의 딥러닝 최적화 라이브러리
자세히 보기 →무료EXO
평범한 하드웨어를 클러스터링해 자체 기기에서 프런티어 AI를 구동
자세히 보기 →부분유료FastChat
OpenAI 호환 API와 웹 UI를 갖춘 분산형 멀티모델 LLM 서빙 시스템
자세히 보기 →부분유료Fireworks AI
100ms 미만 지연의 빠르고 저렴한 오픈소스 모델 추론 API
자세히 보기 →부분유료Google Vertex AI
구글 클라우드의 통합 ML 플랫폼
자세히 보기 →부분유료Groq LPU
초고속 LLM 추론용 언어처리유닛(LPU)
자세히 보기 →부분유료Heurist
저지연·검증 가능한 AI 모델 추론을 위한 탈중앙 GPU 네트워크
자세히 보기 →부분유료Horovod
분산 딥러닝 학습 프레임워크
자세히 보기 →부분유료llama.cpp
로컬 배포용 C/C++ 기반 LLM 추론
자세히 보기 →부분유료LM Studio
오픈웨이트 LLM을 로컬에서 찾아 내려받아 실행하는 데스크톱 앱
자세히 보기 →부분유료Megatron-LM
NVIDIA의 대규모 트랜스포머 학습
자세히 보기 →무료Nanotron
허깅페이스의 미니멀리스트 대형 언어모델 학습 도구
자세히 보기 →부분유료Nebius
GPU 클러스터와 Token Factory 관리형 추론을 제공하는 AI 클라우드
자세히 보기 →부분유료ollama
명령어 하나로 로컬 LLM(Llama, Qwen, Gemma 등)을 구동
자세히 보기 →부분유료ONNX Runtime
크로스플랫폼 ML 모델 가속기
자세히 보기 →부분유료Open WebUI
Ollama·OpenAI 호환 API·RAG를 지원하는 로컬·클라우드 LLM용 자체호스팅 채팅 UI
자세히 보기 →부분유료ROCm
AMD의 오픈소스 GPU 컴퓨팅 플랫폼
자세히 보기 →부분유료RunPod
학습·추론·서버리스 AI를 위한 개발자 친화 GPU 클라우드
자세히 보기 →부분유료SambaNova
대규모 고속 추론용 자체 RDU 칩을 갖춘 풀스택 AI 플랫폼
자세히 보기 →부분유료Seldon Core
쿠버네티스 네이티브 ML 배포 플랫폼
자세히 보기 →부분유료SGLang
구조화 생성(structured generation)을 지원하는 고속 LLM·VLM 서빙 프레임워크
자세히 보기 →부분유료SillyTavern
깊은 커스터마이징이 가능한, 로컬 설치형 텍스트·이미지·음성 LLM UI
자세히 보기 →부분유료Sol Engine
NVIDIA의 영상 디퓨전 추론용 학습 불필요 가속 프레임워크
자세히 보기 →부분유료TensorRT
NVIDIA의 고성능 추론 SDK
자세히 보기 →부분유료TensorRT-LLM
TensorRT 가속을 활용하는 NVIDIA GPU용 LLM 추론 프레임워크
자세히 보기 →부분유료Tenstorrent
오픈소스 소프트웨어 스택을 갖춘 AI 하드웨어
자세히 보기 →부분유료TorchServe
PyTorch 모델 서빙 프레임워크
자세히 보기 →부분유료Triton
NVIDIA의 오픈소스 추론 서빙 소프트웨어
자세히 보기 →부분유료vLLM
고처리량·메모리 효율적인 LLM 서빙
자세히 보기 →부분유료FSDP
PyTorch의 완전 샤딩 데이터 병렬(FSDP) 학습
3D 지도에서 보기 →부분유료Harbor
명령어 하나로 LLM 백엔드·API·프론트엔드·서비스를 손쉽게 구동
3D 지도에서 보기 →부분유료Ray Serve
Ray 기반의 확장 가능한 모델 서빙
3D 지도에서 보기 →