Triton
추론 및 컴퓨팅 인프라 · 부분유료
NVIDIA의 오픈소스 추론 서빙 소프트웨어
한눈에 보기
- 만든 곳
- NVIDIA
- 한국어
- UI 한국어
- API
- 있음
- 쓸 수 있는 곳
- 윈도, API
- 오픈소스
- BSD-3-Clause
- GitHub
- 별 11,085개 · BSD-3-Clause
Triton는 어떤 AI인가요?
NVIDIA Dynamo-Triton(옛 Triton Inference Server)은 TensorRT·PyTorch·ONNX·OpenVINO·Python·RAPIDS FIL 등 주요 프레임워크의 모델을 배포하는 추론 서빙 소프트웨어다. 동적 배치·동시 실행으로 실시간·배치·앙상블·오디오/비디오 스트리밍 작업을 처리하고 NVIDIA GPU·비NVIDIA 가속기·x86·ARM CPU에서 돈다. 쿠버네티스(확장)·Prometheus(모니터링)와 연동되며 클라우드·온프레미스 모두 지원한다. GitHub에서 오픈소스로 받을 수 있고, 유료 NVIDIA AI Enterprise에 포함돼 지원과 안정 API를 제공한다.
- TensorRT·PyTorch·ONNX·OpenVINO·Python·RAPIDS FIL 등 다중 프레임워크 지원
- 동적 배치·동시 모델 실행
- 실시간·배치·앙상블·오디오/비디오 스트리밍 작업
- NVIDIA GPU·비NVIDIA 가속기·x86·ARM CPU 실행
- 쿠버네티스 확장·Prometheus 모니터링 연동
- 앙상블·BLS 모델 파이프라인
- 파이썬 사용자 정의 백엔드
- HTTP/REST·gRPC 추론 프로토콜
Triton, 이런 사람·일에 써요
- LLM 추론 서빙
- 클라우드·오케스트레이션 환경에 대규모 추론 배포
- 여러 모델을 잇는 앙상블 파이프라인 서빙
가격
무료로 쓸 수 있는 범위 — 오픈소스로 GitHub에서 제공(가격 표기 없음), 유료 NVIDIA AI Enterprise는 90일 평가 라이선스 신청 가능
| 요금제 | 가격 | 주요 한도 |
|---|---|---|
| NVIDIA AI Enterprise | 문의 | Triton 포함 프로덕션용 유료 제품, 가격 미기재·구매 문의 |
공식 페이지에서 확인한 내용(확인일 2026-10-14). 요금·기능은 바뀔 수 있으니 결제 전 공식 사이트에서 다시 확인하세요. · 공식 요금 페이지
Triton와 비슷한 AI (대안)
Triton와 대안 한눈에 비교
| AI | 가격 | 지도 속 조합 | 연결된 도구 | 무료 | 가장 싼 월 요금 | 한국어 |
|---|---|---|---|---|---|---|
| Triton | 부분유료 | 0개 | 5개 | 없음 | — | UI 한국어 |
| Akash Network | 부분유료 | 0개 | 17개 | — | — | 없음 |
| AWS Bedrock | 부분유료 | 0개 | 17개 | 없음 | — | UI 한국어 |
| AWS SageMaker | 부분유료 | 0개 | 17개 | 없음 | — | UI 한국어 |
| Azure ML | 부분유료 | 0개 | 17개 | 없음 | — | UI 한국어 |
비교한 5개 중 무료로 시작할 수 있는 곳은 0개예요. 요금은 각 공식 페이지 기준이에요.
조합·연결 수는 AI 갤럭시 지도에 정리된 관계 기준(2026-10-26)이며 품질 순위가 아닙니다.
AI 갤럭시 지도에서 본 Triton
- 추론 및 컴퓨팅 인프라 분야 AI 43개 가운데 하나예요.
- 다른 도구와 연결된 수 5개 — 같은 분야에서 16위예요.
자주 묻는 질문
Triton, 무료로 쓸 수 있나요?
오픈소스로 GitHub에서 제공(가격 표기 없음), 유료 NVIDIA AI Enterprise는 90일 평가 라이선스 신청 가능. 요금제: NVIDIA AI Enterprise. 공식 페이지 확인일 2026-10-14 기준이며, 결제 전 공식 사이트에서 다시 확인하세요.
Triton 대신 쓸 수 있는 AI는?
같은 일을 하는 도구로 Akash Network, AWS Bedrock, AWS SageMaker, Azure ML 등이 지도에 연결돼 있어요.
Triton, 한국어로 쓸 수 있나요?
공식 페이지 기준: UI 한국어.
출처(공식 페이지)
공식 페이지에서 확인한 내용(확인일 2026-10-14). 요금·기능은 바뀔 수 있으니 결제 전 공식 사이트에서 다시 확인하세요.