ONNX Runtime

추론 및 컴퓨팅 인프라 · 부분유료

크로스플랫폼 ML 모델 가속기

한눈에 보기

만든 곳
Microsoft
한국어
없음(영어 등만)
API
있음
쓸 수 있는 곳
윈도, 맥, iOS, 안드로이드, 웹, API
오픈소스
MIT
GitHub
별 22,077개 · MIT

ONNX Runtime는 어떤 AI인가요?

ONNX Runtime은 기존 기술 스택에서 학습과 추론을 빠르게 해 주는 크로스 플랫폼 머신러닝 가속기다. PyTorch·TensorFlow/Keras와 scikit-learn·LightGBM·XGBoost 등의 모델을 지원하고 CPU·GPU·NPU에서 지연·처리량·메모리를 최적화한다. Python·C#·C++·Java·JavaScript·Rust 등 여러 언어와 Linux·Windows·Mac·iOS·Android·웹 브라우저에서 돈다. Windows·Office·Bing 등 Microsoft 제품에도 쓰이며 온디바이스 학습과 생성형 AI(onnxruntime-genai)도 지원한다.

  • CPU·GPU·NPU 하드웨어 가속 최적화
  • Python·C#·C++·Java·JavaScript·Rust 등 다국어 지원
  • 웹 브라우저 실행(ONNX Runtime Web)
  • 안드로이드·iOS 앱용 ONNX Runtime Mobile
  • 온디바이스 학습
  • 다중 노드 NVIDIA GPU 대형 모델 학습 가속
  • 생성형 AI·LLM 통합(onnxruntime-genai)
  • CUDA·TensorRT·OpenVINO·DirectML·CoreML 등 실행 제공자

ONNX Runtime, 이런 사람·일에 써요

  • 모바일 앱에 AI 기능 탑재
  • 브라우저에서 ML 모델 실행
  • 대형 트랜스포머 모델 학습 시간 단축

가격

오픈소스(무료)

MIT 라이선스 오픈소스 추론·학습 가속 라이브러리(pip 설치), 요금 표기 없음

공식 페이지 확인 2026-10-14(산출 규칙 2026-10-15)

ONNX Runtime와 비슷한 AI (대안)

ONNX Runtime와 대안 한눈에 비교

AI가격지도 속 조합연결된 도구무료가장 싼 월 요금한국어
ONNX Runtime부분유료0개6개——없음
llama.cpp부분유료0개6개———
SGLang부분유료0개6개——없음
Sol Engine부분유료0개6개——없음
TensorRT부분유료0개6개없음—UI 한국어

비교한 5개 중 무료로 시작할 수 있는 곳은 0개예요. 요금은 각 공식 페이지 기준이에요.

조합·연결 수는 AI 갤럭시 지도에 정리된 관계 기준(2026-10-26)이며 품질 순위가 아닙니다.

AI 갤럭시 지도에서 본 ONNX Runtime

  • 추론 및 컴퓨팅 인프라 분야 AI 43개 가운데 하나예요.
  • 다른 도구와 연결된 수 6개 — 같은 분야에서 6위예요.

자주 묻는 질문

ONNX Runtime, 무료로 쓸 수 있나요?

오픈소스(무료). 요금은 바뀔 수 있으니 결제 전 공식 사이트에서 확인하세요.

ONNX Runtime 대신 쓸 수 있는 AI는?

같은 일을 하는 도구로 llama.cpp, SGLang, Sol Engine, TensorRT 등이 지도에 연결돼 있어요.

ONNX Runtime, 한국어로 쓸 수 있나요?

공식 페이지 기준: 없음(영어 등만).

출처(공식 페이지)

공식 페이지에서 확인한 내용(확인일 2026-10-14). 요금·기능은 바뀔 수 있으니 결제 전 공식 사이트에서 다시 확인하세요.

홈트렌드도구