onnxruntime microsoft
ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator
- 주요 언어
- C++
- Stars
- 21,436
- Forks
- 4,148
태그
- 라이브러리/SDK
- 추론 가속
- 딥러닝
- 신경망
- 크로스플랫폼
- 로컬 GPU 학습
- 양자화
요약
Microsoft가 개발한 ONNX Runtime은 ONNX 형식 모델을 다양한 하드웨어와 OS에서 고속으로 추론 및 학습할 수 있게 하는 크로스플랫폼 ML 가속기다. PyTorch, TensorFlow, scikit-learn 등 여러 프레임워크의 모델을 지원하며, 그래프 최적화와 하드웨어 가속기를 활용해 성능을 극대화한다. 다중 GPU 트랜스포머 모델 학습도 가속하며, 클라우드와 엣지, 모바일까지 폭넓은 배포에 활용된다.
README
<p align="center"><img width="50%" src="docs/images/ONNX_Runtime_logo_dark.png" /></p> **ONNX Runtime은 플랫폼 간 추론 및 학습을 지원하는 머신러닝 가속기입니다.** **ONNX Runtime 추론**은 PyTorch, TensorFlow/Keras 같은 딥러닝 프레임워크와 scikit-learn, LightGBM, XGBoost 등 고전적 머신러닝 라이브러리의 모델을 지원하며, 더 빠른 고객 경험과 낮은 비용을 실현할 수 있습니다. ONNX Runt…