onnxruntime microsoft
ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator
- Hauptsprache
- C++
- Stars
- 21,436
- Forks
- 4,148
Tags
- Bibliothek/SDK
- Deep Learning
- LLM-Inferenz
- GPU-Training
- Backend
- Quantisierung
- Open Source
- Multimodal
Zusammenfassung
ONNX Runtime ist Microsofts quellübergreifender Inferenz- und Trainingsbeschleuniger für maschinelles Lernen. Er beschleunigt die Modellinferenz für Deep-Learning-Frameworks wie PyTorch und TensorFlow sowie klassische ML-Bibliotheken, unterstützt verschiedene Hardware, Treiber und Betriebssysteme u…
README
<p align="center"><img width="50%" src="docs/images/ONNX_Runtime_logo_dark.png" /></p> **ONNX Runtime ist ein plattformübergreifender Beschleuniger für maschinelles Lernen, der sowohl Inferenz als auch Training unterstützt**. **ONNX Runtime Inference** ermöglicht schnellere Kundenerlebnisse und ger…