Ornith-1.5-35B-A3B ornith-ai

Typ
model
Lizenz
mit
Aufgabe
text-generation
Framework
transformers
Downloads
12,611
Likes
311
Parameter
35,951,822,704
Zugriff
public
Dateien
33

Tags

  • Textgenerierung
  • Codegenerierung
  • Große Sprachmodelle
  • MoE
  • Agent
  • Transformers
  • Verstärkungslernen

Zusammenfassung

Ornith-1.5-35B-A3B ist ein mittelgroßes Mixture-of-Experts-Sprachmodell (MoE), das pro Token nur etwa 3B Parameter aktiviert und sich durch End-to-End-Self-Improvement selbst kontinuierlich verbessert. Es optimiert gemeinsam Aufgabengenerierung, Scaffold-Konstruktion und Lösungs-Rollouts per Reinfo…

README

--- library_name: transformers license: mit license_link: https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B/blob/main/LICENSE pipeline_tag: text-generation --- <img width="600px" src="assets/ornith_logo.png"> [![Ornith Blog](https://img.shields.io/badge/%F0%9F%A6%A2%EF%B8%8F%20Ornith%20Blog%20-FD…

查看完整页面 · 查看原文