Ornith-1.5-35B-A3B ornith-ai

種別
model
ライセンス
mit
タスク
text-generation
フレームワーク
transformers
ダウンロード
12,611
いいね
311
パラメータ
35,951,822,704
アクセス
public
ファイル
33

タグ

  • テキスト生成
  • 大言語モデル
  • コード生成
  • Agent
  • MoEアーキテクチャ
  • 強化学習
  • transformers
  • 生成AI

概要

Ornith-1.5-35B-A3Bは、エンドツーエンドの自己改善により基盤モデルを構築する、35BパラメータのMoEアーキテクチャを採用したテキスト生成モデルです。タスク生成・ハーネス構築・解法ロールアウトを協調最適化し、強化学習で方策を継続改善します。トークンあたり約3Bパラメータのみを活性化しながら、コーディングやエージェント型ベンチマークで同規模のQwenやGemmaを凌ぐ性能を発揮。コード生成やエージェント的コーディング用途に最適です。

README

--- library_name: transformers license: mit license_link: https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B/blob/main/LICENSE pipeline_tag: text-generation --- <img width="600px" src="assets/ornith_logo.png"> [![Ornith Blog](https://img.shields.io/badge/%F0%9F%A6%A2%EF%B8%8F%20Ornith%20Blog%20-FD…

查看完整页面 · 查看原文