Ornith-1.5-35B-A3B ornith-ai

类型
model
许可
mit
任务
text-generation
框架
transformers
下载量
12,611
点赞
311
参数量
35,951,822,704
访问
public
文件
33

标签

  • 文本生成
  • 大语言模型
  • 混合专家
  • 代码生成
  • Agent
  • 强化学习
  • transformers

摘要

Ornith-1.5-35B-A3B是一款中型混合专家大语言模型，每个token仅激活约3B参数，却大幅超越同尺寸的稠密模型。它通过端到端自我改进循环，联合优化任务生成、脚手架构建与方案生成，持续产生新训练任务并通过强化学习改进策略。该模型在代码生成与智能体编程基准上表现优异，适合编码、软件工程与智能体应用场景。

README

--- library_name: transformers license: mit license_link: https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B/blob/main/LICENSE pipeline_tag: text-generation --- <img width="600px" src="assets/ornith_logo.png"> [![Ornith Blog](https://img.shields.io/badge/%F0%9F%A6%A2%EF%B8%8F%20Ornith%20Blog%20-FD…

查看完整页面 · 查看原文