marin marin-community

Open-source framework for the research and development of foundation models.

主要言語
Python
Stars
2,004
Forks
188

タグ

  • フレームワーク
  • ディープラーニング
  • 事前学習済みモデル
  • モデル管理
  • スケーラビリティ
  • データセット
  • ライブラリ/SDK
  • ベンチマーク

概要

データキュレーション、変換、トークナイゼーションから事前学習・事後学習・評価まで、LLMトレーニングの全工程を宣言的なステップで定義できるオープンソースフレームワーク。Makefileのように依存関係を持つステップをトポロジカル順に実行でき、GPU/TPUポッドやマルチスライスTPUへ大規模スケール可能。MoEや音声・DNA・タンパク質モデルなど多様な基盤モデル研究に利用され、Open Athenaコミュニティが推進するオープン開発を重視している。

README

# <img alt="Marin" src="docs/design/marin-logo.svg" height="36" align="top"> Marin <a href="https://marin.readthedocs.io/en/latest/?badge=latest"> <img alt="Documentation" src="https://readthedocs.org/projects/marin/badge/?version=latest"> </a> <a href=""> <img alt="License" src="https://img.shield…

查看完整页面