minimind jingyaogong

🧠 Train a 64M-parameter LLM from scratch in just 2h!

Hauptsprache
Python
Stars
55,891
Forks
7,301

Tags

  • Anleitung/Ressourcen
  • Deep Learning
  • GPU-Training
  • KI-Grundlagen
  • Framework
  • Python
  • Bibliothek/SDK

Zusammenfassung

MiniMind ist eine vollständig quelloffene, von Grund auf implementierte Trainings-Pipeline für extrem kleine Sprachmodelle (etwa 64M Parameter). Es senkt die Einstiegshürde für LLM-Schulungen drastisch: Auf einer einzelnen NVIDIA 3090 ist ein vollständiger Trainingszyklus in rund 2 Stunden und mit …

README

<div align="center"> ![logo](./images/logo.png) </div> <div align="center"> ![visitors](https://visitor-badge.laobi.icu/badge?page_id=jingyaogong/minimind) [![GitHub Repo stars](https://img.shields.io/github/stars/jingyaogong/minimind?style=social)](https://github.com/jingyaogong/minimind/stargazer…

查看完整页面