站内导读
定位 一个从零手写约 64M 参数小语言模型的开源教程项目:只用约 3 元成本、2 小时训练,就能亲手跑通大模型全链路。 核心能力
- 覆盖预训练、SFT、LoRA、RLHF、DPO、PPO、GRPO 与工具调用等完整流程。
- 核心算法全部用 PyTorch 原生从零实现,不依赖高层框架封装。
- 主线结构对齐 Qwen3 生态,提供 Dense 与 MoE 两个版本与已发布权重。
- 兼容 transformers、vLLM、ollama 等推理引擎,并提供 OpenAI 协议服务。
适用人群 想真正理解大模型内部机制的学习者、AI 教学者,以及希望低成本复现训练流程的研究者与学生。 注意 文中「2 小时」指 SFT 阶段单张 3090 跑 1 个 epoch 的实测耗时,「3 元」指对应时段的 GPU 租用成本。
概要 約 64M パラメータの小規模言語モデルをゼロから手書きするオープンソースのチュートリアルで、約 3 元のコストと 2 時間の学習で大規模モデルの全パイプラインを体験できます。 主な機能
- 事前学習、SFT、LoRA、RLHF、DPO、PPO、GRPO、ツール呼び出しまで完全な学習フローを網羅します。
- コアアルゴリズムをすべて PyTorch ネイティブでゼロから実装し、高水準フレームワークの抽象化に依存しません。
- 主流の構造は Qwen3 エコシステムに合わせ、Dense 版と MoE 版の両方と公開済み重みを提供します。
- transformers、vLLM、ollama などの推論エンジンに対応し、OpenAI 互換の API サーバーも備えます。
対象ユーザー 大規模モデルの内部構造を本当に理解したい学習者、AI 教育者、低コストで学習フローを再現したい研究者や学生。 注意点 「2 時間」は SFT 段階で RTX 3090 1 枚で 1 エポック回した実測時間、「3 元」はその時間帯の GPU レンタル費用を指します。
개요 약 64M 파라미터의 소형 언어 모델을 처음부터 직접 만드는 오픈소스 튜토리얼로, 약 3위안의 비용과 2시간 학습으로 대형 모델의 전체 파이프라인을 직접 경험할 수 있습니다. 핵심 기능
- 사전 학습, SFT, LoRA, RLHF, DPO, PPO, GRPO, 도구 호출까지 완전한 학습 과정을 다룹니다.
- 핵심 알고리즘을 모두 PyTorch 네이티브로 처음부터 구현해 고수준 프레임워크 추상화에 의존하지 않습니다.
- 주력 구조는 Qwen3 생태계에 맞추었고 Dense 버전과 MoE 버전, 공개된 가중치를 제공합니다.
- transformers, vLLM, ollama 등 추론 엔진과 호환되며 OpenAI 프로토콜 서버도 제공합니다.
적합한 사용자 대형 모델의 내부 구조를 진정으로 이해하고 싶은 학습자, AI 교육자, 저비용으로 학습 과정을 재현하려는 연구자와 학생. 주의 사항 「2시간」은 SFT 단계에서 RTX 3090 한 장으로 1에포크를 돌린 실측 시간, 「3위안」은 해당 시간대의 GPU 대여 비용을 뜻합니다.
What it is An open-source tutorial project for training a tiny language model from scratch: a roughly 64M-parameter model built in about two hours for around 3 RMB of GPU rental, covering the full LLM training pipeline. Key capabilities
- Covers the complete chain: pretraining, SFT, LoRA, RLHF with DPO, RLAIF with PPO, GRPO and CISPO, tool use, agentic RL, and model distillation.
- Implements every core algorithm from scratch in native PyTorch, without relying on high-level framework abstractions.
- Aligns its mainline architecture with the Qwen3 and Qwen3-MoE ecosystem, with Dense and MoE variants and published weights.
- Works with transformers, vLLM, ollama, and Llama-Factory, and ships a minimal OpenAI-compatible API server plus a Streamlit chat UI.
Who it is for Learners who want to truly understand how LLMs work inside, AI educators, and researchers or students who want a cheap, reproducible training pipeline. Caveats The "2 hours" figure is the measured time for one SFT epoch on a single RTX 3090, and "3 RMB" is the GPU rental cost for that window, not a full-training budget.