Nanochat

项目介绍

Nanochat 是一个完整的端到端 ChatGPT 式大语言模型实现，旨在提供易用性、教育价值和成本效益， 完整实现了类似 ChatGPT 的 LLM，代码干净、精简、可定制、依赖性低。 Nanochat 设计为通过 speedrun.sh 等脚本在单个 8XH100 节点上运行整个流程， 包括分词、预训练、微调、评估、推理，以及通过简单 UI 进行网络服务， 让你可以像 ChatGPT 一样与自己的 LLM 对话。