大模型分布式入门
crabboss 大模型训练需要数据至多，参数量之大，计算…
Read More大模型基础
scheduler学习率调度器
有的时候transformer或者tor…
Read MoreAutoConfig、PreTrainedModel、LlamaPreTrainedModel、LlamaModel和LlamaForCausalLM的使用
标题类的继承关系如下： PreTrain…
Read More大模型Tokenizer
大模型的起始是Tokenizer，那么市…
Read More