标题类的继承关系如下：
PreTrainedModel -> LlamaPreTrainedModel -> LlamaModel -> LlamaForCausalLM.
1 PretrainedModel
PretrainedModel继承自:
2 LlamaPreTrainedModel
必须初始化的属性和方法如下：
2.1 Llama
2.2 Qwen2
3 LlamaModel
必须重写的方法：
- __init__()
- get_input_embedding()
- set_input_embedding()
- forward()
3.1 QwenModel
4 LlamaForCasualLM
必须重写的方法：
- __init__()
- get_input_embedding()
- set_input_embedding()
- get_output_embedding()
- set_output_embedding()
- get_decoder()
- set_decoder()
- forward()
- prepare_input_for_generation()
- _reorder_cache()
4.1 Qwen
