Home

中文文档

1. 模型合并与转换

• 在线模型合并与转换（Colab）
• 手动模型合并与转换

2. 模型量化、推理、部署

• llama.cpp
• 🤗transformers
• text-generation-webui
• LlamaChat

3. 系统效果

4. 训练细节

• 预训练脚本
• 指令精调脚本

5. 常见问题

English Docs

1. Model Reconstruction

• Online conversion with Colab
• Manual Conversion

2. Model Inference and Deployment

• llama.cpp
• 🤗transformers
• text-generation-webui
• LlamaChat

3. System Performance

4. Training Details

• Pre-training Script
• SFT Script

5. FAQ