chatGLM官方培训——怎么训练自己的chatGLM?

发布网友发布时间：2024-10-13 06:20

共1个回答

热心网友时间：2024-10-13 08:23

怎么训练针对自己下游任务finetune一个更好的LLM是很困扰的问题，博主通过参加智普与和鲸联合组织的chatglm实践大赛，以及直播分享，总结了训练chatGLM模型的多个关键点。以下是主要的训练流程和讨论：

### chatGLM的pretrained GLM?

通过官方的论文《GLM: General Language Model Pretraining with Autoregressive Blank Infilling》，我们可以理解如何利用预训练的GLM模型进行下游任务的finetuning。这个过程涉及到利用大规模文本数据进行模型预训练，然后根据特定任务进行微调以提升模型在该任务上的表现。

### 怎么finetuning？

1. **ptuning v2**：参考官方示例很容易实现，适合大多数资源条件。这涉及到在特定任务上调整模型参数，以适应特定领域的数据分布。使用单卡3090即可轻松运行。

2. **Full parameter finetune**：此方法需要更丰富的资源，如8 x A100 40G或4 x A100 80G。此方式全量参数进行微调，适用于对模型精度有更高要求的任务。

3. **LoRA**：官方推荐的工程可以作为微调的另一种选择，但博主没有亲自测试过。

### QA环节讨论

直播中的问答环节提供了许多宝贵信息，包括：

1. **数据量**：对于单个下游任务的finetuning，数据量与任务紧密相关，从几千到几十万不等。建议根据任务的特性尝试不同的数据量，并考虑数据增强以提高效果。

2. **ptuning v2 vs. LoRA**：ptuning v2和LoRA在使用上存在差异，但没有明确推荐哪种方式，建议根据实际任务和资源状况进行尝试。

3. **full parameter finetune**：此方法在资源需求上较高，一般适用于对模型性能有极高要求的任务，需要根据任务特点来决定是否适用。

4. **过拟合与重复回答**：finetuning后可能会出现过拟合和回答重复的问题，可以通过输出限制、设置回答长度截断重复内容以及增加finetune数据等方式来解决。

5. **prompt前置词**：chatglm默认不使用前置词，但在多轮对话中会自动加入。可以根据需要选择是否在单轮对话中添加前置词。

### 课程与资源

直播回放、课件以及后续的更新提供了深入的训练与应用指导，包括如何利用chatGLM进行垂直领域的任务训练、金融大模型挑战赛、以及针对特定任务（如PDF文档的单轮QA）的系统设计等。这些资源涵盖了从理论到实践的各个方面，为开发者提供了丰富的学习材料。

通过这些总结与资源，训练自己的chatGLM模型变得更为直观和具体。关键在于根据实际任务需求选择合适的预训练模型、微调策略，并考虑如何优化模型以避免过拟合等问题。同时，充分利用数据增强、输出限制等技术手段，可以有效提升模型在特定任务上的表现。