update ptuning/README.md 单卡全参数finetune建议

pull/1202/head
瑾辰 2023-06-08 15:28:17 +08:00
parent 35122e3944
commit c9845a3aa5
1 changed files with 4 additions and 0 deletions

View File

@ -42,6 +42,10 @@ bash train.sh
如果需要进行全参数的 Finetune需要安装 [Deepspeed](https://github.com/microsoft/DeepSpeed),然后运行以下指令:
单卡全参数的 Finetune建议
1如果需要在3090[24G显存]单卡进行finetune,可下载chatglm-6b-int4地址https://huggingface.co/THUDM/chatglm-6b-int4
2微调私域数据出现答案阶段问题可修改max_source_length和max_target_length调大即可
```shell
bash ds_train_finetune.sh
```