微调后模型如何使用？ #830

Closed Answered by zRzRzRzRzRzRzR

KevinFanng asked this question in Q&A

KevinFanng
Feb 7, 2024

官方提供的“在本仓库的其他 demo 或者外部仓库使用微调后的模型”

那部署的时候，是不是需要将ChatGLM3/finetune_demo/output/checkpoint-3000这个目录及"base_model_name_or_path": "/mnt/workspace/chatglm3-6b/"这两个目录都拷贝走，就可以了？

Answered by zRzRzRzRzRzRzR

只要是支持peft的都是一样的，会自动的挂载

View full answer

Replies: 1 comment

zRzRzRzRzRzRzR
Feb 24, 2024
Maintainer

只要是支持peft的都是一样的，会自动的挂载

0 replies

Answer selected by zRzRzRzRzRzRzR

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment