llama_7b_8int认为自己是chatGPT

[No-22-Github]

如图，角色扮演功能几乎失效，并且认为自己是chatgpt

[No-22-Github]

是LLaMA-Alpaca-7B-8int模型

[ymcui]

1、指令精调数据里没有包含“扮演”类的数据，如有需要可以自己精调。
2、同样，目前指令数据里包含了大量ChatGPT爬取数据，所以自我认同为ChatGPT没什么毛病。
3、看到你修改了prompt模板（默认应使用Alpaca模板），具体使用方法还需自行探索。

[No-22-Github]

好的，顺便问一下，精调Alpaca-7B-8int大概需要多少内存

[ymcui]

7B模型原始大小为13G（中文会稍大一点）。
按照社区用户的反馈，需要4090（24G）或以上的设备，具体跟选用的超参、训练的参数量等有关。