如何利用非问答知识进行垂直领域微调 #360
Description
各位大佬，我有个问题一直不清楚怎么办。在微调llama3的时候（不管是否使用lora），所需的微调数据都是一个问题一个答案。但如果我想把垂直领域的非问答知识注入进去（比如教科书），应该怎么做呢？
{{ message }}
各位大佬，我有个问题一直不清楚怎么办。在微调llama3的时候（不管是否使用lora），所需的微调数据都是一个问题一个答案。但如果我想把垂直领域的非问答知识注入进去（比如教科书），应该怎么做呢？