报错了该怎么解决

[shmookpup]

在所有环境全部搭建好之后运行web_demo.py然后报错：sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output' 这个该怎么解决

[corkiyao]

在所有环境全部搭建好之后运行web_demo.py然后报错：sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output' 这个该怎么解决

更新最新的sat的吧，之前我也遇到这问题。

[shmookpup]

还是不行，我无论是使用最新版本安装还是下载源码安装，最后都会有这个错误

[corkiyao]

还是不行，我无论是使用最新版本安装还是下载源码安装，最后都会有这个错误

是不是之前加载了模型缓存，我更新之后就没有问题了。

[jiwei08]

我也遇到了同样的问题，楼主解决了吗

[corkiyao]

我也遇到了同样的问题，楼主解决了吗

import os
import torch
import argparse

from SwissArmyTransformer.sat import mpu, get_args, get_tokenizer
from SwissArmyTransformer.sat.training.deepspeed_training import training_main
from model import VisualGLMModel
from SwissArmyTransformer.sat.model.finetune import PTuningV2Mixin
from SwissArmyTransformer.sat.model.finetune.lora2 import LoraMixin

你们的在finetune_visualglm.py的import包的时候是这样加载的吗？我这样加载的就没有问题

[jiwei08]

我直接在python命令行运行

from transformers import AutoTokenizer, AutoModel
model = AutoModel.from_pretrained("~/visualglm-6b", trust_remote_code=True).half().cuda()

也会报错TypeError: sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output'

[corkiyao]

我直接在python命令行运行

from transformers import AutoTokenizer, AutoModel
model = AutoModel.from_pretrained("~/visualglm-6b", trust_remote_code=True).half().cuda()

也会报错TypeError: sat.model.transformer.BaseTransformer() got multiple values for keyword argument 'parallel_output'

官方好像是不更新huggingface的了，只更新SAT模型的了。所以应该是更新了之后，huggingface的模型无法对应版本了

[zykdhr]

我在运行微调脚本时也报了这个错误

解决方法是
pip uninstall SwissArmyTransformer==0.4.12
pip install SwissArmyTransformer==0.4.11
用旧版本的就好了

[corkiyao]

我在运行微调脚本时也报了这个错误

解决方法是 pip uninstall SwissArmyTransformer==0.4.12 pip install SwissArmyTransformer==0.4.11 用旧版本的就好了

在SAT==0.4.12新版里面吧对应的parallel_output删掉也可以。应该是更新版本的时候，没有删除对应的参数，导致传参的时候有的参数不存在。