消费级电脑：内存192G和显卡RTX3080 20G，如何用ktransformers配置模型？

[shaken154]

我的电脑配置：i5 12400、D5 192G、RTX3080 20G，目前在win10上能用LM Studio运行模型：
DeepSeek-V2.5-1210-Q5_K_M、DeepSeek-R1-UD-IQ1_M、deepseek-coder-v2-instruct-0724，这些模型如何在ubuntu24桌面版系统运行？这些「cuda、python、torch、ktransformers」的版本如何选择？我想直接用ktransformers-0.2.0+cu124torch24avx2-cp312-cp312-linux_x86_64.whl这种文件直接安装，最好优先用whl文件安装【不要去编译避免出错】，如何配置yaml模型配置文件？启动模型时如何开启局域网访问？哪里有这种消费级的大内存电脑的详细部署教程？