@@ -24,7 +24,6 @@ if [[ ! -f "conda/envs/linux/bin/python" && $KCPP_CUDA == "rocm" || $1 == "rebui
2424 echo " rocm" > conda/envs/linux/cudaver
2525fi
2626
27- TK_ENV_VARS=" FONTCONFIG_PATH=\$ CONDA_PREFIX/etc/fonts"
2827KCPP_CUDA=$( < conda/envs/linux/cudaver)
2928KCPP_CUDAAPPEND=-cuda${KCPP_CUDA// .} $KCPP_APPEND
3029
@@ -68,27 +67,27 @@ if [[ $1 == "rebuild" ]]; then
6867 echo Rebuild complete, you can now try to launch Koboldcpp.
6968elif [[ $1 == " dist" ]]; then
7069 bin/micromamba remove --no-rc -r conda -p conda/envs/linux --force ocl-icd -y
71- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
70+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
7271 if [ " $KCPP_CUDA " = " rocm" ]; then
7372 if [ ! -n " $ROCM_PATH " ]; then
7473 ROCM_PATH=/opt/rocm
7574 fi
7675 if [ -n " $NOAVX1 " ]; then
77- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
76+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
7877 elif [ -n " $NOAVX2 " ]; then
79- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
78+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
8079 else
81- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
80+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_hipblas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --add-data " $ROCM_PATH /lib/rocblas:." --add-data " $ROCM_PATH /lib/libamd_comgr.so:." --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-rocm"
8281 fi
8382 else
84- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
83+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onedir --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-launcher"
8584 if [ -n " $NOAVX1 " ]; then
86- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
85+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
8786 elif [ -n " $NOAVX2 " ]; then
88- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
87+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
8988 else
90- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
91- bin/micromamba run -r conda -p conda/envs/linux env $TK_ENV_VARS pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-nocuda$KCPP_APPEND "
89+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_cublas.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64$KCPP_CUDAAPPEND "
90+ bin/micromamba run -r conda -p conda/envs/linux pyinstaller --noconfirm --onefile --collect-all customtkinter --collect-all jinja2 --collect-all psutil --add-data ' ./dist/koboldcpp-launcher/koboldcpp-launcher:.' --add-data ' ./koboldcpp_default.so:.' --add-data ' ./koboldcpp_vulkan.so:.' --add-data ' ./koboldcpp_clblast.so:.' --add-data ' ./koboldcpp_failsafe.so:.' --add-data ' ./koboldcpp_noavx2.so:.' --add-data ' ./koboldcpp_clblast_noavx2.so:.' --add-data ' ./koboldcpp_clblast_failsafe.so:.' --add-data ' ./koboldcpp_vulkan_noavx2.so:.' --add-data ' ./kcpp_adapters:./kcpp_adapters' --add-data ' ./koboldcpp.py:.' --add-data ' ./json_to_gbnf.py:.' --add-data ' ./LICENSE.md:.' --add-data ' ./MIT_LICENSE_GGML_SDCPP_LLAMACPP_ONLY.md:.' --add-data ' ./embd_res:./embd_res' --version-file ' ./version.txt' --clean --console koboldcpp.py -n " koboldcpp-linux-x64-nocuda$KCPP_APPEND "
9291 fi
9392 fi
9493 bin/micromamba install --no-rc -r conda -p conda/envs/linux ocl-icd -c conda-forge -y
0 commit comments