在日常生活中,我们难免会有一些身体上的不舒服,但是又觉得为这些小问题去医院太费时费力。本项目基于interLM-char-7b模型,旨在打造一款用于身体健康管理和疾病咨询的生活小助手,帮你第一时间分析身体情况和病情症状,并尝试给出一些就诊建议,方便日常生活。
寻医生活小助理😊,加速你的生活!
本项目以interLM-chat-7b为基座模型。结合华妃任务模板数据集+lora微调实现角色扮演。并在兼顾效率和质量的情况下,采用检索增强生成(Retrieval Augmented Generation,RAG)技术更新模型知识库。最后采用LMDeploy框架量化部署,大幅降低模型显存占用。
conda create -n llamaindex python=3.10
conda activate llamaindex
conda install pytorch==2.0.1 torchvision==0.15.2 torchaudio==2.0.2 pytorch-cuda=11.7 -c pytorch -c nvidia
# 以下命令安装llama-index依赖包
pip install llama-index==0.10.38 llama-index-llms-huggingface==0.2.0 "transformers[torch]==4.41.1" "huggingface_hub[inference]==0.23.1" huggingface_hub==0.23.1 sentence-transformers==2.7.0 sentencepiece==0.2.0
# 安装streamlit用于网页交互
pip install streamlit==1.36.0
进入rag文件下,运行app.py即可开始对话。
interLM2,XTuner,LlamaIndex,lmdEPLOY
贡献使开源社区成为一个学习、激励和创造的绝佳场所。你所作的任何贡献都是非常感谢的。
- Fork the Project
- Create your Feature Branch (
git checkout -b feature/AmazingFeature
) - Commit your Changes (
git commit -m 'Add some AmazingFeature'
) - Push to the Branch (
git push origin feature/AmazingFeature
) - Open a Pull Request
该项目使用Git进行版本管理。您可以在repository参看当前可用版本。
click
邮箱:[email protected] wx:18220149833
您也可以在贡献者名单中参看所有参与该项目的开发者。
该项目签署了MIT 授权许可,详情请参阅 LICENSE.txt