智能客服机器人

[littlesuccess]

对一个大型企业而言，有许多上下游合作伙伴企业，每天需要面对数以千计的咨询。而这些咨询大部分是重复的问题，比如我的订单什么状态了，什么时候发货，我在哪里可以下载到我要的数据等。本项目将基于LangChain+InternLM-chat-20b+Gradio构建一个面向业务合作伙伴和平台生态系统B端合作机构员工的智能客服助力，旨在降低这些沟通工作，是一个典型的RAG应用。该项目将基于x-tuner对InternLM-chat-20b进行微调，以便模型更适合客服类项目的需求：基于事实减少幻觉，流畅的自然语言交互
具体来说：
1、准备知识库：典型的合作机构的常见问题和答案的知识库。
2、准备评测数据集。
3、搭建基于LangChain+InternLM-chat-20b+Gradio的问答应用。测试未微调的模型的效果。
4、基于x-tuner微调InternLM 20b模型，对比微调前后的效果。
5、量化模型，测试量化模型和未量化模型的性能下降程度。同时测试量化对多用户并发、问答速度的提升。