RAG Guide

外观

聊天接口 ​

聊天接口使用 ​

后端配置 ​

修改配置文件：.env.dev

  • LLM聊天模型配置：选择一种提供商即可。
  • 以千问为例，填写正确的API-KEY。创建API-KEY参考文档：《阿里云百炼使用》

image-20260206105312414

启动Fastapi项目

bash
python main.py

前端配置 ​

下载并安装Chatbox。参考文档：《Chatbox安装与使用》

添加模型提供方

image-20260206101615587

  • API主机：http://127.0.0.1:8000
  • API路径：/api/v1/chat/completions
  • API Key：留空

image-20260206102229236

  • 新建模型：模型ID填写模型的名称。可以添加多个，例如千问提供 qwen-flash 、 deepseek-v3.2 等多种LLM模型

image-20260206101837063

使用 ​

在Chatbox新建对话，点击选择fastapi后端提供的deepseek-v3.2模型

  • 当需要使用不同的LLM模型，点击切换即可。

image-20260206102622966

开始聊天：前端Chatbox通过维护消息列表，实现会话记忆功能

image-20260206105204019

聊天接口代码 ​

代码目录：app\api\v1\module_rag\chat