RAG Guide

外观

后端基本使用 ​

基本使用 ​

创建数据库表 ​

第一次使用项目，调用创建数据库表接口。http://127.0.0.1:8000/docs

image-20260128110644259

此时，可看到数据库中已创建表

image-20260128140326962

安装启动Milvus ​

以Docker方式安装运行Milvus。参考文档：《Milvus安装与使用》--Milvus单机版安装

Milvus安装启动成功后，检查项目配置文件：.env.dev

image-20260128140453380

第一次使用项目，调用向量数据库接口。

  • 创建向量数据库（名称可保持默认）

image-20260128111437044

  • 创建向量集合（名称可保持默认）

image-20260128111510119

安装启动嵌入模型 ​

可以使用Ollama、Xinference等方式，运行嵌入模型。

下面以Ollama为例，安装启动Ollama，参考文档：《Ollama安装与使用》

下载bge-m3:latest嵌入模型。（说明：嵌入模型不需要使用run命令运行，保证Ollama服务正常即可）

shell
# 下载模型
ollama pull bge-m3:latest

C:\Users\zlj>ollama list
NAME              ID              SIZE      MODIFIED
bge-m3:latest     790764642607    1.2 GB    6 weeks ago

检查项目配置文件：.env.dev

image-20260128112714727

配置LLM模型 ​

LLM模型支持本地Ollama、Xinference等方式，也支持云服务。以下方式选择一种：

检查并按需修改项目配置文件：.env.dev

image-20260128114721428