type
status
date
slug
summary
tags
category
icon
password
简述
1.Dify:本地docker部署,用于构造工作流,提供交互入口(webUI)
2.Embedding模型:本地Ollama部署,用于作为嵌入式模型
3.LLM模型:siliconflow.cn
4.rerank模型:siliconflow.cn
准备
1.一台Linux服务器,推荐ubuntu24
CPU >= 4 cores
RAM >= 8 GB
Disk >= 500 GB
服务器IP,记为xxx.xxx.xxx.xxx
2.一个ctyun.cn账号
3.一个siliconflow.cn账号
Dify安装
1.安装Docker Engine并配置国内hub
2.安装Dify
获取git(如果无法访问GitHub,可以寻找国内镜像域名替换github.com)
启动容器
访问Dify的webUI,注册并登录
安装Ollama
1.一键安装
2.配置允许非本地访问
添加
重启服务
安装Embedding模型
1.一键安装
在Dify的webUI添加Embedding模型
点击右上角头像->==设置==->==模型提供商==->==Ollama==,添加参数
key | value |
模型类型 | embedding |
模型名称 | nomic-embed-text |
基础URL | |
模型上下文长度 | 4096 |
在Dify的webUI添加LLM模型
点击右上角头像->==设置==->==模型提供商==->==SiliconFlow==,添加参数
key | value |
API-key | (siliconflow.cn获取) |
在Dify的webUI添加rerank模型
点击右上角头像->==设置==->==模型提供商==->==SiliconFlow==,添加参数
key | value |
API-key | (siliconflow.cn获取) |
在Dify的webUI添加知识库
点击上边栏==知识库==->==创建知识库==->==创建一个空知识库==
点击创建好的知识库->==设置==->==高质量==->Embedding 模型选择nomic-embed-text
点击==文档==->==添加文件==
在Dify的webUI添加工作流
点击上边栏==工作室==->从应用模板创建
点击==问题分类+知识库+聊天机器人==
问题分类器
key | value |
模板 | ㅤ |
输入变量 | 开始 sys.query |
分类 | 分类1 XX问题 分类2 XX问题 |
知识检索 | ㅤ |
key | value |
查询变量 | 开始 sys.query |
知识库 | 选择创建好的知识库 |
LLM | ㅤ |
key | value |
模型 | ㅤ |
上下文 | 知识检索 result Array |
SYSTEM | 根据/上下文回答/开始 sys.query的问题 |
直接回复 | ㅤ |
key | value |
回复 | /LLM text |
- Author:共倒金荷家万里
- URL:https://tangly1024.com/article/1ce40ef0-3786-807f-b601-e5294cbc6e5a
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!
Relate Posts