MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。
本文为您详细介绍通过1Panel应用商店(apps.fit2cloud.com/1panel)快速部署MaxKB和Ollama,在MaxKB中接入Ollama的LLM模型,以及快速上线企业知识库小助手的具体方法。
1.第一步先准备一台服务器,配置尽量高一点,不过也可以低配例如1H1G也行,用低配的服务器的话就得接入第三方的模型了,高配的话就可以直接部署一个大模型作为使用。本次项目我还是依然推荐极具现价比的轻量云服务器,而且本次618活动已经开展了,价格比以往更低。高配可以购买8H16G,低配就买2H2G就行。
云服务器优惠通道:
2.购买了服务器后,尽量选择Linux环境,我一般用centos,然后这块选择CentOS 7.6就行。
获取root权限密码,用Finalshell链接服务器
注:阿里云购买后,点击服务器,找到重置密码
运行一下代码:
curl -sSL https://resource.fit2cloud.com/1panel/package/quick_start.sh -o quick_start.sh && sudo bash quick_start.sh
运行完成后,就记得到了面板的登录后台和账号密码
3.进入后台后输入账号密码,然后点击左边栏得应用商店
Ollama安装部署
Ollama(github.com/ollama)是一个开源框架,它支持用户通过本地部署的方式构建大语言模型服务。目前,Ollama支持的大语言模型包括LIama 2、Mistral、Gemma等。
通过1Panel应用商店,您可以快速安装Ollama。
在MaxKB中接入Ollama的大语言模型
第一步:登录至MaxKB系统
在1Panel应用商店的“已安装”选项卡中,找到MaxKB应用面板,点击应用名下方的“服务端口”选项打开MaxKB应用页面,即可使用默认的账户名和密码登录至MaxKB。
第二步:接入Ollama LLM模型
进入MaxKB的“系统设置”菜单,在“模型设置”页面中选择添加“Ollama”模型,并且填写模型的具体信息。点击“添加”按钮后,系统会自动下载部署Ollama模型。
除Ollama外,MaxKB还支持对接百度千帆大模型、Azure OpenAI和OpenAI模型,详细步骤可以参考MaxKB官方文档。
制作企业知识库小助手
我们以制作AiboChinese小助手为例,为您演示通过MaxKB和Ollama构建知识库问答系统的过程。
第一步:在MaxKB中创建AiboChinese在线知识库
AiboChinese在线文档地址为:https://aibochinese.com/
在MaxKB应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web站点”类型。知识库创建界面如下:
MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照URL地址生成文档,并自动拆分和进行向量化处理。
在MaxKB中创建小助手应用
在MaxKB的“应用”菜单中,选择创建应用,并填写相关的应用信息,操作界面如下:
小助手创建完成后,可以在MaxKB“应用”菜单中的“应用”列表中点击对应应用的演示图标进行调试和预览。
复制“浮窗模式”下方的脚本,嵌入至对应的页面中。
打开站点的文件管理
视频演示:
You need to be logged in to view the rest of the content. 请
Log In. Not a Member?
加入会员