tx

熊猫不是猫QAQ

平平无奇小熊猫
407,075
终极指南:在极空间中部署大型语言模型问答系统,开启你的AI革命之旅! 终极指南:在极空间中部署大型语言模型问答系统,开启你的AI革命之旅!

引言

极空间在前不久系统更新中加入了AI搜索的功能,通过AI搜过,你可以直接输入自然语言从而查找相关的照片。同时内置的极空间AI也能直接实现对文件的更精确检索以及视频中人物的检索。对于我这种相册近万张的人来说,这个功能特别好用。

AI搜索AI搜索

那么在这个基础上能不能更进一步呢?恰好随着文章越来越多,很多时候之前写过的内容我也会忘记,于是便想着搭建一个自己的知识库,同时这个库又要拥有AI功能进行辅助搜索信息。恰好1Panel发布了他们的最新项目—MaxKB,一个基于LLM的大语言模型的知识库问答系统。

体验

MaxKB开箱即用,具备以下特性:

  • 开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化,智能问答交互体验好;
  • 无缝嵌入:支持零编码快速嵌入到第三方业务系统;
  • 多模型支持:支持对接主流的大模型,包括 Ollama 本地私有大模型(如 Llama 2、Llama 3、qwen)、通义千问、OpenAI、Azure OpenAI、Kimi、智谱 AI、讯飞星火和百度千帆大模型等。
首页首页

使用项目前首先我们需要创建知识库,MaxKB直接直接上传文档,支持TXT、Markdown、PDF、DOCX这几个格式,同时也支持爬取web站点的内容。

知识库知识库

创建好知识库之后,转到应用界面新建应用。选择我们需要设置的AI模型,再将刚刚创建的知识库进行关联,具体的参数根据自己情况设置。

应用创建应用创建

这时候点进刚刚创建的应用,就能看到访问链接。概览中提供了监控统计,可以看到访问用户数、提问数以及消耗的token和用户满意度。同时项目支持通过将知识库嵌入到网站或者应用中。

概述概述

点击公开访问链接,就能进入知识库助手界面了,你可以把它当做一个AI大模型使用,同时它还兼顾了你投喂的只是,在检索到和你知识库相匹配的内容之后,便会引用你知识库的内容进行回答。

知识库问答知识库问答

部署

项目的部署并不难,首先我们需要创建好持久化目录。在你的Docker文件夹下新建文件夹MaxKB。

持久化目录持久化目录

随后在docker中搜索1panel/maxkb下载镜像,镜像一共有3GB左右,所以稍微需要等待一下。

镜像下载镜像下载

下载完成之后创建容器。将文件夹映射路径设置为我们刚刚创建的MaxKB文件夹路径,端口只需要将8080端口映射出去即可,最后启动容器。

创建容器创建容器

最后通过极空间的远程访问或者浏览器直接输入极空间IP+端口号即可访问项目首页了,默认用户名为admin,密码为MaxKB@123..,首次登录会提醒修改密码。

登录界面登录界面

总结

项目目前是初期阶段,在知识库的回答检索上,AI模型的接入设置上都有一些不人性化的设计,不过总的来说还是可用的。如果你拥有大量的文档,那么投喂之后效果还是不错的,并且1panel的开发团队也很有经验,后续项目优化好了应该体验也不会差。

以上便是本期的全部内容了,如果你觉得还算有趣或者对你有所帮助,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!三连三连

版权声明 ▶ 本文作者:panda
▶ 本文链接:https://panda995.xyz/network/4973.html
▶ 本网站的文章部分内容可能来源于网络,仅供大家学习与参考,如有侵权,请联系站长进行核实删除。
▶ 转载本站文章需要遵守:商业转载请联系站长,非商业转载请注明出处!!
0 条评论
user 编辑评论信息
插入图片

隐私评论