DeepSeek+本地知识库:真的太香了

:2025年02月05日 5ycode
分享到:

本文主要介绍了国产AI之光DeepSeek的本地部署教程和本地知识库部署,包括数据流程流程、命令行窗口执行拉取、本地服务安装嵌入模型等步骤。最后,作者分享了如何使用Cherry Studio搭建知识库,并给出了本...

verifying sha256 digest

writing manifest

success

下载cherry studio

根据自己的环境下载cherry studio

安装的时候,注意安装到其他磁盘,不要在c盘安装。

本地模型知识库

配置本地ollama

操作步骤:

  1. 找到左下角设置图标

  2. 选择模型服务

  3. 选择ollama

  4. 点击管理

  5. 点击模型后面的加号(会自动查找到本地安装的模型)

  6. 减号表示已经选择了

知识库配置

  1. 选择知识库

  2. 选择添加

  3. 选择嵌入模型

  4. 填写知识库名称

添加知识文档

cherry可以添加文档,也可以添加目录(这个极其方便),添加完以后出现绿色的对号,表示向量化完成。

搜索验证

  1. 点击搜索知识库

  2. 输入搜索顺序

  3. 点击搜索 大家可以看下我搜索的内容和并没有完全匹配,不过已经和意境关联上了。

大模型处理

  1. 点击左上角的聊天图标

  2. 点击助手

  3. 点击默认助手(你也可以添加助手)

  4. 选择大模型

  5. 选择本地deepseek,也可以选择自己已经开通的在线服务

  6. 设置知识库(不设置不会参考)

  7. 输入提问内容

  8. 发问

大家可以看到deepseek已经把结果整理了,并告诉了我们参考了哪些资料。

满血版

差别就是大模型的选择,在模型服务里配置下在线的deepseek服务即可。

如果你的知识库有隐私数据,不要联网!不要联网!不要联网!

方案二 基于AnythingLLM搭建

下载AnythingLLM  Desktop

下载以后,安装的时候,注意安装到其他磁盘,不要在c盘安装。

AnythingLLM 配置

点击左下角的设置

1. 点击 LLM首选项

2. 选择ollama作为模型提供商

3. 选择已安装的deepsek 模型

4. 注意下地址

5. 保存

1. 向量数据库不用动即可,使用自带的(ps:如果没有选择安装目录,默认在c盘,如果后续有需要可以挪走)

2. 嵌入模型配置

3. 可以使用自带的,也可以使用ollama安装好的

4. 配置完点击左下角的返回即可

配置工作区

  1. 新建的工作区

  2. 默认会话

  3. 上传知识库文档

将文档拖拽到上传框。ps: 只需要拖拽一次就行了,它在聊天框能看到。不知道为什么,我这拖拽以后,没看到上传成功,然后又拖拽了几次。然后聊天框就好多份。

当然你可以配置远程文档,confluence、github都可以。

ps: 需要注意的是文档在工作区间内是共用的。

api功能

AnythingLLM 可以提供api访问的功能,这个可以作为公共知识库使用。

总结

整个操作下来,AnythingLLM 的体验没有cherry好。AnythingLLM就像一个包壳的web应用(后来查了下,确实是)。AnythingLLM 得具备一定的程序思维,给技术人员用的。非技术人员还是使用cherry吧。作为喜欢折腾的开发人员,我们可以结合dify使用。

原文来源:https://mp.weixin.qq.com/s/IKoBga2iKfpkdD4Qgy8iLg

[我要纠错]
文:宋聪乔&发表于江苏
关键词: verifying sha256 digestwriting manifestsuccess 下载

来源:本文内容搜集或转自各大网络平台,并已注明来源、出处,如果转载侵犯您的版权或非授权发布,请联系小编,我们会及时审核处理。
声明:江苏教育黄页对文中观点保持中立,对所包含内容的准确性、可靠性或者完整性不提供任何明示或暗示的保证,不对文章观点负责,仅作分享之用,文章版权及插图属于原作者。

点个赞
0
踩一脚
0

您在阅读:DeepSeek+本地知识库:真的太香了

Copyright©2013-2024 JSedu114 All Rights Reserved. 江苏教育信息综合发布查询平台保留所有权利

苏公网安备32010402000125 苏ICP备14051488号-3技术支持:南京博盛蓝睿网络科技有限公司

南京思必达教育科技有限公司版权所有   百度统计

最热文章
最新文章
  • 卡尔蔡司镜片优惠店,镜片价格低
  • 苹果原装手机壳