分享

DeepSeek接入个人知识库,一般电脑也能飞速跑,确实可以封神了!

 gfergfer 2025-02-13 发布于辽宁
你好,我是郭震
今天这篇教程关于:在自己电脑如何使用大模型,搭建“轻量飞速”个人知识库。
图片
1 功能演示
之前文章已有介绍为什么要在本地搭建个人知识库,在此不再展开,简单来说,本地搭建知识库能做到更加安全地管理个人文档、或企业不方便外传的文档等。
这周末开发的桌面软件,咱们先看看界面功能:包括文件上传,知识库管理,关键词查询及结果显示,然后大模型深度思考分析(部分截图):
图片
2 轻量极速免费
以上个人知识库软件,满足以下要求:
1) 轻量。无需向量数据库,对电脑性能要求降到最低;
2) 极速。在保证查询性能、AI回答效果前提下,做到尽可能的快。
3) 免费。方案包括的所有工具全部开源,不用花一分钱。
3 设计方案和效果展示
基于以上三个要求,设计方案如下:
  1. 查询选型whoosh。之前文章也有介绍,最大特点轻量、开源、性能够好。

  2. 大模型配置灵活,选择DeepSeek-r1:1.5b,最新发布的推理模型,选择1.5b尺寸,回复极速,回答效果够好。效果下面会有证明。

总结来说:whoosh(本地查询快) DeepSeek-r1:1.5b(回答极速、效果还有保证)
whoosh(本地查询快) ,快到什么程度,20页的PDF,按关键词查询能在ms级;
DeepSeek-r1:1.5b(回答极速、效果还有保证),极速到什么程度,我的电脑是m1,会话第一次拿到回复秒(s)级。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多