Deepseek本地部署适合的场景是数据不能公开,需要建立私有知识库,代替自己书写论文专利或者其他有保密要求的文档的情况;或者断网环境不能访问外部大模型工具,在内网使用大模型;亦或者是调教电子魅魔(嘿嘿)。 目前网上的教程只教到如何部署deepseek模型,但这个ai工具不投喂素材学习,就如同一个没有经验的神童一样,空有智力没有知识。接下来除了deepseek部署外,我还会介绍我如何投喂文档素材进行学习、联网搜索以及如何使用python编程交互。都没什么难度,无论学没学过计算机都可以实现。 一、Deepseek部署这个网上教学很多,我简单一讲,基本都是先下载安装ollama,官网地址: https:/// ![]() ![]() 在安装好后,先启动ollama,然后在命令提示符界面或者是windows powershell界面输入想安装的模型版本 ![]() ![]() 然后选择模型大小,标签“8b”表示该模型大约有80亿个参数,性能比较好的台式电脑才可以选,如果电脑比较差,可以选择“1.5b”或者“7b”,对电脑性能非常自信可以选择“14b”“32b”,至于“70b”“671b”,家用电脑还是不要尝试了。 输入 ![]() 下载安装过程开始很快最后网速非常慢,可以关闭界面重新打开再输入一次 启动后默认使用cpu运行模型,如需使用显卡加速,只能用Nvidia GPU,AMD和Intel显卡不行,Nvidia GPU需要安装CUDA,这部分网上自己搜教程 但是此时只有简单对话的功能,很多人到此大失所望,就这? 二、Deepseek投喂素材建立个人知识库工具 AnythingLLM 下载安装,也是毫无难度,家用windows电脑选择windows x64版本安装即可 https:/// ![]() ![]() 安装后打开即可使用 ![]() 点击这里 ![]() 点击这里上传素材,从PDF、TXT到Word、Excel,几乎所有常见的文档格式都支持。 ![]() 上传后,选中我们要投喂的素材,进行投喂学习 ![]() ![]() 稍等一会,它就把这些内容读完掌握了,下图即学习完成 ![]() 使用,回答前它会查阅学习过的资料,并且在设置里可以启用联网搜索 ![]() ![]() 三、使用python交互这部分需要有简单的python基础,这里只提供最简单的示例,有复杂需求可以自己去查看github说明。 由于微信订阅号查看不方便,直接发代码笔记链接在下面方便复制 https://www./wangzilong-4omf5/om3ugu/rxx6h25l0g1cgykp?#《python与Deepseek模型交互》 核心方法: import requests import json
# 项目参数 API_BASE_URL = 'http://localhost:11434' API_PATH = '/api/generate'
def get_next_chapter(prompt): '''向 Ollama 模型发送请求并获取内容''' model_name = 'deepseek-r1:8b' # 替换为你使用的模型名称
data = { 'model': model_name, 'prompt': prompt, 'stream': False }
response = requests.post( f'{API_BASE_URL}{API_PATH}', json=data )
if response.status_code == 200: # 使用response.json()来解析JSON数据 response_data = response.json() # 从解析后的字典中获取'response'字段的值 return response_data['response'] else: raise ValueError(f'请求失败,状态码:{response.status_code}') 用上方方法即可完成交互,深夜12点,明天还要早起上班,草草完成一个小Demo,实现了自动生成连贯章节文本并保存到txt文件中的功能:
|
|
来自: 芥子c1yw3tb42g > 《待分类》