国产大模型deepseek-R1本地部署手册
近期deepseek多次冲上热搜,又是多模态支持,又是开源发布R1模型,最近还受到了网络攻击。
这篇文章介绍下如何快速部署deepseek-R1,本地访问,因为目前提供了最低7B数据集的模型。
部署方案:Ollama + DeepSeek-R1 + Anything-LLM
这个方案包括如何安装和配置 Ollama 进行模型管理,使用 DeepSeek-R1 进行推理,并通过 Anything-LLM 提供 Web 界面。
ollama安装
windows直接下载安装部署即可
访问地址:ollama.com
安装完成后,桌面右下角会有小图标。
模型下载
直接去搜索deepseek-r1模型,或者首页上点击。
然后在终端命令执行
ollama run deepseek-r1:7b
anything-llm安装
好的,以下是使用 Docker 安装 Anything-LLM 以及配置 DeepSeek-R1 模型的步骤。
1. 安装 Docker
首先,确保您的系统上已安装 Docker。如果尚未安装,可以参考以下链接进行安装:
docs.docker.com/docker-for-windows/install/
2. 克隆 Anything-LLM 仓库
在终端中执行以下命令来克隆 Anything-LLM 的 GitHub 仓库:
git clone https://github.com/anything-llm/anything-llm.git cd anything-llm
3. 创建 Dockerfile
在 anything-llm 目录下创建一个 Dockerfile,其内容如下:
# Use an official Python runtime as a parent image FROM python:3.9-slim # Set the working directory in the container WORKDIR /app # Copy the current directory contents into the container at /app COPY . /app # Install any needed packages specified in requirements.txt RUN pip install --no-cache-dir -r requirements.txt # Make port 8080 available to the world outside this container EXPOSE 8080 # Define environment variable ENV NAME Anything-LLM # Run app.py when the container launches CMD ["python", "app.py"]
4. 构建 Docker 镜像
在 anything-llm 目录下执行以下命令来构建 Docker 镜像:
docker build -t anything-llm .
5. 创建配置文件
在 anything-llm 目录下创建一个 config.yaml 文件,并添加 DeepSeek-R1 模型的配置:
model: name: deepseek-r1-7b path: /models/deepseek-r1-7b server: host: 0.0.0.0 port: 8080
将模型放置在指定目录下:
将下载的 DeepSeek-R1 7B 模型移动到 Docker 容器可以访问的路径,例如 /models/deepseek-r1-7b。
7. 运行 Docker 容器
使用以下命令运行 Docker 容器,并将模型目录挂载到容器中:
docker run -d -p 8080:8080 -v /path/to/models:/models --name anything-llm anything-llm
请将 /path/to/models 替换为您本地存放模型的路径。
8. 验证部署
通过浏览器访问 http://localhost:8080,您应该能够看到 Anything-LLM 的界面,并与 DeepSeek-R1 7B 模型进行交互。
总结
通过上述步骤,您可以使用 Docker 成功安装和部署 Anything-LLM,并配置 DeepSeek-R1 7B 模型。
-
PakePlus 将web页面打包为应用
文章来自公众号:大侠之运维PakePlus 是一款轻量级的多端应用打包工具,它可以帮助用户在几分钟内将任意网站或前端项目快速构建为体积小于 5M 的桌面和移动客户端应用。不同于 Electron 那样
-
WeClone从聊天记录创造数字分身的一站式解决方案
WeClone是一款从聊天记录创造数字分身的一站式解决方案。它基于微信、QQ、Telegram等聊天记录,使用大模型微调技术,让你的AI分身不仅拥有你的语气和表达风格,还能与你的社交平台无缝对接,让它
-
mkdocs-material构建在 MkDocs 之上的文档框架
MkDocs Material 是一个构建在 MkDocs 之上的文档框架,专为那些希望以 Markdown 内容撰写出美观静态网站的人群量身定制。这个工具只需使用 Markdown 语法,你便可以轻
关注公众号:拾黑(shiheibook)了解更多
赞助链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- Nginx Proxy Manager Nginx 可视化管理工具
- 专访紫金山实验室许威教授:6G预计平滑过渡 赋能行业前景看好
- 美国财政部推迟对电动汽车税收抵免的新限制
- 为什么街边服装店还没倒闭?
- 微信可批量删好友了,你需要吗?
- 美最新《人工智能研发合作与投资评估报告》旨在深化四国合作,弱化对华依赖
- AVS领衔,全自主8K专业摄像机研发启动
- 微软持续创新的秘诀——改变世界,从组队微软骇客松开始
- 手持iPhone 12要不要换iPhone 13?我给你个准信儿
- 6/13 截止,暑期 2021 项目申请倒计时!
- 微软发布新版Win10补丁:解决重要问题
- 爱立信CEO鲍毅康:如对华为禁令仍然存在,爱立信将离开瑞典