国产大模型deepseek-R1本地部署手册
近期deepseek多次冲上热搜,又是多模态支持,又是开源发布R1模型,最近还受到了网络攻击。
这篇文章介绍下如何快速部署deepseek-R1,本地访问,因为目前提供了最低7B数据集的模型。
部署方案:Ollama + DeepSeek-R1 + Anything-LLM
这个方案包括如何安装和配置 Ollama 进行模型管理,使用 DeepSeek-R1 进行推理,并通过 Anything-LLM 提供 Web 界面。
ollama安装
windows直接下载安装部署即可
访问地址:ollama.com
安装完成后,桌面右下角会有小图标。
模型下载
直接去搜索deepseek-r1模型,或者首页上点击。
然后在终端命令执行
ollama run deepseek-r1:7b
anything-llm安装
好的,以下是使用 Docker 安装 Anything-LLM 以及配置 DeepSeek-R1 模型的步骤。
1. 安装 Docker
首先,确保您的系统上已安装 Docker。如果尚未安装,可以参考以下链接进行安装:
docs.docker.com/docker-for-windows/install/
2. 克隆 Anything-LLM 仓库
在终端中执行以下命令来克隆 Anything-LLM 的 GitHub 仓库:
git clone https://github.com/anything-llm/anything-llm.git cd anything-llm
3. 创建 Dockerfile
在 anything-llm 目录下创建一个 Dockerfile,其内容如下:
# Use an official Python runtime as a parent image FROM python:3.9-slim # Set the working directory in the container WORKDIR /app # Copy the current directory contents into the container at /app COPY . /app # Install any needed packages specified in requirements.txt RUN pip install --no-cache-dir -r requirements.txt # Make port 8080 available to the world outside this container EXPOSE 8080 # Define environment variable ENV NAME Anything-LLM # Run app.py when the container launches CMD ["python", "app.py"]
4. 构建 Docker 镜像
在 anything-llm 目录下执行以下命令来构建 Docker 镜像:
docker build -t anything-llm .
5. 创建配置文件
在 anything-llm 目录下创建一个 config.yaml 文件,并添加 DeepSeek-R1 模型的配置:
model: name: deepseek-r1-7b path: /models/deepseek-r1-7b server: host: 0.0.0.0 port: 8080
将模型放置在指定目录下:
将下载的 DeepSeek-R1 7B 模型移动到 Docker 容器可以访问的路径,例如 /models/deepseek-r1-7b。
7. 运行 Docker 容器
使用以下命令运行 Docker 容器,并将模型目录挂载到容器中:
docker run -d -p 8080:8080 -v /path/to/models:/models --name anything-llm anything-llm
请将 /path/to/models 替换为您本地存放模型的路径。
8. 验证部署
通过浏览器访问 http://localhost:8080,您应该能够看到 Anything-LLM 的界面,并与 DeepSeek-R1 7B 模型进行交互。
总结
通过上述步骤,您可以使用 Docker 成功安装和部署 Anything-LLM,并配置 DeepSeek-R1 7B 模型。
-
PakePlus 将web页面打包为应用
文章来自公众号:大侠之运维PakePlus 是一款轻量级的多端应用打包工具,它可以帮助用户在几分钟内将任意网站或前端项目快速构建为体积小于 5M 的桌面和移动客户端应用。不同于 Electron 那样
-
WeClone从聊天记录创造数字分身的一站式解决方案
WeClone是一款从聊天记录创造数字分身的一站式解决方案。它基于微信、QQ、Telegram等聊天记录,使用大模型微调技术,让你的AI分身不仅拥有你的语气和表达风格,还能与你的社交平台无缝对接,让它
-
mkdocs-material构建在 MkDocs 之上的文档框架
MkDocs Material 是一个构建在 MkDocs 之上的文档框架,专为那些希望以 Markdown 内容撰写出美观静态网站的人群量身定制。这个工具只需使用 Markdown 语法,你便可以轻
关注公众号:拾黑(shiheibook)了解更多
赞助链接:
关注数据与安全,洞悉企业级服务市场:https://www.ijiandao.com/
四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

随时掌握互联网精彩
- 美元兑人民币汇率2023年9月17日
- 日元对人民币汇率2023年7月28日
- 微软发布 Azure Quantum 进展,加速科学发现进程
- 2022年能源领域前沿科技发展态势及2023年趋势展望
- “国家云”概念亮相:中国电信天翼云担纲,框架已基本成型
- 【周末荐书】人类简史三部曲(十周年畅销纪念版):黑天鹅事件频发的当下,人类将何去何从?
- 低价代充会员有风险,百度官方提醒:小心隐私泄露
- 亿欧智库发布《2021年中国医药营销数字化研究报告》
- 没有特斯拉的 3·15 都曝了些什么?
- 千兆光网被写入政府工作报告:F5G全光城市迎来发展新纪元
- 贷款新规出台,实体行业、住房租赁市场受益,房企融资或继续“出海”
- 我为“十四五”建言 | 中国工程院院士彭寿:发挥新一代信息技术引领作用 助力构建“双循环”新发展格局