针对0基础用户的DeepSeek等AI大模型本地部署教程，以Ollama工具为核心，结合硬件选择、环境搭建、模型运行全流程，提供保姆级指导

一、硬件准备与系统要求

  1. 最低配置（适合1.5B-7B小模型）

    • CPU：Intel i3或AMD同级处理器（支持AVX2指令集）
    • 内存：8GB以上（建议16GB）
    • 存储：50GB可用空间
    • 显卡：非必须（核显可运行小模型）

  2. 推荐配置（适合14B-70B中等模型）

    • CPU：6核及以上（如Intel i5/i7）
    • 内存：32GB
    • 显卡：NVIDIA RTX 3060（8GB显存）或更高
    • 存储：500GB NVMe SSD

  3. 专业配置（适合32B-671B大模型）

    • CPU：服务器级多核处理器
    • 内存：128GB+
    • 显卡：多张NVIDIA A100/V100（需80GB显存）
    • 存储：2TB NVMe

二、部署工具安装（Ollama）

  1. 下载安装

    • 访问官网：https://ollama.com/
    • 选择对应系统的安装包（Windows/Mac/Linux）
    • 双击安装，默认路径为C盘（避免环境变量问题）

  2. 验证安装

    • 打开命令行（Win+R输入cmd，Mac打开终端）

    • 输入命令：

    • 显示版本号（如0.5.6）即安装成功

三、模型选择与下载

  1. 入门级模型

    • DeepSeek-R1 1.5B（15亿参数）

    • 特点：占用3GB内存，适合简单问答

  2. 编程专用模型

    • DeepSeek-Coder-V2-Lite（16B量化版）

    • 支持338种编程语言，适合代码生成

  3. 高性能模型

    • DeepSeek-R1 70B（700亿参数）

    • 性能接近GPT-3.5，需至少24GB显存

四、运行与交互

  1. 命令行对话

    • 启动模型后直接输入问题：

    • 按Ctrl+C退出对话

  2. 可视化界面（可选）

    • 安装Open WebUI：

    • 浏览器访问http://localhost:3000

五、常见问题解决

问题现象 解决方案
显存不足 使用量化模型（在命令后加-q4）或升级显卡
下载超时 切换网络环境，重试命令
响应速度慢 关闭其他占用资源的程序，改用更小模型
模型加载失败 清除缓存：rm -rf ~/.cache/huggingface

六、进阶技巧

  1. 多模型管理

    • 查看已安装模型：

    • 删除模型：

  2. VSCode集成（适合开发者）

    • 安装CodeGPT扩展
    • 配置本地模型路径：deepseek-r1:7b

硬件选择参考表

模型参数 适用场景 推荐配置
1.5B-7B 个人学习/简单任务 笔记本核显+16GB内存
14B-32B 代码生成/文案创作 RTX 3060+32GB内存
70B+ 科研/复杂推理 双A100显卡+128GB内存

提示：首次部署建议从1.5B小模型开始测试，逐步升级硬件和模型规模。更多技术细节可参考凌顺实验室硬件指南和Ollama官方文档。

许可协议

本文采用 署名-非商业性使用-相同方式共享 4.0 国际 许可协议，转载请注明出处。

分享文章