经过我自己的反复测试,两个操作系统的部署方式接近,这是目前为止最有效的部署方法,千万别去花钱买教程了,无需专业背景 | 全程保姆级教学 | 附常见问题解决方案 <<<以下是具体操作方式:
本文价值
30分钟完成部署 → 免费体验“170亿”参数国产大模型(我这里说的是模型的大小因电脑的配置而决定的,配置越高显卡越高部署的大模型就越聪明哦) → 支持离线对话/文档分析 → 电脑小白也能独立操作,对我们普通人来说,7b的差不多就可以满足日常简单需求了。
准备清单
- 操作系统:Windows 10/11 或 macOS 12+
- 存储空间:至少30GB可用空间
- 网络环境:稳定下载环境(模型文件约15GB)
Windows系统部署教程(8步搞定)
1 安装Python环境
o 官网下载Python 3.10.x安装包(勾选"Add to PATH")
o 验证安装:按 Win+R 输入cmd → 执行 python --version
2 获取模型文件
o 创建项目文件夹:桌面新建「DeepSeek_Project」
o 下载模型(二选一):
官方渠道:访问 modelscope.cn 搜索「deepseek-1.3b-chat」下载
网盘加速:回复「加速包」获取分流下载链接
3 安装依赖库
在文件夹地址栏输入cmd打开终端,逐行执行:
pip install transformers>=4.34
pip install torch torchvision torchaudio --index-url https://pypi.org/simple/
4 编写启动脚本
新建run.py文件,粘贴以下代码:
from transformers import AutoModelForCausalLM, AutoTokenizer
model =
AutoModelForCausalLM.from_pretrained("你的模型路径")
tokenizer =
AutoTokenizer.from_pretrained("你的模型路径")
5 启动模型(重要!)
终端执行:python run.py --device cpu
(带NVIDIA显卡可改为cuda加速)
前期准备清单
确认系统版本:macOS 12 Monterey 或更高
存储空间:至少40GB可用(推荐外接SSD)
网络环境:需稳定下载15GB+模型文件
终端权限:系统偏好设置 → 安全性与隐私 → 允许终端完全磁盘访问
完整操作流程
1 安装Homebrew(应用管理器)
打开终端执行(需输入开机密码):
/bin/bash -c "$(curl -fsSL
https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
出现==> Installation successful!即完成
2 配置Python环境(专为Mac优化)
# Intel芯片执行:
brew install python@3.10
# M1/M2芯片执行:
arch -arm64 brew install python@3.10
# 验证安装(应显示3.10.x)
python3 --version
3 创建专属工作区
cd ~/Desktop
mkdir DeepSeek_Mac && cd DeepSeek_Mac
4 下载模型文件(两种方式)
方案A:官方下载(约2小时)
pip3 install modelscope
python3 -c "from modelscope import snapshot_download; snapshot_download('deepseek-ai/deepseek-1.3b-chat')"
方案B:网盘加速(回复「Mac加速」获取链接)
下载后解压到工作区文件夹
5 安装核心依赖库
# 通用依赖
pip3 install transformers>=4.34
# M芯片加速组件
pip3 install tensorflow-macos tensorflow-metal
6 编写启动脚本
新建deepseek_mac.py文件,粘贴以下代码:
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
# M芯片加速设置
device = "mps" if torch.backends.mps.is_available() else "cpu"
model = AutoModelForCausalLM.from_pretrained(
"./deepseek-1.3b-chat", # 模型路径
torch_dtype=torch.float16,
device_map=device
)
tokenizer = AutoTokenizer.from_pretrained("./deepseek-1.3b-chat")
# 示例对话
inputs = tokenizer("如何做番茄炒蛋?", return_tensors="pt").to(device)
outputs = model.generate(**inputs, max_new_tokens=200)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
7 首次运行配置
# 授予权限(防止闪退)
xattr -d com.apple.quarantine deepseek_mac.py
# 启动模型(M芯片专用命令)
python3 deepseek_mac.py --device mps
8 内存优化技巧
基础版:在启动命令后添加--max_memory 14GB
进阶版:安装内存压缩工具
brew install zstd
9 创建快捷启动方式
新建一键启动.command文件,内容:
#!/bin/zsh
cd ~/Desktop/DeepSeek_Mac
python3 deepseek_mac.py --device mps
终端执行chmod +x 一键启动.command赋予权限
必看注意事项
- 下载中断解决方案:使用迅雷等下载工具重试
- Windows端报错「缺少DLL文件」的话:安装最新VC++运行库
- 苹果芯片首次运行慢:等待10-15分钟初始化,估计也就3分钟左右就可以,我自己测试过