刚拿到一台空白 Windows 机器想把它变成能跑 AI 编程、训练小模型、调试 Agent 的工作站最怕的不是命令多而是顺序错。Windows AI 编程环境从零搭建这件事我前后在台式机、笔记本、云主机上折腾过十几轮最大的体会是先把系统层、运行时层、框架层、模型层拆开再按依赖顺序装后面能少踩一半坑。这篇内容适合三类人还没装过 Python 的新手、被 CUDA 和 Docker 折腾过的开发者、想把本地大模型和 AI 编程助手接进工作流的人。整套流程覆盖 Git、Miniconda、VS Code、PyTorch、WSL2、Docker、Ollama、LM Studio、AI 编程助手配置以及故障排查和迁移清单。你不需要一次全装按章节推进即可每装完一层就留下来验证一次。1. 先想清楚Windows AI 编程环境到底分几层1.1 为什么不要一上来就装 CUDA 和框架很多人第一次搭 AI 编程环境打开搜索引擎就搜 CUDA 下载、cuDNN 配置、PyTorch 安装结果驱动、运行时、框架三者的版本互相打架最后连python命令都找不到了。我的建议是先画一张依赖图最底层是 Windows 系统和显卡驱动往上是包管理器和终端再往上是 Python 运行时然后是 AI 框架最上面才是模型和 AI 编程助手。每一层只解决自己的问题不要把不同层的安装混在一起。具体来说显卡驱动负责让系统识别 GPUPyTorch 这类框架自带 CUDA 运行时大多数情况下你不需要单独安装完整 CUDA Toolkit。单独装 CUDA Toolkit 的场景通常是你要编译自定义算子、使用某些必须本地编译的库或者跑老版本 TensorFlow。cuDNN 也一样现代 PyTorch 和 TensorFlow 的 Windows 包已经把需要的动态库打包好了手动把 dll 复制到C:\Windows\System32是十年前的玩法现在这么干反而容易让多个环境互相污染。WSL2 的位置也要提前想清楚。它本质上是 Windows 里的一个轻量 Linux 子系统适合跑 Docker、Linux 专用工具链、某些只支持 Linux 的 AI 库。你完全可以在 PowerShell 里跑 Python 和 PyTorch也可以用 WSL2 跑 Ubuntu 环境。我的习惯是日常编辑和轻量推理放在 Windows 原生环境Docker 容器、需要 Linux 编译的库、部分训练脚本放在 WSL2。两层并行互不干扰迁移时也清楚哪些东西在哪一层。注意安装顺序错了后面不是不能修而是排查成本会成倍增加。先装 Python 再装驱动和先装驱动再装 Python看起来只是顺序不同实际决定了你后面要花十分钟还是两个小时定位问题。1.2 硬件、系统版本与磁盘分区怎么选AI 编程环境对硬件的要求分三档能跑、跑得舒服、跑得专业。内存低于 16GB 会非常难受Chrome、VS Code、Jupyter、Docker 一起开内存立刻见底。显存低于 6GB 只能跑小模型和轻量微调想本地跑 7B 量化模型建议 8GB 起步。磁盘最好用 NVMe SSD模型文件、Docker 镜像、conda 环境都很吃空间512GB 是底线1TB 会从容很多。系统版本上Windows 11 22H2 及以上对 WSL2、Docker Desktop、Windows Terminal 的支持更完整。Windows 10 也能用但部分新驱动和 WSL2 功能会受限。BIOS 里要开启虚拟化Intel 平台找 VT-xAMD 平台找 SVM名称不同但作用一样。这个开关不开WSL2 和 Docker 都跑不起来报错信息还经常绕圈子。磁盘分区我建议分三个区C 盘放系统和开发工具D 盘放代码、conda 环境、Docker 数据E 盘或移动硬盘放模型文件和备份。原因很直接模型文件动辄几十 GBDocker 镜像和 WSL2 虚拟磁盘也会越来越大全部堆在 C 盘系统盘一满Windows 更新、临时文件、虚拟内存都会出问题。路径命名尽量用英文D:\dev、D:\models、D:\docker这种不要用中文和空格。很多 AI 库对中文路径支持不好报错时你甚至看不出是路径问题。配置档位CPU内存GPU 显存磁盘适合场景入门能跑4 核 8 线程16GB6GB512GB SSDPython、Jupyter、小模型推理舒适开发8 核 16 线程32GB12GB1TB NVMe7B-13B 量化模型、轻量训练进阶工作站12 核以上64GB16GB 以上2TB NVMe更大模型、微调、多容器1.3 工具链清单与安装顺序把工具链列成清单装一个勾一个比凭记忆乱装靠谱。基础层包括 Git、Miniconda、Windows Terminal、PowerShell 7、VS Code。虚拟化层包括 WSL2、Ubuntu、Docker Desktop。AI 框架层包括 PyTorch、TensorFlow、JupyterLab。模型层包括 Ollama、LM Studio、llama.cpp。应用层包括 VS Code 的 AI 编程助手插件、本地模型 API 调用脚本。安装顺序我推荐显卡驱动 - Git - winget - PowerShell 7 - Windows Terminal - Miniconda - VS Code - WSL2 - Docker Desktop - PyTorch - 本地模型工具 - AI 编程助手。显卡驱动放最前面是因为后面很多工具都会检测 GPU驱动没装好框架装完也跑不起来。Miniconda 放在 VS Code 前面是因为 VS Code 需要选择 Python 解释器解释器不存在插件配置就是空的。还有一个小细节尽量不要在安装过程中同时开多个安装程序。Windows 的 PATH 环境变量在安装时会被修改多个安装程序同时写 PATH顺序可能乱掉。我遇到过python命令指向 Windows Store 的占位程序而不是 Miniconda 环境原因就是安装顺序和 PATH 优先级没控制好。每装完一层打开新终端验证一次命令确认没问题再继续。2. Windows 基础工具链Git、终端、包管理器与 VS Code2.1 Git for Windows 安装与最小配置Git 是 AI 编程环境里的基础设施。你从 GitHub 拉取示例代码、管理自己的训练脚本、复现别人的项目都离不开它。Windows 上直接去 git-scm.com 下载 Git for Windows安装时几个选项值得注意默认编辑器可以选 VS CodePATH 环境选择 “Git from the command line and also from 3rd-party software”换行符选择 “Checkout Windows-style, commit Unix-style line endings”终端模拟器用 MinTTY 即可。安装完成后打开 PowerShell先验证版本再做最小配置git --version git config --global user.name 你的名字 git config --global user.email youexample.com git config --global core.autocrlf true git config --global init.defaultBranch maincore.autocrlf true解决的是 Windows 和 Linux 换行符差异。你在 Windows 上 checkout 文件时自动转成 CRLF提交时转回 LF跨平台协作会少很多 “整个文件都变了” 的 diff。如果团队统一用 LF也可以设为input关键是一致。企业环境里如果遇到证书问题可以试试git config --global http.sslBackend schannel这条命令让 Git 使用 Windows 系统证书存储某些公司网络环境下比默认 OpenSSL 更省心。注意不要随便关闭 SSL 验证那会带来安全风险。注意Git 安装路径不要带中文和空格。虽然现代 Git 对路径支持好很多但某些 Python 库调用 git 命令时路径里的空格仍可能引发参数解析问题。2.2 winget、Scoop 和 PowerShell 7 怎么搭配Windows 自带 winget虽然界面不花哨但装开发工具足够用。先升级 PowerShell 7 和 Windows Terminal再装其他工具winget install --id Microsoft.PowerShell -e winget install --id Microsoft.WindowsTerminal -e winget install --id Git.Git -e winget install --id Microsoft.VisualStudioCode -e如果 winget 源响应慢可以先用winget source update更新源。Scoop 适合安装命令行小工具比如ripgrep、fd、fzf、jq这些工具在 AI 编程和数据处理时很顺手。Miniconda 我建议单独下载安装不用 Scoop 管理因为 conda 环境本身有自己的包管理逻辑混在一起容易乱。PowerShell 执行策略经常拦住脚本尤其是 conda 初始化脚本和 npm 全局命令。把当前用户策略设为 RemoteSignedSet-ExecutionPolicy -Scope CurrentUser RemoteSignedWindows 长路径支持也建议打开很多 Python 包和 node_modules 嵌套很深路径超过 260 字符就会报错。用管理员权限打开 PowerShellSet-ItemProperty -Path HKLM:\SYSTEM\CurrentControlSet\Control\FileSystem -Name LongPathsEnabled -Value 1改完重启终端。这个设置对 AI 项目特别有用Hugging Face 缓存、conda 环境、Docker 构建上下文都可能产生超长路径。2.3 VS Code 插件与远程开发配置VS Code 是 AI 编程环境的主编辑器。必装扩展包括Python、Pylance、Jupyter、Docker、WSL、GitLens。做本地模型和 AI 编程助手还可以装 Continue、Cline 这类支持自定义模型提供商的扩展。安装完 Python 扩展后按CtrlShiftP输入 “Python: Select Interpreter”选择 Miniconda 环境里的python.exe。工作区设置可以写成.vscode/settings.json{ python.defaultInterpreterPath: C:\\dev\\miniconda3\\envs\\ai\\python.exe, terminal.integrated.defaultProfile.windows: PowerShell, files.autoSave: afterDelay, files.autoSaveDelay: 1000, jupyter.notebookFileRoot: ${workspaceFolder} }WSL 扩展装好后可以在 VS Code 左下角选择 “Connect to WSL”直接打开 Ubuntu 里的项目目录。这样 Windows 负责编辑界面Linux 子系统负责运行环境文件系统性能也比跨系统挂载好。Docker 扩展可以查看容器、镜像、日志排查容器启动失败时很直观。注意VS Code 有用户安装版和系统安装版两者扩展目录和更新策略不同。团队协作时统一一种避免 “我这能跑你那不能跑” 的环境差异。3. Python 与 AI 框架Miniconda、PyTorch、Jupyter 全流程3.1 Miniconda 安装与 conda 初始化Miniconda 比 Anaconda 轻适合从零搭 AI 环境。去官网下载 Windows 64-bit 安装包安装路径建议C:\dev\miniconda3。安装向导里是否勾选 “Add Miniconda3 to my PATH environment variable”我的做法是不勾选安装后用conda init注入 PowerShell。原因是 PATH 里同时存在多个 Python 时系统容易调用错版本手动初始化更可控。安装完成后打开新的 PowerShell执行conda --version conda init powershell conda config --set auto_activate_base false重启终端让conda init生效。然后创建独立环境conda create -n ai python3.11 -y conda activate ai python -m pip install --upgrade pip环境名用ai只是示例实际项目建议按用途命名比如torch2、tf2、llm、agent。每个项目一个环境依赖冲突时直接删环境重建比在 base 环境里修依赖快得多。配置 pip 镜像可以加速常见包下载pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple pip config set global.trusted-host pypi.tuna.tsinghua.edu.cnconda 和 pip 混用时要注意优先用 conda 安装带二进制依赖的包比如 PyTorch、NumPy、SciPy用 pip 补充 conda 源里没有的包。混装后如果出现依赖冲突先看报错里是哪个包再决定是退回 conda 版本还是单独建环境。3.2 显卡驱动、CUDA 与 PyTorch 版本对齐先看显卡驱动状态nvidia-smi右上角会显示 “CUDA Version”这是驱动支持的最高 CUDA 运行时版本不代表你已经安装了 CUDA Toolkit。PyTorch 安装时选择的 CUDA 版本不能超过这个值。比如驱动显示 CUDA 12.4你可以装 cu121 或 cu124 的 PyTorch。如果驱动太旧先更新 NVIDIA 驱动再装框架。用 conda 安装 PyTorch 的典型命令conda activate ai conda install pytorch torchvision torchaudio pytorch-cuda12.1 -c pytorch -c nvidia安装完成后写一个验证脚本import torch print(torch:, torch.__version__) print(cuda available:, torch.cuda.is_available()) print(gpu:, torch.cuda.get_device_name(0) if torch.cuda.is_available() else CPU)如果torch.cuda.is_available()返回 False常见原因有三个装成了 CPU 版 PyTorch显卡驱动版本太低当前 conda 环境不是你以为的那个环境。用where python和python -c import torch; print(torch.__file__)确认路径。TensorFlow 在 Windows 原生环境的 GPU 支持比较有限新版本更推荐 WSL2 或 DirectML 方案跑之前先查官方安装矩阵别硬装。注意不要手动把 CUDA 的 dll 复制到C:\Windows\System32。现代 PyTorch 和 TensorFlow 包会自带所需运行时手动复制会让多个环境之间互相污染卸载时也清不干净。3.3 JupyterLab 与 VS Code 内核注册JupyterLab 适合做实验记录、数据探索、模型调试。安装conda activate ai conda install jupyterlab -y python -m ipykernel install --user --name ai --display-name Python (AI) jupyter lab浏览器打开后Jupyter 默认监听 8888 端口并生成 token。VS Code 里打开.ipynb文件时右上角选择内核能看到刚才注册的 “Python (AI)”。如果看不到执行jupyter kernelspec list检查内核路径或者重启 VS Code。调试 Python 脚本时VS Code 的launch.json可以这样配{ version: 0.2.0, configurations: [ { name: Python: Current File, type: debugpy, request: launch, program: ${file}, console: integratedTerminal, justMyCode: false } ] }justMyCode: false方便你进入第三方库内部看调用栈排查模型加载失败、维度不匹配时很有用。Jupyter 的 notebook 根目录尽量用英文路径jupyter.notebookFileRoot设置成工作区目录避免相对路径读取文件时找不到。3.4 依赖导出与可复现环境AI 项目最怕 “昨天能跑今天报错”。依赖导出是基本操作conda activate ai conda env export --from-history environment.yml pip freeze requirements.txt--from-history只导出你显式安装的包不会把几十个底层依赖全部写进去跨平台恢复时更干净。pip freeze适合记录 pip 安装的包但要注意里面可能包含本地路径包、Git 仓库包迁移到其他机器前要检查。更严格的可复现方案是用 Docker 把整个环境打成像后面第 4 章会讲。团队项目里我习惯在仓库根目录放environment.yml和requirements.txt再写一个README说明先 conda 后 pip 的安装顺序。别小看这两个文件新同事按文档装环境能省掉大量 “你装了什么版本” 的沟通。4. WSL2、Docker 与 GPU 容器让 Windows 跑 Linux 工具4.1 WSL2 安装、Ubuntu 初始化与磁盘迁移WSL2 让 Windows 里有一个真正的 Linux 内核Docker Desktop、部分 AI 库、命令行工具都依赖它。安装wsl --install wsl --set-default-version 2 wsl --install -d Ubuntu-22.04安装完成后重启进入 Ubuntu 设置用户名和密码。先更新系统并装基础工具sudo apt update sudo apt upgrade -y sudo apt install build-essential python3-pip python3-venv git curl -yWSL2 的虚拟磁盘默认放在 C 盘用久了可能几十 GB。导出备份和迁移wsl --export Ubuntu-22.04 D:\backup\ubuntu.tar wsl --import Ubuntu-22.04 D:\wsl\Ubuntu D:\backup\ubuntu.tar迁移前先关闭 WSLwsl --shutdown。如果发现 WSL2 吃内存太多可以在C:\Users\你的用户名\.wslconfig里限制[wsl2] memory16GB processors8 swap8GB这个文件对笔记本特别有用不限制的话 WSL2 可能占用大量内存Windows 本身会变卡。改完执行wsl --shutdown再重启。4.2 Docker Desktop 用 WSL2 后端跑 AI 容器Docker Desktop 安装时选择 “Use WSL2 based engine”安装完成后验证docker --version docker run hello-world跑 GPU 容器前确认 NVIDIA 驱动和 WSL2 都正常docker run --rm --gpus all nvidia/cuda:12.1.1-base-ubuntu22.04 nvidia-smi如果这条命令能输出显卡信息说明 Docker 已经能调用 GPU。接下来可以跑 PyTorch 容器docker run -it --rm --gpus all -p 8888:8888 -v D:\dev\notebooks:/workspace pytorch/pytorch:2.1.0-cuda12.1-cudnn8-runtime容器里启动 Jupyter 时注意监听地址用0.0.0.0否则宿主机访问不到。端口冲突时换一个宿主机端口比如-p 8889:8888。卷挂载-v把 Windows 目录映射进容器代码改完不用重新构建镜像。Docker Desktop 设置里可以配置镜像存储位置默认也在 C 盘。镜像多了以后C 盘空间会快速下降。可以在设置里把 Disk image location 改到 D 盘或者定期执行docker system prune清理未使用镜像和缓存。注意Docker Desktop 和某些虚拟化软件可能冲突比如老版本 VirtualBox、部分安卓模拟器。如果 Docker 启动失败先检查 Hyper-V、虚拟机平台、WSL2 这几个 Windows 功能是否正常启用。4.3 本地大模型推理Ollama、LM Studio 与 API 调用本地跑模型是 Windows AI 编程环境里很有价值的一块。Ollama 安装简单适合命令行和 API 调用。安装后验证ollama --version ollama run llama3.1第一次运行会下载模型模型文件默认在 C 盘用户目录。想改到 D 盘设置环境变量OLLAMA_MODELSsetx OLLAMA_MODELS D:\models\ollama重启终端后生效。Ollama 默认 API 端口是 11434Python 调用示例import requests resp requests.post( http://localhost:11434/api/generate, json{ model: llama3.1, prompt: 用 Python 写一个快速排序并解释时间复杂度, stream: False } ) print(resp.json()[response])LM Studio 提供图形界面适合加载 GGUF 格式模型调参更直观。显存估算可以按量化等级粗算7B 模型 Q4 量化大约 4-5GB 显存13B Q4 大约 8-10GB33B Q4 需要 20GB 以上。显存不够时部分层可以放到内存但速度会明显下降。下载模型时注意来源和许可优先选择官方或社区验证过的模型仓库。llama.cpp 适合想深入控制推理参数的人可以自己编译也可以下载预编译版本。它支持 CPU、CUDA、Vulkan 等多种后端灵活度高但配置成本也高。我的建议是先用 Ollama 或 LM Studio 跑通流程再根据需求决定要不要折腾 llama.cpp。4.4 把 AI 编程助手接进 VS Code 与 Agent 工作流VS Code 里的 AI 编程助手插件可以连接本地模型形成不依赖外部服务的补全和对话环境。以 Continue 为例安装扩展后编辑配置文件指定 Ollama 作为模型提供商{ models: [ { title: Llama 3.1, provider: ollama, model: llama3.1 } ], tabAutocompleteModel: { title: Qwen Coder, provider: ollama, model: qwen2.5-coder:7b } }补全用 coder 小模型对话用大模型这样响应速度和生成质量能兼顾。Agent 工作流的基础是任务拆解、工具调用、文件读写和结果验证。你可以先让助手生成单元测试再运行测试把失败信息回传给模型继续修。这种循环比一次性生成大段代码可靠。密钥管理要单独注意。任何 API Key、访问令牌都不要写进代码仓库放在.env文件里并把.env加入.gitignore。本地模型服务默认只监听本机不要随意开放到局域网避免被其他设备调用。5. 常见故障、性能调优与迁移维护5.1 安装中断、命令找不到与网络重试AI 编程工具安装中断很常见尤其是命令行工具和 npm 全局包。先确认命令是否存在where python where conda where node where npm如果命令找不到大概率是 PATH 没刷新或安装路径没写进去。关掉所有终端重新打开或者重启资源管理器。npm 全局安装失败时先检查 Node 版本是否 LTS再看全局目录权限node -v npm -v npm config get prefix npm cache clean --forcenpm 全局目录不要放在C:\Program Files下面权限问题会反复出现。可以改成用户目录npm config set prefix C:\Users\你的用户名\AppData\Roaming\npm安装 AI 编程助手 CLI 时如果卡住或中断删除缓存和残留目录后重试。网络波动时不要频繁重装先用ping或curl检查目标地址是否可达再决定是换源还是等网络恢复。5.2 GPU 不可用、显存不足与训练调优nvidia-smi没输出先检查显卡驱动和设备管理器。torch.cuda.is_available()为 False按顺序排查驱动版本、PyTorch 是否 GPU 版、当前环境是否正确、CUDA 版本是否匹配。训练时遇到CUDA out of memory可以从这几个方向调现象常见原因处理方式nvidia-smi 找不到命令驱动未装或 PATH 异常重装 NVIDIA 驱动重启torch.cuda.is_available 为 False装了 CPU 版 PyTorch重装 GPU 版确认 conda 环境训练中途显存爆batch 太大、模型太大减小 batch梯度累积混合精度GPU 利用率低数据加载瓶颈增加 DataLoader workers预取数据笔记本训练慢用了核显设置高性能 GPU插电运行混合精度训练示例from torch.cuda.amp import autocast, GradScaler scaler GradScaler() for data, target in loader: optimizer.zero_grad() with autocast(): output model(data) loss loss_fn(output, target) scaler.scale(loss).backward() scaler.step(optimizer) scaler.update()显存碎片太多时可以手动清理import torch import gc gc.collect() torch.cuda.empty_cache()长期监控用nvidia-smi -l 1每秒刷新一次。Windows 任务管理器的 GPU 面板也能看显存和利用率但细节不如 nvidia-smi。5.3 端口冲突、Docker 异常与数据备份本地模型 API、Jupyter、Docker 容器都会占用端口。端口冲突时先查进程netstat -ano | findstr :11434 taskkill /PID 1234 /F把 1234 换成实际 PID。Docker 启动异常时先看 Docker Desktop 的 Troubleshoot 页面重启 WSL2wsl --shutdown再启动 Docker Desktop。如果镜像层损坏可以在 Troubleshoot 里执行 Clean / Purge data代价是本地镜像和容器会清空重要数据要提前备份。Docker 数据默认在 WSL2 虚拟磁盘里备份方案是导出镜像和卷或者把代码和数据放在 Windows 目录通过-v挂载进容器。备份清单我通常包括conda 环境导出文件、pip freeze 结果、Git 仓库、模型文件目录、Ollama 模型目录、VS Code 设置、Docker 镜像列表。模型文件最大优先放 D 盘或移动硬盘。系统还原点也值得开装驱动和系统级工具前手动创建一个出问题能快速回滚。注意防病毒软件有时会拖慢 AI 训练和模型加载。可以把开发目录、conda 环境目录、模型目录加入排除项但不要排除整个 C 盘安全边界还是要保留。5.4 新机迁移与重装清单换电脑或重装系统时按清单恢复比重装一遍快得多。先导出已安装软件winget list D:\backup\winget-list.txt再导出 conda 环境conda env export --from-history D:\backup\environment.yml pip freeze D:\backup\requirements.txtVS Code 开启设置同步Git 配置手动恢复模型文件直接复制。恢复顺序建议驱动 - Git - Miniconda - VS Code - WSL2 - Docker - 框架环境 - 模型文件。每恢复一层验证一次不要全部装完再统一排查。我个人在装新机时会先把驱动、Git、Miniconda 这三样装完立刻打一个系统还原点再去碰 CUDA、Docker 和模型文件。原因很简单越往后装变量越多回滚成本越高。这个习惯帮我省过至少两次重装系统的时间。