AI Toolkit for VS Code在编辑器里完成 AI 模型的测试、微调与部署【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools测一个模型要复制 API、手写测试脚本微调又要配 Python 环境、搭训练流水线工具链来回切换。AI Toolkit for VS Code 把模型发现、对话测试、微调整合进一个扩展覆盖从本地 Ollama 模型到云端端点的场景。读完后你能在 Playground 里跑通第一次模型测试并生成一个可用的微调项目。快速上手安装扩展并通过环境检测在 VS Code 扩展市场搜索 AI Toolkit选择正式版本安装按提示重载窗口。安装完成后侧边栏会出现 AI Toolkit 面板首次打开会进入 Get Started 引导页勾选Explore AI models并点击 Open Model Catalog即可进入模型目录。扩展会自动做前置检查本地模型依赖 GPU 驱动与 WSLWindows 下检查未通过时界面会提示你缺什么、怎么补。若网络环境不稳定装不了扩展可以先克隆仓库查阅文档与示例git clone https://gitcode.com/GitHub_Trending/vs/vscode-ai-toolkit在 Playground 跑通第一次模型对话打开 TOOLS 分组下的 Playground在右侧 Model 下拉框选一个模型远程模型无需下载本地模型会先加载权重在底部输入框发送 Hi。模型响应、Token 计数会立即显示在对话区这一步确认你的环境能正常推理。核心能力用模型目录按硬件和来源筛选模型点击侧边栏 CATALOG 分组的 Models 打开模型目录。顶部筛选器按托管方GitHub、ONNX、OpenAI、Anthropic、Google、发布者、设备类型CPU/GPU/NPU过滤打开 Fine-Tuning Support 开关则只显示支持微调的模型。没有 GPU 的机器选带 cpu-int4 标识的量化版本部分云端模型需要登录对应服务商账号才能使用。用 Temperature 和 Top P 调出稳定输出Playground 右侧的 Model Preferences 面板提供三组控制Context instructions给模型的常驻系统提示、Max response length、以及 Temperature 与 Top P。Temperature 越低输出越确定适合需要固定格式的调用调高则适合发散性创作。对比不同模型对同一提示的回答可以直观看出参数变化的影响再决定项目里用哪套设置。多模态模型还支持在输入框旁附加本地文件作为视觉输入一起参与推理。接入 Ollama 本地模型与远程端点目录之外的模型也能进 Playground。鼠标悬停 MY MODELS点击出现的加号按钮选 Add an Ollama model再选 Select models from Ollama library勾选已用ollama pull下载好的模型它们会出现在 MY MODELS 列表中与内置模型用法一致。已有 OpenAI 兼容的聊天端点自建推理服务或云厂商 API时执行命令AI Toolkit: Add model for remote inference填模型名、端点 URL 和鉴权头OpenAI 格式为Authorization: Bearer YOUR_API_KEY模型会以 Remote 标签加入树视图。一个完整小案例微调一个情感分类模型用项目自带的流程把一个通用小模型训练成输入一句话、输出情绪标签的分类器。生成微调项目在 AI Toolkit 面板点击 Model Fine-tuning输入项目名如emotion-tutorial和保存位置在 Model Catalog 中选中 microsoft/phi-2点击 Configure Project。此时只生成项目脚手架模型尚未下载。把数据集字段指到 text 和 label 列在 Data settings 区域Dataset name 下拉框选 Add HF Name输入dair-ai/emotionHugging Face 上的情绪分类数据集。再改两处Text columns 改为text,label声明训练要读哪些列Text template 与 Inference prompt template 保持对应模板中的{{text}}占位符会替换成真实文本。点击 Generate Project扩展会下载模型、创建 Conda 环境完成后选择 Relaunch Window in Workspace窗口重启并打开生成的项目finetuning、dataset、inference、setup 等目录。启动微调并在 Gradio 里验证结果在项目终端中激活环境并启动训练conda activate phi-2-env python finetuning/invoke_olive.py微调采用 QLoRA 方式生成 LoRA 适配器终端实时打印训练进度。完成后进入验证阶段cd inference python gradio_chat.py终端会给出本地访问链接浏览器打开 Gradio 界面输入 Walking down the road cheering.点击 Submit模型输出情绪标签 joy右侧滑条可以现场调 Top-k、Top-p、Temperature 观察输出变化。进阶与延伸没有本地 GPU 时把微调放到云端打开扩展设置中的 Enable Remote Fine-tuning And Inference用命令AI Toolkit: Provision Azure Container Apps job for fine-tuning开通云资源之后执行AI Toolkit: Run fine-tuning训练就在 Azure Container Apps 上跑日志可直接在 VS Code 输出面板流式查看AI Toolkit: Deploy for inference会把微调后的推理端点部署出去拿到 URL 即可调用。按硬件挑对模型档位CPU 机器优先选 cpu-int4 量化版本体积和内存占用都小有 NVIDIA GPU 的机器先确认nvidia-smi能识别设备再选 GPU 档位模型推理速度会明显不同。参数层面Max response length 控制单次输出的 token 上限长文本任务才需要调高。参考总览与安装doc/overview.md模型目录与自带模型doc/models.mdPlayground 用法doc/playground.md微调含远程开发doc/finetune.md常见问题doc/faq.md完整实操示例archive/walkthrough-simple-dataset.md、archive/walkthrough-hf-dataset.mdFoundry Canvas 插件源码microsoft-foundry/【免费下载链接】foundry-dev-tools项目地址: https://gitcode.com/GitHub_Trending/vs/foundry-dev-tools创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考