每日热评65k 星大模型“出厂规则”档案馆系统提示词泄露集为何是工程师必看研究库专栏AI 开源工程实录 | 标签Prompt工程, 系统提示词, LLM安全, 大模型, 开源研究评测快照asgeirtj/system_prompts_leaksf475e8b项目定位逐字归档大模型系统提示词泄露样本的开源研究合集数据指标⭐ 65,710 Stars | 主语言 Markdown / JavaScript | 协议 CC0-1.0取材窗口GitHub Trending Daily (2026-09-16)**✍️ 作者Valhalla Matrix 治理实验室摘要大众把这个仓库当成“扒大模型底层秘密”的猎奇宝库但对于做Agent、提示工程、LLM应用安全的工程师而言它是一份可溯源、可对比、可复现的大模型行为考古数据集。本文从仓库结构、工程价值、安全启示、合规边界四个维度拆解这个65k星开源项目聊聊系统提示词泄露背后的产品与安全设计教训。前言在每一次和大模型对话开始前模型都会先读取一段系统提示词System Prompt。它定义模型身份、输出规范、拒绝策略、工具调用逻辑相当于大模型的出厂行为手册。长期以来这份手册属于厂商黑盒普通开发者无法窥见全貌。system_prompts_leaks仓库的出现打破了这种信息壁垒。项目收集各类通过提示注入、模型漏洞等方式泄露的原始系统提示文本逐字存档、按厂商与版本分类不仅登上GitHub趋势榜还被《华盛顿邮报》、欧洲AI监管研究机构引用作为AI行为研究的一手素材。很多人只把它当作吃瓜素材。但如果站在工程视角审视这个仓库藏着LLM产品设计、提示安全、Agent构建的大量实战经验。一、仓库架构一套面向模型版本考古的归档体系仓库并不是杂乱的文本堆砌而是一套结构化的档案库按厂商→模型系列→版本进行目录拆分同时维护变更时间线追踪不同迭代版本里系统提示词的改动。system_prompts_leaks/ ├── Anthropic/ │ ├── claude-design/starter-components/* │ ├── claude-cowork/setup-writing-style/scripts/*.py │ └── claude-code/skills/artifact-capabilities/0.2.44/artifact.d.ts ├── OpenAI/ │ └── Codex/gpt-6-astra.md ├── README.md # 更新日志、样本来源说明 └── LICENSE仓库README维护着版本变更时序表记录每一次系统提示词的新增、修改、删减。核心价值它不是一次性泄露文本集合而是随模型迭代持续更新的纵向对比库。你可以对比同一模型不同版本安全规则、输出约束的调整观察厂商如何持续微调模型的行为边界。二、工程价值三类开发者最值得研读的内容2.1 Agent开发读懂厂商原生工具调用范式主流大模型Agent能力很大程度上是靠系统提示词定义工具调用规则什么时候调用工具、参数如何序列化、异常情况如何处理、返回结果怎么整合进回答。翻阅归档文本可以直接学习头部厂商是如何在自然语言指令中约束模型的工具行为参考其状态流转、错误兜底逻辑用于自研智能体的提示设计。2.2 提示工程破除“魔法Prompt”神话网络上大量爆款文章渲染“万能提示咒语”仿佛几句华丽文字就能无限拔高模型能力。但从这些原始系统提示样本里能看到大厂生产级系统提示大多是平实、偏冗长的确定性约束清单大量使用如果…则…、禁止…、必须…这类条件化描述。工程结论生产环境的提示词可靠性来源于穷举边界case而非修辞上的巧思。花哨的prompt适合演示Demo严谨完备的规则约束才是线上应用稳定的基石。2.3 LLM应用安全最重要的一条安全公理这是本仓库给后端、安全工程师最沉重的启示任何写入系统提示词内的内容都不能假设永久保密。提示注入、模型越狱、多轮诱导都有可能让模型回显内置系统指令。❌ 绝对禁止密钥、业务核心逻辑、内部鉴权规则直接写进System Prompt。✅ 正确做法把秘密、权限、业务判断逻辑放在模型外部模型只负责生成文本不触碰敏感信息与核心判定。三、局限与风险不能盲目拿来直接使用3.1 时效性问题大模型厂商会高频迭代系统提示。仓库里很多样本属于旧版本模型上线后规则可能已经修改不能直接当作当前模型的真实规则仅作历史对比研究。3.2 合规边界重点仓库本身采用CC0-1.0协议仓库内归档文本的版权归属原始厂商。✅ 允许学术研究、提示工程学习、安全分析引用时标注来源、版本、快照编号。❌ 禁止利用泄露提示词绕过模型安全护栏、批量越狱、用于商业侵权伪造模型官方说明。研究准则仅用于理解LLM的安全机制与提示设计不做对抗性滥用。四、延伸思考系统提示词还会是黑盒吗随着提示注入研究持续普及行业共识正在转变厂商不再把系统提示词当成需要死守的最高机密更多是模型实现细节。未来的趋势部分厂商会主动公开基础系统提示模板减少外界猜测安全设计从“依赖提示词保密”转向外部安全沙箱、输入输出过滤、权限隔离提示词评估、版本比对会成为LLM评测体系里的标准一环。这个仓库恰好提前演示了这套评估思路追踪提示词版本观测模型行为变化和Valhalla Matrix源码审计、静态证据评估的思路有异曲同工之处。五、结语system_prompts_leaks真正的价值不在于满足猎奇心理而是给行业提供了一个透明的观测窗口。它教会开发者两件关键工程原则稳定可控的大模型行为来自完备、清晰的条件约束而非玄学提示咒语所有写入提示词的内容都要预设“未来会被泄露”敏感逻辑必须与模型层解耦。当你下一次为业务系统编写System Prompt时不妨先问自己如果这段提示词被完整公开我的业务系统还安全吗
