【免费下载链接】create-context-graphAI agents with graph based reasoning memory, scaffolded in seconds项目地址https://gitcode.com/gh_mirrors/cr/create-context-graph点击查看免费下载create-context-graph 是一个用图推理记忆graph based reasoning memory驱动 AI Agent 的脚手架工具。它的记忆层实体抽取 向量嵌入通过MEMORY_LLM和MEMORY_EMBEDDING两个环境变量接受LiteLLM 风格提供商字符串无需改一行代码即可接入 100 模型提供商本文还将带你用本地Ollama搭建一套完全离线、零 API Key 的记忆层方案。先搞清楚记忆层到底需要什么模型记忆层是生成应用中负责记住知识的部分它和Agent 本身的大脑是分开的由两个独立角色组成环境变量负责什么默认回退未设置时MEMORY_LLM从聊天消息中抽取实体实体抽取有ANTHROPIC_API_KEY→anthropic/claude-haiku-4-5有OPENAI_API_KEY→openai/gpt-4o-mini都没有则关闭抽取并打警告日志MEMORY_EMBEDDING为记忆检索生成向量嵌入sentence-transformers/all-MiniLM-L6-v2本地运行无需 API Key可离线 注意区分Agent 对话用的大模型由各框架自己的配置ANTHROPIC_API_KEY/OPENAI_API_KEY/GOOGLE_API_KEY控制MEMORY_*只管记忆层。这正是提供商注入设计的精妙之处——两边的模型可以各选各的。三种记忆类型短期会话、长期知识图谱、决策推理链如何协同工作官方文档有专门讲解可参考 three-memory-types.md。LiteLLM 提供商注入两种解析路径提供商字符串采用提供商/模型名的格式如ollama/llama3解析时遵循原生适配器优先策略原生适配器Anthropic、OpenAI、Bedrock、Vertex AI、SentenceTransformers 这 5 家直接走官方 SDK延迟更低且支持 prompt cachingLiteLLM 兜底其他任何提供商Ollama、Groq、Together AI、Mistral、OpenRouter、Cohere……全部自动路由到 LiteLLM 处理无需你手动装 SDK、写胶水代码。这套逻辑就写在生成项目的 memory.py.j2 模板里原生适配器先解析其余交给 LiteLLM。完整的提供商对照表和认证变量说明见官方文档 configure-memory-providers.md。一键配置步骤修改 .env 即可所有配置都在生成项目的.env文件中完成模板见 dot_env_example.j2里面自带了所有提供商示例注释。场景一云提供商组合示例Bedrock 做抽取 本地模型做嵌入MEMORY_LLMbedrock/anthropic.claude-3-haiku-20240307-v1:0 MEMORY_EMBEDDINGsentence-transformers/all-MiniLM-L6-v2 AWS_ACCESS_KEY_ID... AWS_SECRET_ACCESS_KEY... AWS_REGION_NAMEus-east-1场景二OpenAI 高质量嵌入付费效果更好MEMORY_EMBEDDINGopenai/text-embedding-3-small OPENAI_API_KEYsk-... # MEMORY_LLM 留空 — 自动回退到 AnthropicLiteLLM 会自动从标准环境变量中读取各提供商的凭证GROQ_API_KEY、GOOGLE_APPLICATION_CREDENTIALS等Ollama 则完全不需要 Key。另外脚手架阶段也能直接注入CLI 提供--memory-llm和--memory-embedding参数见 cli.py生成时就把提供商写进.env。本地 Ollama 离线方案零 API Key 的记忆层如果你有合规要求、在内网开发或者就是不想按 token 付费Ollama 可以让记忆层100% 本地运行第一步启动 Ollama 并拉取模型ollama pull llama3 # 实体抽取用的对话模型 ollama pull nomic-embed-text # 向量嵌入模型第二步在.env中切换到 OllamaMEMORY_LLMollama/llama3 MEMORY_EMBEDDINGollama/nomic-embed-text第三步重启后端完成 ✅就这三步。Ollama 假设运行在本机默认端口不需要任何 API Key。配合自托管 Neo4j--self-hosted整条数据链路——图存储、实体抽取、向量检索——全部留在你的机器上。两个容易忽略的细节NAMS 托管后端下嵌入由服务端管理客户端嵌入器会被自动省略除非你显式设置了MEMORY_EMBEDDING见 memory.py.j2 中的_resolve_embedding_model()bolt 自托管后端下默认就选本地sentence-transformers/all-MiniLM-L6-v2离线可用只是首次下载约 80 MB之后走缓存。常见问题排查Troubleshooting问题现象原因与解法首次运行时嵌入下载卡住sentence-transformers 首次拉取约 80 MB属正常现象后续运行走缓存ProviderNotFoundError报错提供商字符串写错了对照官方提供商目录检查标识符如ollama/llama3而非ollama:llama3记忆层完全不调用 LLM检查对应 API Key 环境变量是否已设置默认回退仅在ANTHROPIC_API_KEY或OPENAI_API_KEY存在时生效切换嵌入模型后检索报错向量维度不匹配——不同维度模型的向量互不兼容执行make reset后重新导入数据即可NAMS 后端下配置了本地嵌入NAMS 托管后端在云端做嵌入建议保留默认留空MEMORY_EMBEDDING把 Ollama 方案用于 bolt 自托管后端选择的详细说明NAMS vs 自托管、离线开发场景可参考 memory-backends.md。总结记忆层模型配置 改两个环境变量MEMORY_LLM实体抽取MEMORY_EMBEDDING向量嵌入与 Agent 主模型互不干扰原生适配器优先Anthropic / OpenAI / Bedrock / Vertex / 本地 SentenceTransformers其余提供商LiteLLM 自动兜底100 提供商开箱即用全离线方案只需ollama pull两个模型 两行.env配置零 API Key、零外部依赖切换嵌入模型时留意向量维度必要时make reset重建数据。官方完整配置参考configure-memory-providers.md赞分享【免费下载链接】create-context-graphAI agents with graph based reasoning memory, scaffolded in seconds项目地址https://gitcode.com/gh_mirrors/cr/create-context-graph点击查看免费下载相关推荐Hindsight 记忆系统 LiteLLM 集成指南为 100 LLM 提供商注入持久记忆Hindsight 记忆系统 LiteLLM 集成指南为 100 LLM 提供商注入持久记忆 本篇技术指南讲解如何在 Hindsight 开源项目中通过人工智能AI AgentAgent 记忆大模型MCP 服务后端如何离线使用 OfficeDex本地模型 Ollama/vLLM 零配置接入完整教程如何离线使用 OfficeDex本地模型 Ollama/vLLM 零配置接入完整教程 OfficeDex 是一款 AI 原生的智能文档工作台VibeOffiKarakeep 多 AI 提供商接入指南OpenAI 兼容 API 与 Ollama 本地推理的完整配置实战Karakeep 多 AI 提供商接入指南OpenAI 兼容 API 与 Ollama 本地推理的完整配置实战 本指南围绕 Karakeep原 Hoarde后端前端移动开发AI 应用MCP 服务CLI上一篇WinPython 3.7.7.1dot32 位发行版包构成解析dot 精简风味的清单机制与构建工具链下一篇Coursebook同步章总览互斥锁与条件变量入门完全指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考