人工智能AI Agent大模型深度研究自主智能体深度学习【免费下载链接】auto-deep-researcher-24x7 An autonomous AI agent that runs your deep learning experiments 24/7 while you sleep. Zero-cost monitoring, Leader-Worker architecture, constant-size memory.项目地址https://gitcode.com/gh_mirrors/au/auto-deep-researcher-24x7点击查看免费下载做深度学习的同学都有过这种痛租了云 GPU 跑实验转头接个电话回来实例已经被平台悄悄回收了。auto-deep-researcher-24x7 是一个 24/7 自主运行深度学习实验的 AI Agent它内置了GPU 自动检测与GPU 保活keep-alive机制用一张 4KB 的小张量在预留显卡上打心跳让云平台检测不到空闲从而稳稳守住你的实例。本文带你弄懂这套机制的原理并给出一套开箱即用的实战技巧。为什么云GPU实例会被回收很多云开发平台如 Aliyun PAI-DSW 等都有资源回收策略GPU 持续空闲一定时间通常约 3 小时后实例会被自动回收或降配以节省平台成本。对 24/7 长时间自主实验来说这是个致命问题——你的 Agent 可能刚进入 THINK 阶段思考下一步实验实例就被平台收走了。解决办法其实很简单让 GPU 始终保持一点活动痕迹。auto-deep-researcher-24x7 把这做成了一个内置守护进程完全自动化。GPU 保活原理4KB 张量的心跳️ 保活逻辑集中在 gpu/keeper.py 中的GPUKeeper类核心思路非常轻巧分配极小张量在指定 GPU 上分配一个 1024 个 float32 的张量仅占4KB 显存对训练任务几乎零影响周期性心跳默认每300 秒5 分钟执行一次原地加 1 再清零的微型操作add_(1.0)→zero_()向平台登记一次GPU 活动优雅退出监听SIGTERM/SIGINT信号收到退出信号后释放张量并调用torch.cuda.empty_cache()清理显存不会残留进程。关键代码见 GPUKeeper.start整个保活循环不到 30 行简单到可以当模板自己改造# 在目标 GPU 上分配 4KB 小张量周期性打心跳 self._tensor torch.zeros(1024, devicedevice, dtypetorch.float32) while self._running: self._tensor.add_(1.0) self._tensor.zero_() time.sleep(interval)GPU 自动检测框架如何知道该用哪些卡保活的前提是分得清卡。gpu/detect.py 提供了一套基于nvidia-smi的检测工具函数作用detect_gpus()列出所有可用 GPU 的索引gpu_status()查询显存、利用率、温度等详细状态is_gpu_available()判断空闲显存占用 1000MB 即视为空闲get_usable_gpus()返回可用于实验的卡自动剔除最后一张预留给保活其中reserve_last参数是关键设计当 get_usable_gpus 开启预留时实验只会使用前 N-1 张卡最后一张卡专门留给 GPUKeeper 打心跳两者互不抢卡。下图是项目的整体架构其中 EXECUTE 阶段的零成本监控zero-cost monitor正是通过nvidia-smi轮询实现 GPU 状态感知的GPU 保活实战技巧技巧一一条命令启动保活守护进程在云实例上直接运行保活守护进程指定要守护的 GPU 编号python -m gpu.keeper --gpu 3 --interval 300--gpu指定保活的显卡 ID--interval是心跳间隔秒默认 300 秒已经足够应付大多数平台 3 小时的空闲回收阈值。建议配合nohup或 tmux 让它后台常驻。技巧二配置reserve_last自动预留保活卡在项目config.yaml中开启两个开关实验循环就会自动跳过最后一张卡gpu: auto_detect: true # 自动检测可用 GPU reserve_last: true # 预留最后一张 GPU 给保活对应配置见 config.yaml。这样你启动实验时无需手动挑卡Agent 会自动避开保活卡。技巧三用 /gpu-monitor 一眼看清保活状态安装项目技能后python install.py随时用/gpu-monitor命令查看各卡状态。输出中会明确标注哪张卡在跑训练、哪张卡是保活进程GPU Name Memory Util Temp 0 L20X 144GB 45123/147456 98% 72°C ← training (PID 12345) 1 L20X 144GB 234/147456 0% 35°C ← FREE 3 L20X 144GB 1024/147456 12% 40°C ← keeper← keeper这一行就是保活进程在岗的证明行为细节参见 skills/gpu-monitor/SKILL.md。技巧四单卡用户怎么配如果你的实例只有一张 GPU保活和实验要共用它——把reserve_last设为false让实验循环使用这张卡即可保活进程与训练进程共存于同一张卡上4KB 显存开销可忽略。参考示例 examples/toy_experiment/config.yaml 与单卡使用指南 examples/single_gpu/README.md。常见问题速答 保活会占用多少显存和算力4KB 显存 每 5 分钟一次微秒级操作实测对训练任务的影响基本为零远小于正常训练 1% 的波动。 心跳间隔设多大合适平台空闲回收阈值一般是 3 小时左右默认 300 秒5 分钟留有充分余量。除非平台策略更激进一般无需调小。 怎么确认保活进程活着看日志出现GPU Keeper starting on GPU N或用/gpu-monitor确认对应卡显示← keeper。进程停止时会打印GPU Keeper stopped.并自动清理缓存。小结auto-deep-researcher-24x7 用一套极简但完整的机制解决了云 GPU 被回收的顽疾gpu/detect.py负责自动检测与分卡gpu/keeper.py用 4KB 张量心跳守住实例/gpu-monitor让状态一目了然。配合 24/7 自主实验循环你可以真正做到睡前交任务醒来收结果而不用担心一觉醒来实例已凉。赞分享人工智能AI Agent大模型深度研究自主智能体深度学习【免费下载链接】auto-deep-researcher-24x7 An autonomous AI agent that runs your deep learning experiments 24/7 while you sleep. Zero-cost monitoring, Leader-Worker architecture, constant-size memory.项目地址https://gitcode.com/gh_mirrors/au/auto-deep-researcher-24x7点击查看免费下载相关推荐控制器留在本地、训练跑在远程GPU服务器auto-deep-researcher-24x7 SSH执行模式配置实战控制器留在本地、训练跑在远程GPU服务器auto deep researcher 24x7 SSH执行模式配置实战 auto deep researcher人工智能AI Agent大模型深度研究自主智能体深度学习Human-in-the-Loop实战3种方法随时接管auto-deep-researcher-24x7的实验方向Human in the Loop实战3种方法随时接管auto deep researcher 24x7的实验方向 auto deep researcher人工智能AI Agent大模型深度研究自主智能体深度学习auto-deep-researcher-24x7核心代码拆解THINK→EXECUTE→REFLECT自主循环如何7×24不间断运转auto deep researcher 24x7核心代码拆解THINK→EXECUTE→REFLECT自主循环如何7×24不间断运转 auto deep r人工智能AI Agent大模型深度研究自主智能体深度学习创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考