本文分类:news发布日期:2025/2/21 17:24:44
相关文章
基于Ubuntu+vLLM+NVIDIA T4高效部署DeepSeek大模型实战指南
一、 前言:拥抱vLLM与T4显卡的强强联合
在探索人工智能的道路上,如何高效地部署和运行大型语言模型(LLMs)一直是一个核心挑战。尤其是当我们面对资源有限的环境时,这个问题变得更加突出。原始的DeepSeek-R1-32B模型虽…
建站知识
2025/2/21 2:11:13
Android adb测试常用命令大全
目录 一、查看最上层成activity名字:
二、查看Activity的任务栈:
三、获取安装包信息
四、性能相关
1、显示CPU信息 :
2、查看CPU使用信息
3、内存信息(meminfo package_name or pid 使用程序的包名或者进程id显示内存信息)
4、电量信…
建站知识
2025/2/20 23:14:40
git cherry-pick,需要git commit、git push么?
在使用 git cherry-pick 时,是否需要执行 git commit 和 git push 取决于你的具体操作和目标。以下是详细的解释: 1. git cherry-pick 是否需要 git commit?
通常情况下,不需要手动执行 git commit,因为 git cherry-p…
建站知识
2025/2/18 15:32:46
【个人开发】cuda12.6安装vllm安装实践【内含踩坑经验】
1. 背景
vLLM是一个快速且易于使用的LLM推理和服务库。企业级应用比较普遍,尝试安装相关环境,尝试使用。
2. 环境
模块版本python3.10CUDA12.6torch2.5.1xformers0.0.28.post3flash_attn2.7.4vllm0.6.4.post1
2.1 安装flash_attn
具体选择什么版本&…
建站知识
2025/2/19 16:33:18
【WPSOffice】汇总
写在前面
PPT篇
幻灯片母版
通过母版功能统一幻灯片的样式、字体、颜色等,提高整体一致性。 智能抠图
选中图片,图片工具-》智能抠图。 统一设置模板样式 字体安装
查找到字体并安装。
在WPS PPT(WPS演示)中,以…
建站知识
2025/2/20 1:13:43
人工智能 - 主动视觉可能就是你所需要的:在双臂机器人操作中探索主动视觉
AV-ALOHA 系统使用用于 AV 的 VR 耳机实现直观的数据收集,并且 用于作的 VR 控制器或引线臂。这有助于捕捉全身和头部 远程作我们的真实和模拟系统的运动,记录来自 6 个的视频 不同的摄像头,并为我们的 AV 仿制学习策略提供训练数据。 加州大…
建站知识
2025/2/21 1:47:21