本文分类:news发布日期:2024/11/30 15:34:52
相关文章
使用autodl服务器,两个3090显卡上运行, Yi-34B-Chat-int4模型,并使用vllm优化加速,显存占用42G,速度23 words/s
1,演示视频地址
https://www.bilibili.com/video/BV1Hu4y1L7BH/ 使用autodl服务器,两个3090显卡上运行, Yi-34B-Chat-int4模型,用vllm优化,增加 --num-gpu 2,速度23 words/s 2,使用3090显卡 和…
建站知识
2024/11/2 13:44:04
【C++】map和set的使用及注意事项
map和set的使用及注意事项 1.关联式容器2. 键值对3.set3.1接口介绍3.1.1构造3.1.2迭代器3.1.3容量3.1.4修改 3.2set使用及注意事项 4.multiset5.map6.multimap349. 两个数组的交集 1.关联式容器
在初阶阶段,我们已经接触过STL中的部分容器,比如…
建站知识
2024/11/14 5:23:01
Visual Studio2022创建Windows服务程序
文章目录 Visual Studio2022创建Windows服务程序打开工具创建新项目创建成功重命名服务添加安装程序编写逻辑生成程序安装服务打开服务启动服务停止服务卸载服务修改项目配置重新生成安装服务启动服务 Visual Studio2022创建Windows服务程序
打开工具 创建新项目 创建成功 重命…
建站知识
2024/11/2 13:44:04
线程池(Linux +C/C++)
参考 手写线程池 - C语言版 | 爱编程的大丙 (subingwen.cn)
1.为什么需要线程池?
1)线程问题: (1)如果只使用线程创建函数,在不断有新的任务进来的时候,需要不断的创建任务;任务在…
建站知识
2024/11/2 13:44:20
开源C++智能语音识别库whisper.cpp开发使用入门
whisper.cpp是一个C编写的轻量级开源智能语音识别库,是基于openai的开源python智能语音模型whisper的移植版本,依赖项少,内存占用低,性能更优,方便作为依赖库集成的到应用程序中提供语音识别功能。
以下基于whisper.c…
建站知识
2024/11/29 19:31:06
Uber Go 语言编码规范
uber-go/guide 的中文翻译
English 文档链接
Uber Go 语言编码规范
Uber 是一家美国硅谷的科技公司,也是 Go 语言的早期 adopter。其开源了很多 golang 项目,诸如被 Gopher 圈熟知的 zap、jaeger 等。2018 年年末 Uber 将内部的 Go 风格规范 开源到 G…
建站知识
2024/11/29 15:47:34