本文分类:news发布日期:2024/10/8 15:33:12
相关文章
FlashAttention/ PagedAttention原理,大模型加速
1.1 GPU 硬件特点
由于 FlashAttention 计算 self-attention 的主要关键是有效的硬件使用,所以了解GPU内存和各种操作的性能特征是很有必要的。
以 A100 (40GB HBM) 为例,下面显示其内存层次结构的粗略图。SRAM内存分布在108个流式多处理器(SMs)上&…
建站知识
2024/10/3 14:42:08
uniapp app端跳转第三方app(高德地图/百度地图为例)
1.先写一个picker选择器
<picker change"bindPickerChange" :value"index" :range"array"><view class"uni-input">{{array[index] || 打开第三方app }}</view></picker>
2.在data中定义好高德地图/百度地图…
建站知识
2024/10/1 20:30:14
ubuntu18虚拟机克隆后不能上网和磁盘损坏问题
小学期直接给学弟学妹们自己配好的克隆的虚拟机,结果出现了这两种问题,参考了网上好多资料,太多了忘了存了,花了好久的时间才解决,这里记录一下。
磁盘损坏问题:
网络无法连同问题,ip addr发现…
建站知识
2024/10/1 20:30:23
P3110 [USACO14DEC] Piggy Back S
题意
有一张 n n n 点 m m m 边的无向图,Alice 要从 1 1 1 走到 n n n,Bob 要从 2 2 2 走到 n n n。Alice 走一条边需要花费 B B B,Bob 走一条边需要花费 E E E,当他们一起走时,走一条边需要花费 P P P。求他…
建站知识
2024/10/2 4:10:57
使用Github Actions自建Docker镜像仓库
使用Github Actions自建Docker镜像仓库 背景使用Github Actions自建Docker镜像仓库fork项目[docker_image_sync](https://github.com/xqxyxchy/docker_image_sync)获取云厂商容器镜像服务信息配置github secrets运行github action配置需要同步的镜像同步后效果华为云配置 背景 …
建站知识
2024/10/7 15:41:37
【论文速读】《面向深度学习的联合消息传递与自编码器》
这篇文章来自华为的渥太华无线先进系统能力中心和无线技术实验室,作者中有大名鼎鼎的童文。
一、自编码架构的全局收发机面临的主要问题
文章对我比较有启发的地方,是提到自编码架构的全局收发机面临的主要问题: 问题一:基于随…
建站知识
2024/10/8 0:34:20
学圣学最终的目的是:达到思无邪的状态( 纯粹、思想纯正、积极向上 )
学圣学最终的目的是:达到思无邪的状态( 纯粹、思想纯正、积极向上 )
中华民族,一直以来,教学都是以追随圣学为目标,所以中华文化也叫圣学文化,是最高深的上等学问;
圣人那颗心根本…
建站知识
2024/10/8 14:36:03