将晦涩难懂的技术讲的通俗易懂
发布时间：2024-08-18 17:03:39
大模型训练中的Adam算法和相关优化——lvyilong316 想要了解Adam（adaptive moment estimaation，自适应矩估计）算法，必须先了解一阶矩和二阶矩。一阶原点矩一阶原点矩就是期望，更简单来说就是平均值。比如现在有5个数，分别是1、2、3、4、5，它们的期望计算方式如下.........【阅读全文】
发布时间：2024-07-14 16:00:42
流量控制和拥塞控制首先，我发现现实中大家讨论流量反压/限速过程中经常搞混流量控制和拥塞控制。流量控制是作用于接收者的，它是控制发送者的发送速度从而使接收者来得及接收，防止分组丢失的。所以流量控制的核心是防止接受端处理不过来。而拥塞控制是作用于网络的，它是防止过多的数据注入到网络中，避免.........【阅读全文】
发布时间：2024-06-09 20:48:05
GPUDirect 虚拟化 在AI和HPC场景，GPU间需要大量的交换数据，GPU通信性能成为了非常重要的指标。NVIDIA推出的GPUDirect就是一组提升GPU通信性能的技术。 传统上，当数据需要在 GPU 和另一个设备之间传输时，数据必须通过 CPU，从而导致潜在的瓶颈并增加延迟。使用 GPUDirect.........【阅读全文】
发布时间：2024-06-09 20:05:01
GPU虚拟化技术总结——lvyilong316随着AI、加密货币等技术的发展，GPU在市场上“一卡难求”，这也导致GPU售价非常昂贵，而且供货周期也不稳定。对于有GPU需求的企业用户，不但需要思考GPU卡的选型，同时需要考虑怎样尽可能高效利用GPU资源。为了提高GPU资源利用率，很多人选择对GPU进行虚拟化。下面就对当今的GPU.........【阅读全文】
lvyilong3162023-06-06 15:06
zhangtongjian12：你好，请教下，“qemu和vhost-user前后端协商过程”中讲到的初始化多队列时，多队列初始化时，对应的kvm中断机制中irqfd和ioeventfd是和队列数目对应的吗？还是一个虚拟机就一个irqfd和ioeventfd？
和队列对应
回复 | 举报zhangtongjian122023-06-02 10:29
你好，请教下，“qemu和vhost-user前后端协商过程”中讲到的初始化多队列时，多队列初始化时，对应的kvm中断机制中irqfd和ioeventfd是和队列数目对应的吗？还是一个虚拟机就一个irqfd和ioeventfd？
