Zhonghui

每个不曾起舞的日子,都是对生命的辜负

User Tools

Site Tools


程序:cuda:gpudirect

GPUDirect

GPUDirect 是 NVIDIA 推出的一系列技术,目的是让 GPU 与其他设备(如另一个 GPU、网络接口卡(NIC)、存储设备)之间能够实现直接高效的数据交换,绕过 CPU 和主机内存,从而显著减少延迟、节省系统带宽,并提升整体性能。


AI介绍

  1. GPUDirect Peer-to-Peer (P2P):用于同一节点内多个 GPU之间的数据传输
  2. GPUDirect RDMA:主要用于跨节点通信,例如 GPUDirect-enabled NIC(如 InfiniBand 网卡)可以直接访问 GPU 显存
    1. RDMA(Remote Direct Memory Access)
    2. RDMA 是一种允许 一台计算机直接访问另一台计算机内存的技术,无需 CPU、操作系统或缓存干预,可以实现零拷贝、低延迟、高吞吐的数据传输
  3. GPUDirect Storage (GDS):实现 GPU 与 NVMe 存储设备之间的直接数据路径,支持 GPU 从存储中直接读取或写入数据,无需通过主机缓冲区,适用于超大数据集场景
  4. GPUDirect for Video:用于 视频 I/O 板卡与 GPU之间的实时帧传输,适合低延迟视频处理应用
/var/www/DokuWikiStick/dokuwiki/data/pages/程序/cuda/gpudirect.txt · Last modified: 2025/07/19 16:45 by zhonghui