GPUDirect

GPUDirect 是 NVIDIA 推出的一系列技术，目的是让 GPU 与其他设备（如另一个 GPU、网络接口卡（NIC）、存储设备）之间能够实现直接高效的数据交换，绕过 CPU 和主机内存，从而显著减少延迟、节省系统带宽，并提升整体性能。

1. GPUDirect Peer-to-Peer (P2P)：用于同一节点内多个 GPU之间的数据传输
2. GPUDirect RDMA：主要用于跨节点通信，例如 GPUDirect-enabled NIC（如 InfiniBand 网卡）可以直接访问 GPU 显存
   1. RDMA（Remote Direct Memory Access）
   2. RDMA 是一种允许 一台计算机直接访问另一台计算机内存的技术，无需 CPU、操作系统或缓存干预，可以实现零拷贝、低延迟、高吞吐的数据传输
3. GPUDirect Storage (GDS)：实现 GPU 与 NVMe 存储设备之间的直接数据路径，支持 GPU 从存储中直接读取或写入数据，无需通过主机缓冲区，适用于超大数据集场景
4. GPUDirect for Video：用于 视频 I/O 板卡与 GPU之间的实时帧传输，适合低延迟视频处理应用