https://github.com/lightning-project/lightning

研究动机

传统 CUDA 编程模型针对单个 GPU，导致两个明显瓶颈：

1. 计算和显存能力局限：面对超大问题时单 GPU 性能不足。
2. 工程复杂度高：多 GPU 需要手动分片、传输、同步等，开发难度显著上升(arxiv.org)。

Lightning：框架设计亮点

支持分布式 Kernel Launch

• 实现 “superblock” 工作分解，将原本一个 kernel launch 分发到多个 GPU 上。
• 保持 CUDA 编程范式，用户无须重写 kernel，只需简单配置即可(researchgate.net)。

分布式多维数组 & 数据注释

• 提供支持行/列/瓦片切分的分布策略。
• 通过 kernel 上的数据访问注释捕获数据依赖，使框架自动推断需要传输哪些数据(stijnh.nl, arxiv.org)。

零拷贝扩展到主内存及磁盘

• 对于超出 GPU 显存的数据，Lightning 会自动将数据 spill 到主机内存或磁盘，无需用户显式管理(arxiv.org)。

异步调度与重叠执行

• 框架将调度、数据迁移与 kernel 执行进行并行化，最多限度提高系统吞吐。

实验与性能评估

• 测试平台：多达 32 个 GPU（支持多节点）
• 评测项目：包括八种经典基准算法（如 GEMM、N‑body、SpMV、K-Means 等）以及一个真实地理聚类应用；数据规模最高达到 80 GB(arxiv.org, researchgate.net)。

• 结果亮眼：

  • 16 GPUs 上对 80 GB 数据，得到 CPU 相比 57.2× 加速(arxiv.org)。
  • 多 GPU 和多节点系统上实现极好的弱、强扩展性（大规模数据和节点数同步增长）(pure.uva.nl)。

总结价值与优势

1. 保留单 GPU 编程体验，极低迁移成本；
2. 有效支持超大数据执行，自动 spill，内存透明；
3. 性能强与实用性高，实验效果清晰；
4. 代码开源，适合进一步研究与二次开发(arxiv.org)。

可扩展方向建议

• 在 Lightning 上集成 Tensor Core、FP16 等低精度硬件优化；
• 结合 混合 CPU-GPU 分布式系统，提升跨平台性能；
• 探索 更细粒度或异构设备协作（GPUs + FPGAs 等）；
• 改良数据注释系统，引入动态分析能力提升调度智能。