【RDMA】MPI 和MPI在 IB, Omni-Path, Ethernet/iWARP, 和RoCE上的性能

MPI教程

MPI编程1小时入门:https://www.bilibili.com/video/BV1zo4y1j7An

MPI Tutorial --https://mpitutorial.com/tutorials/

MPI在不同网络上的性能对比

MPI 在 InfiniBand,、Omni-Path,、Ethernet/iWARP、RoCE 上的测试结果

MVAPICH :: Performance -- http://mvapich.cse.ohio-state.edu/performance/pt_to_pt/

什么是SPMD

SPMD（Single Program Multiple Data）​ 是一种并行计算模型，其核心思想是多个计算节点（或处理器）运行同一份程序代码，但处理不同的数据集。

什么是MPI

推荐:https://zhuanlan.zhihu.com/p/158584571

MPI（Message Passing Interface）​ 是一种消息传递协议，用于实现多进程或多节点之间的通信与协作。

• 原理：
  • 基于分布式内存模型，各节点拥有独立内存，通过显式发送/接收消息协作。
  • 提供点对点通信（如MPI_Send/MPI_Recv）、集合通信（如广播MPI_Bcast）和同步操作（如路障MPI_Barrier）。

MPI是一种标准或规范的代表，而不是特指某一个对它的具体实现
MPI是一种消息传递编程模型，并成为这种编程模型的代表和事实上的标准

二、MPI的基本函数
MPI调用借口的总数虽然庞大，但根据实际编写MPI的经验，常用的MPI函数是以下6个：

MPI_Init(…);
MPI_Comm_size(…);
MPI_Comm_rank(…);
MPI_Send(…);
MPI_Recv(…);
MPI_Finalize();

原文链接：https://blog.csdn.net/qq_40765537/article/details/106425355

更多见后面章节。

三、MPI的通信机制
MP