Warning

此文件的目的是为让中文读者更容易阅读和理解,而不是作为一个分支。 因此, 如果您对此文件有任何意见或更新,请先尝试更新原始英文文件。

Note

如果您发现本文档与原始文件有任何不同或者有翻译问题,请联系该文件的译者, 或者请求时奎亮的帮助:<alexs@kernel.org>。

Original:Userspace verbs access
翻译:司延腾 Yanteng Si <siyanteng@loongson.cn>
校译:王普宇 Puyu Wang <realpuyuwang@gmail.com> 时奎亮 Alex Shi <alexs@kernel.org>

用户空间verbs访问

ib_uverbs模块,通过启用CONFIG_INFINIBAND_USER_VERBS构建,使用户空间 通过“verbs”直接访问IB硬件,如InfiniBand架构规范第11章所述。

要使用verbs,需要libibverbs库,可从https://github.com/linux-rdma/rdma-core。 libibverbs包含一个独立于设备的API,用于使用ib_uverbs接口。libibverbs 还需要为你的InfiniBand硬件提供适当的独立于设备的内核和用户空间驱动。例如, 要使用Mellanox HCA,你需要安装ib_mthca内核模块和libmthca用户空间驱动。

用户-内核通信

用户空间通过/dev/infiniband/uverbsN字符设备与内核进行慢速路径、资源管理 操作的通信。快速路径操作通常是通过直接写入硬件寄存器mmap()到用户空间来完成 的,没有系统调用或上下文切换到内核。

命令是通过在这些设备文件上的write()s发送给内核的。ABI在 drivers/infiniband/include/ib_user_verbs.h中定义。需要内核响应的命令的结 构包含一个64位字段,用来传递一个指向输出缓冲区的指针。状态作为write()系统调 用的返回值被返回到用户空间。

资源管理

由于所有IB资源的创建和销毁都是通过文件描述符传递的命令完成的,所以内核可以跟 踪那些被附加到给定用户空间上下文的资源。ib_uverbs模块维护着idr表,用来在 内核指针和不透明的用户空间句柄之间进行转换,这样内核指针就不会暴露给用户空间, 而用户空间也无法欺骗内核去跟踪一个假的指针。

这也允许内核在一个进程退出时进行清理,并防止一个进程触及另一个进程的资源。

内存固定

直接的用户空间I/O要求与作为潜在I/O目标的内存区域保持在同一物理地址上。ib_uverbs 模块通过get_user_pages()和put_page()调用来管理内存区域的固定和解除固定。它还核 算进程的pinned_vm中被固定的内存量,并检查非特权进程是否超过其RLIMIT_MEMLOCK限制。

被多次固定的页面在每次被固定时都会被计数,所以pinned_vm的值可能会高估一个进程所 固定的页面数量。

/dev文件

要想用udev自动创建适当的字符设备文件,可以采用如下规则:

KERNEL=="uverbs*", NAME="infiniband/%k"

可以使用。 这将创建设备节点,名为:

/dev/infiniband/uverbs0

等等。由于InfiniBand的用户空间verbs对于非特权进程来说应该是安全的,因此在udev规 则中加入适当的MODE或GROUP可能是有用的。