隐藏导航侧边栏

隐藏目录侧边栏

切换站点导航侧边栏

FlashInfer 0.6.1 文档

切换目录侧边栏

FlashInfer 0.6.1 文档

入门

安装
命令行界面
日志

教程

注意力状态和递归注意力
FlashInfer 中的 KV-Cache 布局

PyTorch API 参考

FlashInfer 注意力内核
切换 FlashInfer 注意力内核的导航
flashinfer.gemm
切换 flashinfer.gemm 的导航
flashinfer.fused_moe
切换 flashinfer.fused_moe 的导航
flashinfer.cascade
切换 flashinfer.cascade 的导航
flashinfer.comm
切换 flashinfer.comm 的导航
flashinfer.sparse
flashinfer.page
切换 flashinfer.page 的导航
flashinfer.sampling
切换 flashinfer.sampling 的导航
flashinfer.topk
切换 flashinfer.topk 的导航
flashinfer.logits_processor
切换 flashinfer.logits_processor 的导航
flashinfer.norm
切换 flashinfer.norm 的导航
flashinfer.rope
切换 flashinfer.rope 的导航
flashinfer.activation
切换 flashinfer.activation 的导航
flashinfer.quantization
切换 flashinfer.quantization 的导航
- flashinfer.quantization.packbits
- flashinfer.quantization.segment_packbits
flashinfer.green_ctx
切换 flashinfer.green_ctx 的导航
- flashinfer.green_ctx.split_device_green_ctx
- flashinfer.green_ctx.split_device_green_ctx_by_sm_count
flashinfer.fp4_quantization
切换 flashinfer.fp4_quantization 的导航
flashinfer.testing
切换 flashinfer.testing 的导航

切换目录侧边栏

flashinfer.comm.trtllm_mnnvl_ar.mpi_barrier¶

flashinfer.comm.trtllm_mnnvl_ar.mpi_barrier()¶

flashinfer.comm.MoeAlltoAll

flashinfer.comm.trtllm_mnnvl_ar.trtllm_mnnvl_fused_allreduce_rmsnorm

版权所有 © 2023-2026，FlashInfer 贡献者

使用 Sphinx 和 @pradyunsg 的 Furo 构建

在此页上

flashinfer.comm.trtllm_mnnvl_ar.mpi_barrier
- mpi_barrier()