flashinfer.comm.trtllm_destroy_ipc_workspace_for_all_reduce_fusion

flashinfer.comm.trtllm_destroy_ipc_workspace_for_all_reduce_fusion(workspace: List[List[int]], group: ProcessGroup | None = None) → None

参数: - workspace: 要销毁的工作区。 - group: 要使用的进程组。

注意: 此函数用于销毁用于 all reduce fusion 的工作区。工作区是 IPC 句柄的列表。在调用 trtllm_custom_all_reduce_fusion 后，应销毁工作区。在相同的配置下，工作区可以在多次 all reduce fusion 调用中重用。