flashinfer.comm.trtllm_destroy_ipc_workspace_for_all_reduce¶
- flashinfer.comm.trtllm_destroy_ipc_workspace_for_all_reduce(workspace: List[List[int]], group: ProcessGroup | None = None) None¶
注意:此函数用于销毁用于 all reduce 的工作区。工作区是 IPC 句柄的列表。在调用 trtllm_custom_all_reduce 后,应销毁工作区。在相同的配置下,工作区可以在多个 all reduce 调用中重用。