flashinfer.topk.can_implement_filtered_topk¶
- flashinfer.topk.can_implement_filtered_topk() bool¶
检查 GPU 是否支持 FilteredTopK 算法所需的足够共享内存。
FilteredTopK 需要 128KB 的动态共享内存。此函数检查当前 GPU 每个 SM 的最大共享内存是否足够。
- 返回值:
如果 GPU 支持 FilteredTopK,则返回 True,否则返回 False。
- 返回值类型:
bool