CANN/asc-devkit协作组shfl函数
shfl【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品xAtlas A2 训练系列产品/Atlas A2 推理系列产品xAtlas 200I/500 A2 推理产品xAtlas 推理系列产品AI CorexAtlas 推理系列产品Vector CorexAtlas 训练系列产品x功能说明coalesced_group组内线程的数据交换接口不通过共享内存实现直接读取组内指定线程的寄存器中的值。函数原型template typename T T shfl(T var, int src_rank) const参数说明表 1参数说明参数名输入/输出描述var输入线程用于交换的数据。支持的数据类型为half、int32_t、uint32_t、float、half2、int64_t、uint64_t。src_rank输入期望获取的var值所在的线程在组内的排名。返回值说明coalesced_group组内指定线程输入的var值。约束说明无调用示例示例代码中的条件分支将一个warp中所有线程id是偶数的线程组成coalesced_group协作组组内各线程shfl接口返回结果如下图所示。图 1shfl结果示意图SIMT编程场景using namespace cooperative_groups; __global__ void simt_kernel(...) { ... if (threadIdx.x % 2 0) { coalesced_group active coalesced_threads(); uint32_t result active.shfl(threadIdx.x 100, 3); } ... }SIMD与SIMT混合编程场景using namespace cooperative_groups; __simt_vf__ inline void simt_kernel(...) { ... if (threadIdx.x % 2 0) { coalesced_group active coalesced_threads(); uint32_t result active.shfl(threadIdx.x 100, 3); } ... }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2630380.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!