CANN/asc-devkit Query API文档
Query【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况产品是否支持Ascend 950PR/Ascend 950DTxAtlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明查询handleId对应的通信任务已经完成的轮次最多返回repeat轮。该接口默认在所有核上工作用户也可以在调用前通过GetBlockIdx指定其在某一个核上运行。函数原型__aicore__ inline int32_t Query(HcclHandle handleId)参数说明表 1接口参数说明参数名输入/输出描述handleId输入对应通信任务的标识ID只能使用Prepare原语接口的返回值。using HcclHandle int8_t;返回值说明返回handleId对应的通信任务已执行的次数最大值为repeat。当执行异常时返回-1。约束说明调用本接口前确保已调用过InitV2和SetCcTilingV2接口。入参handleId只能使用Prepare原语对应接口的返回值。本接口在AIC核或者AIV核上调用必须与对应的Prepare接口的调用核保持一致。调用示例REGISTER_TILING_DEFAULT(ReduceScatterCustomTilingData); //ReduceScatterCustomTilingData为对应算子头文件定义的结构体 GET_TILING_DATA_WITH_STRUCT(ReduceScatterCustomTilingData, tilingData, tilingGM); Hccl hccl; GM_ADDR contextGM AscendC::GetHcclContext0(); // AscendC自定义算子kernel中通过此方式获取HCCL context hccl.InitV2(contextGM, tilingData); auto ret hccl.SetCcTiling(offsetof(ReduceScatterCustomTilingData, mc2CcTiling)); if (ret ! HCCL_SUCCESS) { return; } if (AscendC::g_coreType AIC) { auto repeat 10; HcclHandle handleId hccl.ReduceScatter(sendBuf, recvBuf, 100, HcclDataType::HCCL_DATA_TYPE_INT8, HcclReduceOp::HCCL_REDUCE_SUM, repeat); hccl.Commit(handleId ); // 通知服务端可以执行上述的ReduceScatter任务 int32_t finishedCount hccl.Query(handleId); while (hccl.Query(handleId) repeat) {} // 等待查询到handleId对应的通信任务执行repeat次 hccl.Finalize(); // 后续无其他通信任务通知服务端执行上述ReduceScatter任务之后即可以退出 }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2602347.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!