CANN/ops-nn Gelu激活函数算子
Gelu【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn产品支持情况产品是否支持Ascend 950PR/Ascend 950DT√Atlas A3 训练系列产品/Atlas A3 推理系列产品√Atlas A2 训练系列产品/Atlas A2 推理系列产品√Atlas 200I/500 A2 推理产品√Atlas 推理系列产品√Atlas 训练系列产品√功能说明算子功能高斯误差线性单元激活函数。计算公式$$ outGELU(self)self × Φ(self)0.5 * self * (1 tanh( \sqrt{2 / \pi} * (self 0.044715 * self^{3}))) $$参数说明参数名输入/输出描述使用说明数据类型数据格式维度(shape)非连续Tensorx输入表示GELU激活函数的输入公式中的self。数据类型必须和out一样。shape必须和out一样。支持空Tensor。FLOAT、FLOAT16、BFLOAT16ND0-8√y输出表示GELU激活函数的输出。数据类型必须和self一致。shape必须和self一致。FLOAT、FLOAT16、BFLOAT16ND0-8√- Atlas 200I/500 A2 推理产品 、 Atlas 推理系列产品 、 Atlas 训练系列产品 数据类型支持FLOAT、FLOAT16。约束说明无调用说明调用方式样例代码说明aclnn接口test_aclnn_gelu.cpp通过aclnnGelu接口方式调用Gelu算子。【免费下载链接】ops-nn本项目是CANN提供的神经网络类计算算子库实现网络在NPU上加速计算。项目地址: https://gitcode.com/cann/ops-nn创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2598683.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!