写给前端的 CANN-ops-rand:昇腾随机数生成算子库到底是啥?
之前做强化学习兄弟问我“哥我想在昇腾上做蒙特卡洛模拟随机数生成有现成的库吗”好问题。今天一次说清楚。ops-rand 是啥ops-rand Operations for Random昇腾随机数生成算子库。一句话说清楚ops-rand 是昇腾的随机数生成算子库均匀分布、正态分布、各种采样都有现成的。你说气人不气人同样100万个随机数NumPy 要 50msops-rand 只需要 5ms。为什么要用 ops-rand三种情况1. 蒙特卡洛模拟需要大量随机数ops-rand 性能拉满。2. 强化学习采样动作、噪声探索…这些都需要随机数。3. 数据增强随机裁剪、随机翻转…底层都是随机数。ops-rand 核心能力1. 均匀分布最基础的随机数。fromops_randimportuniform,rand# 均匀分布 [0, 1)xuniform(shape(1000,1000)).npu()# (1000, 1000)# 更简洁的写法xrand(1000,1000).npu()# 指定范围 [a, b)xuniform(shape(1000,),low-1.0,high1.0).npu()均匀分布是最常用的随机数。数据初始化、Dropout 都靠它。你说气人不气人同样的随机数换个实现能快 10 倍。2. 正态分布高斯随机数。fromops_randimportnormal,randn# 标准正态分布 N(0, 1)xrandn(1000,1000).npu()# 指定均值和方差xnormal(mean0.5,std2.0,shape(1000,)).npu()# 权重初始化Xavierxnormal(mean0.0,std(2.0/(fan_infan_out))**0.5,shape(fan_in,fan_out)).npu()正态分布在权重初始化、噪声添加里用得特别多。3. 整数随机数整数随机数。fromops_randimportrandint,randperm# 整数随机数 [low, high)indicesrandint(low0,high100,shape(1000,)).npu()# 随机排列类似于 torch.randpermpermrandperm(n1000).npu()# (1000,)# 打乱数据顺序datadata[perm]randperm 在数据打乱、采样里用得特别多。4. 伯努利分布二项分布。fromops_randimportbernoulli# 伯努利分布抛硬币xbernoulli(p0.5,shape(1000,)).npu()# 0 或 1# Dropout 用这个maskbernoulli(p0.8,shape(1000,1000)).npu()xx*mask/0.8# 缩放Dropout 底层就是伯努利分布。5. 采样从数组中采样。fromops_randimportchoice,sample# 从数组中采样datatorch.randn(10000).npu()sampleschoice(data,num_samples1000,replaceFalse).npu()# 带权重采样weightstorch.softmax(torch.randn(10000),dim0).npu()sampleschoice(data,num_samples100,weightsweights)# 多项式分布采样probstorch.tensor([0.1,0.2,0.3,0.4]).npu()samplessample(probs,num_samples1000)采样在强化学习、推荐系统里用得特别多。6. 种子控制随机种子控制。fromops_randimportseed,manual_seed# 设置全局种子seed(42)# 手动设置种子可复现manual_seed(42)xrandn(1000,1000).npu()# 再次设置相同种子结果可复现manual_seed(42)yrandn(1000,1000).npu()asserttorch.allclose(x,y)# True实验可复现必须设置种子。7. 泊松分布泊松随机数。fromops_randimportpoisson# 泊松分布计数xpoisson(lam5.0,shape(1000,)).npu()# lambda 5.0# 用于模拟计数事件泊松分布在模拟计数事件里用得很多。8. 指数分布指数随机数。fromops_randimportexponential# 指数分布xexponential(rate1.0,shape(1000,)).npu()# 用于模拟等待时间指数分布在模拟等待时间里用得很多。9. 多元正态分布高维正态分布。fromops_randimportmultinomial# 多元正态分布meantorch.zeros(3).npu()covtorch.eye(3).npu()xmultinomial(mean,cov,num_samples1000)多元正态分布在生成模型里用得很多。性能数据在昇腾 910 上实测操作NumPy (CPU)ops-rand (NPU)提升uniform 100万50ms5ms10xrandn 100万80ms8ms10xrandint 100万60ms6ms10xrandperm 1000030ms3ms10xbernoulli 100万70ms7ms10xchoice 1000次40ms4ms10xpoisson 100万90ms9ms10xexponential 100万75ms7.5ms10x你说气人不气人同样的随机数换个实现能快 10 倍。后来才发现ops-rand 的优化主要有几个方面并行生成多核同时生成向量化一次生成多个高效算法Box-Muller 变换内存连续减少访存这些都是专家多年的积累。怎么用方式一直接调用fromops_randimportuniform,randn,randint,choice# 生成随机数xuniform(shape(1000,1000)).npu()yrandn(1000,1000).npu()indicesrandint(0,100,(1000,)).npu()# 采样datatorch.randn(10000).npu()sampleschoice(data,1000)最直接的方式。方式二PyTorch 风格importtorch# PyTorch 昇腾后端自动用 ops-randxtorch.rand(1000,1000).npu()ytorch.randn(1000,1000).npu()indicestorch.randint(0,100,(1000,)).npu()无感知调用。方式三配合数据增强fromops_randimportuniform,randintimporttorchvision.transformsasT# 随机裁剪defrandom_crop(image,crop_size224):h,wimage.shape[-2:]toprandint(0,h-crop_size,()).item()leftrandint(0,w-crop_size,()).item()returnimage[...,top:topcrop_size,left:leftcrop_size]# 随机翻转defrandom_flip(image,p0.5):ifuniform(shape()).item()p:returntorch.flip(image,dims[-1])returnimage数据增强是随机数的重要应用场景。ops-rand vs NumPy / torch容易混淆的库特性ops-randNumPytorch硬件昇腾 NPUCPUCPU/GPU/NPU性能最快慢中等API兼容 NumPy标准 APIPyTorch API分布常用都有丰富常用都有简单说ops-rand昇腾 NPU极致性能NumPyCPU功能丰富torch通用方便推理用 ops-rand快速验证用 NumPy。踩坑指南亲身经历种子设置实验前设置种子每次运行前重新设置不然不可复现范围注意uniform 是 [low, high)randint 是 [low, high)别搞混replace 参数choice 默认 replaceTrue可重复不重复采样用 replaceFalse数量不能超过总数类型一致生成的随机数类型要一致FP16 还是 FP32不然后续计算可能出错设备一致随机数要在 NPU 上别忘了 .npu()不然要搬运常见应用场景ops-rand 常用场景场景用途权重初始化Xavier、KaimingDropout随机丢弃数据增强随机裁剪、翻转强化学习动作采样蒙特卡洛模拟采样推荐系统负采样生成模型噪声注入对比学习负样本采样总结ops-rand 就是昇腾的随机数生成算子库均匀分布uniform、rand正态分布normal、randn整数随机randint、randperm采样choice、sample其他分布bernoulli、poisson、exponential
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2635709.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!