cann/asc-devkit:MulAddDst复合计算API # MulAddDst【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品 AI Core不支持Atlas 推理系列产品 Vector Core不支持Atlas 训练系列产品不支持功能说明头文件路径为basic_api/reg_compute/kernel_reg_compute_vec_binary_intf.h。该接口按元素将srcReg0与srcReg1相乘再加上dstReg根据mask将计算结果写入dstReg。计算公式如下$$ dstReg_i srcReg0_i \times srcReg1_i dstReg_i $$函数原型template typename T DefaultType, MaskMergeMode mode MaskMergeMode::ZEROING, typename U __simd_callee__ inline void MulAddDst(U dstReg, U srcReg0, U srcReg1, MaskReg mask)参数说明表1模板参数说明参数名描述T操作数数据类型。modeMaskMergeMode枚举类型。选择MERGING模式或ZEROING模式。• ZEROING模式下mask未筛选的元素在dstReg中置零。• MERGING模式当前不支持。U目的操作数和源操作数的RegTensor类型例如RegTensorhalf由编译器自动推导用户不需要填写。表2参数说明参数名输入/输出描述dstReg输出目的操作数。类型为RegTensor。计算前作为被乘数参与运算计算后存储结果。srcReg0输入源操作数。类型为RegTensor。数据类型需要与目的操作数保持一致。srcReg1输入源操作数。类型为RegTensor。数据类型需要与目的操作数保持一致。mask输入源操作数元素有效性的指示详细说明请参考MaskReg。返回值说明无数据类型表3数据类型组合srcReg0srcReg1dstRegint16_tint16_tint16_tuint16_tuint16_tuint16_thalfhalfhalfbfloat16_tbfloat16_tbfloat16_tint32_tint32_tint32_tuint32_tuint32_tuint32_tfloatfloatfloatint64_tint64_tint64_tuint64_tuint64_tuint64_t约束说明本接口支持寄存器重叠。本接口操作数为寄存器不涉及地址对齐。本接口不修改全局寄存器的值。关键特性说明对于非软仿实现的数据类型在硬件层面单条指令完成乘加融合计算精度高于分开执行Mul和Add。调用示例templatetypename T __simd_vf__ inline void MulAddDstVF(__ubuf__ T* dstAddr, __ubuf__ T* src0Addr, __ubuf__ T* src1Addr, uint32_t count, uint32_t oneRepeatSize, uint16_t repeatTimes) { AscendC::Reg::RegTensorT srcReg0; AscendC::Reg::RegTensorT srcReg1; AscendC::Reg::RegTensorT dstReg; AscendC::Reg::MaskReg mask; for (uint16_t i 0; i repeatTimes; i) { mask AscendC::Reg::UpdateMaskT(count); AscendC::Reg::LoadAlign(srcReg0, src0Addr i * oneRepeatSize); AscendC::Reg::LoadAlign(srcReg1, src1Addr i * oneRepeatSize); AscendC::Reg::LoadAlign(dstReg, dstAddr i * oneRepeatSize); AscendC::Reg::MulAddDst(dstReg, srcReg0, srcReg1, mask); AscendC::Reg::StoreAlign(dstAddr i * oneRepeatSize, dstReg, mask); } }【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考