/** * Copyright (c) Huawei Technologies Co., Ltd. 2023. All rights reserved. * * Licensed under the Apache License, Version 2.0 (the "License"); * you may not use this file except in compliance with the License. * You may obtain a copy of the License at * * http://www.apache.org/licenses/LICENSE-2.0 * * Unless required by applicable law or agreed to in writing, software * distributed under the License is distributed on an "AS IS" BASIS, * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. * See the License for the specific language governing permissions and * limitations under the License. */ #ifndef OP_API_INC_LEVEL2_ACLNN_GATHER_V2_H_ #define OP_API_INC_LEVEL2_ACLNN_GATHER_V2_H_ #include "aclnn/aclnn_base.h" #ifdef __cplusplus extern "C" { #endif /** * 算子功能:从输入Tensor的指定维度dim,按index中的下标序号提取元素,保存到out Tensor中。 * 计算公式: * 以输入为三维张量为例: * x=$\begin{bmatrix}[[1,&2],&[3,&4]], \\ [[5,&6],&[7,&8]], \\ [[9,&10],&[11,&12]]\end{bmatrix}$ * idx=[1, 0], * dim为0: I=index[i];    y$[i][m][n]$ = x$[I][m][n]$ * dim为1: J=index[j];     y$[l][j][n]$ = x$[l][J][n]$ * dim为2: K=index[k];   y$[l][m][k]$ = x$[l][m][K]$ * * 计算图: * ```mermaid * graph LR * A[(self)] --> B([l0op::Contiguous]) * B --> In_0([l0op::cast]) --> Op([GatherV2]) * In_1[(index)] --> con([l0op::Contiguous])--> Op * In_2(dim) --> a(dimVec) --> Op * Op --> C([l0op::cast]) --> D([l0op::ViewCopy]) --> Out[(out)] * ``` */ /** * @brief aclnnGatherV2的第一段接口,根据具体的计算流程,计算workspace大小。 * @domain aclnn_ops_infer * @param [in] self: npu device侧的aclTensor,数据类型支持FLOAT、FLOAT16、INT64、INT32、INT16、INT8、UINT8、BOOL、DOUBLE、 * COMPLEX64、COMPLEX128、BFLOAT16,支持非连续的Tensor,数据格式支持ND,数据维度不支持8维以上。 * @param [in] dim: host侧的整数,数据类型支持INT64。 * @param [in] index: npu device侧的aclTensor,数据类型支持INT64、INT32,支持非连续的Tensor,数据格式支持ND,数据维度不支持 * 8维以上。 * @param [in] out: npu device侧的aclTensor,数据类型支持FLOAT、FLOAT16、INT64、INT32、INT16、INT8、UINT8、BOOL、DOUBLE、 * COMPLEX64、COMPLEX128、BFLOAT16,数据类型需要与self一致,维数等于self维数与index维数之和减一,除dim维扩展为跟index的shape * 一样外,其他维长度与self相应维一致,数据格式支持ND。 * @param [out] workspace_size: 返回用户需要在npu device侧申请的workspace大小。 * @param [out] executor: 返回op执行器,包含算子计算流程。 * @return aclnnStatus: 返回状态码。 */ aclnnStatus aclnnGatherV2GetWorkspaceSize(const aclTensor *self, int64_t dim, const aclTensor *index, aclTensor *out, uint64_t *workspaceSize, aclOpExecutor **executor); /** * @brief aclnnGatherV2的第二段接口,用于执行计算。 * @param [in] workspace: 在npu device侧申请的workspace内存起址。 * @param [in] workspace_size: 在npu device侧申请的workspace大小,由第一段接口aclnnGatherV2GetWorkspaceSize获取。 * @param [in] executor: op执行器,包含了算子计算流程。 * @param [in] stream: acl stream流。 * @return aclnnStatus: 返回状态码。 */ aclnnStatus aclnnGatherV2(void *workspace, uint64_t workspaceSize, aclOpExecutor *executor, aclrtStream stream); #ifdef __cplusplus } #endif #endif // OP_API_INC_LEVEL2_ACLNN_GATHER_V2_H_