ARM技术论坛
直播中

fansz

8年用户 1243经验值
擅长:制造/封装
私信 关注
[经验]

小白快速上手Arm NEON编程手册指南

1 简介
本文旨在介绍Arm NEON技术,希望NEON初学者在阅读本文后能很快上手开始NEON编程。本文也会告诉读者包含更详细信息的文档索引。

2 NEON概览
本节介绍NEON技术及一些背景知识。

2.1 什么是NEON?
NEON是指适用于Arm Cortex-A系列处理器的一种高级SIMD(单指令多数据)扩展指令集。NEON 技术可加速多媒体和信号处理算法(如视频编码/解码、2D/3D 图形、游戏、音频和语音处理、图像处理技术、电话和声音合成)。
NEON 指令可执行并行数据处理:

寄存器被视为同一数据类型的元素的矢量

数据类型可为: 8 /16 /32/64 位整数,单精度(Arm 32位平台),单精度浮点/双精度浮点(Arm 64位平台)

指令在所有通道中执行同一操作

2.2 Arm 高级SIMD发展历史

2.3 为什么要用NEON
NEON提供:

支持整数和浮点操作,以确保适合从编解码器、高性能计算到 3D 图形等广泛应用领域。

与 Arm处理器紧密结合,提供指令流和内存的统一视图,编程比外部硬件加速器更简单。

3 Arm v8架构简介
Arm v8-A是一个非常重要的架构变化,它支持64位执行模式 “AArch64” ,并且带来了全新的64位指令集 “A64” 。同时,为了兼容Arm v7-A (32位架构)指令集,也引入了 “AArch32” 的概念。大部分Arm v7-A代码可以运行在Arm v8-A AArch32执行模式下。
本节会对Arm v8-A 架构NEON相关的特点做出一些介绍。此外,本节也会略微介绍在NEON编程时经常使用的CPU通用目的寄存器和CPU指令,但是重点依然是NEON技术。

3.1 寄存器
Arm v8-A AArch64有31个64位通用目的寄存器,每一个通用寄存器具有64位(X0-X30)或是32位模式(W0-W30)。其寄存器视图如下:

Arm v8-A AArch64有32个128位寄存器,也能当作32位Sn寄存器或是64位Dn寄存器使用。其寄存器视图如下:

3.2 指令集
Arm v8-A AArch32指令集是由A32(Arm指令,32 位固定长度指令集)和T32(Thumb指令集,16 位固定长度指令集;Thumb2指令集, 16/32位长度指令集)指令集组成。它是Arm v7 Cortex-A指令集的超集,因此Arm v8-A AArch32能后向兼容Arm v7-A以便运行早期软件。同时,为了维持与A64指令集的一致性,AArch32指令集又新增了NEON除法,加密指令扩展。
与AArch32指令集相比,AArch64指令集A64(32位固定长度)发生了很大变化,比如,它们具有完全不同的指令格式。但是在功能上来说,AArch64指令集基本上实现了AArch32指令集的全部功能,另外添加了NEON双精度浮点的支持。
3.3 NEON指令格式
现在大部分已经是Arm v8平台,因此本节只介绍AArch64 NEON指令格式。通用描述如下:
{}{} Vd., Vn., Vm.
这里:
——前缀,如S/U/F/P 分别表示 有符号整数/无符号整数/浮点数/布尔数据类型
——操作符。例如ADD,AND等。
——后缀,通常是有以下几种

P:将向量按对操作,例如ADDP

V:跨所有的数据通道操作,例如FMAXV

2:在宽指令/窄指令中操作数据的高位部分。例如ADDHN2,SADDL2。

ADDHN2:两个128位矢量相加,得到64位矢量结果,并将结果存到NEON寄存器的高64位部分。
SADDL2: 两个NEON寄存器的高64位部分相加,得到128-位结果。
——数据类型,通常是8B/16B/4H/8H/2S/4S/2D等。B代表8位数据类型;H代表16位数据宽度;S代表32位数据宽度,可以是32位整数或单精度浮点;D代表64位数据宽度,可以是64位整数或双精度浮点。
下面列出具体的NEON指令例子:
UADDLP V0.8H, V0.16B
FADD V0.4S, V0.4S, V0.4S

13~15章介绍A32和T32指令。
16~20章介绍A64指令,其中第20章专门介绍NEON指令。

4 NEON编程基础

上面几章已经介绍了NEON的概念,硬件资源和指令集。现在我们可以开始使用NEON开始加速我们的应用了。使用NEON 技术通常有下列四种方式:

调用NEON优化过的库函数

使用编译器自动矢量化选项

使用NEON intrinsics指令

手写NEON汇编

4.1 调用库函数
用户只需要在程序中直接调用NEON优化过的库函数就可以了,简单易用。目前你有下列库可以选择:

Arm Compute library

一系列经过Arm CPU和GPU优化过的底层函数库。用于图像处理、机器学习和计算机视觉。

Ne10开源库

由Arm主导开发的,目前提供了比较通用的数学函数,部分图像处理函数,以及FFT函数。

4.2 自动矢量化
在GCC编译器选项中有自动矢量化编译选项可以帮助现有的代码编译生成NEON代码。GNU GCC提供一系列的选项,有的能提升性能,有的能降低生成可执行文件的代码大小。对于每一行代码,有很多种汇编指令可以选择。编译器在寄存器、堆栈空间、代码大小、编译时间、便于调试、指令执行时间等许多选项中必须有所取舍,这样才能生成最优的映像文件。

4.3 NEON intrinsics
NEON intrinsics可以视作在NEON指令上面封装了一层接口。当用户在C程序中调用NEON intrinsics接口时,编译器会自动生成相关的NEON指令。NEON intrinsics可以跨Arm v7-A/v8-A运行。只要编程一次,就可以借助编译器生成相应的NEON代码。如果用户在代码中使用了Arm v8-A AArch64特有的NEON指令,只要如下例所示,用宏定义(aarch64)将这部分代码分隔即可。
下面是NEON intrinsics的一个例程。

通过查看反汇编,在Arm v7-A下,可以看到vld1/vadd/vst1 NEON指令。在Arm v8-A下可以看到ldr/fadd/str NEON指令。

4.4 NEON汇编
NEON手写汇编主要有两种方式:

独立汇编文件

内嵌汇编

4.4.1 独立汇编文件
独立汇编文件可以用“.S”作为文件后缀,也可以用“.s”作为文件后缀。区别在于.S文件会经过C/C++预处理器处理,这样我们可以利用宏定义等C语言特性。
手写NEON汇编文件时,我们需要注意寄存器的保存。对于Arm v7/v8我们需要保存下列寄存器:

下面是Arm v7-A/v8-A NEON 汇编的一个例程。

下面是手写汇编代码,保存到.S文件中

4.4.2 内嵌汇编
顾名思义,内嵌汇编是和C代码紧密结合在一起的一种方式。我们可以直接把汇编代码内嵌在C/C++代码中,我们可以在需要NEON的地方即时添加。
优点:

过程调用规则简单,不需要自己手动保存寄存器。

可以使用 C/C++ 变量和函数,因此它能非常容易地整合到 C/C++ 代码

缺点:

内嵌汇编有一套复杂的语法规则

NEON代码内嵌在C/C++代码中,不易于移植到其他平台

例程:


4.5 NEON intrinsics和NEON汇编
NEON intrinsics和NEON手写汇编是最常使用的NEON优化方式。下面就这两种方式的优缺点做一些简单对比。

原作者:yang

更多回帖

发帖
×
20
完善资料,
赚取积分