当前位置:首页 > 芯闻号 > 充电吧
[导读]此文主要内容来自这篇文章,本文翻译只求能理解,不求逐句翻译。正文:我们将在本文中介绍如何在C++/C中使用SSE指令。我的目的不是用SSE写尽可能快的程序,而是试图讲明白它的使用方法。什么是SSE? 

此文主要内容来自这篇文章,本文翻译只求能理解,不求逐句翻译。

正文:

我们将在本文中介绍如何在C++/C中使用SSE指令。我的目的不是用SSE写尽可能快的程序,而是试图讲明白它的使用方法。


什么是SSE?

 SSE的全称是 Sreaming SIMD Extensions, 它是一组CPU指令,用于像信号处理、科学计算或者3D图形计算一样的应用。


SIMD 也是几个单词的首写字母组成的: Single Instruction, Multiple Data。 一个指令发出后,同一时刻被放到不同的数据上执行,

这个指令就是SIMD指令。


SSE在1999年首次出现在Pentium 3上。在过去的那段时光里,一些更加精致的功能被加入了这套指令集,

8个128-bit的寄存器被加入了CPU :xmm0到xmm7.

 


最初的时候,这些寄存器智能用来做单精度浮点数计算(float),

自从SSE2开始,这些寄存器可以被用来计算任何基本数据类型的数据了。


给定一个标准的32位机器,我们可以并行的存储和计算了:

-- 2 double

-- 2 long

-- 4 float 

-- 4 int

-- 8 short

-- 16 char

注意:整数类型可以是有符号也可以是无符号的,不过有时候你可能要用不同的指令来处理他们。

比如,你想计算两个整数数组的和,你可以一次计算四个加法。



简单的例子

开始学习SSE并不是很简单的,幸好MSDN的文档写的很好(原作的链接打不开了,新连接是我加上去的)!

如果你看一下那个算术操作的列表,一会注意到总有相应的汇编指令与其对应。

另外,一些操作是符合操作,例如那些set操作。

在C++中用SSE真真是一个low-level的操作:我们将直接通过类型

__m128(4个float)、__m128d(2个double)、__m128i(int、short、char)直接控制那些128-bit的寄存器。


不过,为了使用SSE我们不必去声明__m128类型的数组:比如,你想计算一个浮点型数组中每个元素的平方根,

有可以直接将你的数组强制类型转换成__m128*,然后使用SSE的命令操作这个数组。


不管怎样,我们还是要多做一点事情,才能用SSE。大多数SSE操作需要我们的数据是16-bytes对齐的,

这里我们将使用另一个GCC的 Variable attributes。 我们使用对齐属性:



aligned (alignment)
This attribute specifies a minimum alignment for the variable or structure field, measured in bytes.


下面是一个简单的代码,展示如何用SSE的_mm_sqrt_ps()函数一次性计算四个浮点数的平方根:



float a[] __attribute__ ((aligned (16))) = { 41982.,  81.5091, 3.14, 42.666 };
__m128* ptr = (__m128*)a;
__m128 t = _mm_sqrt_ps(*ptr);




如果用GCC编译器,在编译选项中加入-S选项,产生的汇编代码中相应的汇编语句是SQRTPS,

而且这个指令使用的寄存器就是SSE的寄存器:


sqrtps  %xmm0, %xmm0


不要忘了加上那个头文件:



#include




第一个评测

在前面的代码中,我们同时计算了4个float的平方根,但是我们没有记录结果。为了记录结果,我们使用_mm_store_ps

在下面的代码中,我们计算一个非常大的float数组的平方根。(作者使用的是他之前写的计时函数,这里我直接贴出来了)

来对程序的标准版本和SSE版计时。


class Timer
{
public:
  Timer(const std::string& name)
    : name_ (name),
      start_ (std::clock())
    {
    }
  ~Timer()
    {
      double elapsed = (double(std::clock() - start_) / double(CLOCKS_PER_SEC));
      std::cout << name_ << ": " << int(elapsed * 1000) << "ms" << std::endl;
    }
private:
  std::string name_;
  std::clock_t start_;
};
#define TIMER(name) Timer timer__(name);

void normal(float* a, int N)
{
  for (int i = 0; i < N; ++i)a[i] = sqrt(a[i]);
} 
void sse(float* a, int N)
{// We assume N % 4 == 0.
  int nb_iters = N / 4;
  __m128* ptr = (__m128*)a;
  for (int i = 0; i < nb_iters; ++i, ++ptr, a += 4)
    _mm_store_ps(a, _mm_sqrt_ps(*ptr));
}
int main(int argc, char** argv)
{
  if (argc != 2)
    return 1;
  int N = atoi(argv[1]);
  float* a;
  posix_memalign((void**)&a, 16,  N * sizeof(float));
  for (int i = 0; i < N; ++i)a[i] = 3141592.65358;
  {
    TIMER("normal");
    normal(a, N);
  }
  for (int i = 0; i < N; ++i)a[i] = 3141592.65358;
  {
    TIMER("SSE");
	sse(a, N);
  }
}


在上面的SSE的函数代码中,我们用了两个指针指向的是同一个地址,但是使用的类型不同,这当然不是必须的,只是用来避免强制类型转换。

有趣的是,我们必须对__m128每次递增1(128bits),对应的,我们也必须按四递增float指针(就是相当于一次算四个float)。

另一个有趣的函数式 posix_memalign,而不是用align attribute,这个函数是在堆上申请对齐内存,而gcc attribute是在栈上申请内存。


评测环境: llvm-g++ 4.2 (flags: -O3 -msse2)  在Intel Core2 Duo P7350(2GHz)上测试。


$ ./sqrt 64000000
normal: 392ms
SSE: 145ms


真的相当快哈!


第二个评测


怎么将两个char数据加在一起呢:


void sse(char* a, const char* b, int N)                                                                                                                                                                          
{                                                                                                                                                                                         
  int nb_iters = N / 16;
  __m128i* l = (__m128i*)a;
  __m128i* r = (__m128i*)b;
 
  for (int i = 0; i < nb_iters; ++i, ++l, ++r)
    _mm_store_si128(l, _mm_add_epi8(*l, *r));
}


评测结果:


$ ./add 64000000
normal: 98ms
SSE: 42ms



性能分析


你可能会问,为什么我们没有得到四倍的加速呢?我们可是一次计算4个float数据啊,怎么我们只有2倍的加速呢??


答案是,你的编译器很聪明,它已经做了很多优化了,特别是在加入O3选项后。

实际上,如果你看下normal产生的汇编代码,里面的sqrt和add函数都已经被你的编译器给用SSE指令优化了。

编译器检测到循环模式适合SSE,就把这个代码使用SSE指令实现了。

不管怎样,直接使用SSE函数还是可以获得一些性能的。


取决于你的编译器版本,对于这种简单的循环,你发现执行时间上没有差异也是可能的。

但是,这里必须要再提一次的是,我们是介绍怎么用SSE,不是只为了性能~






本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除。
换一批
延伸阅读

9月2日消息,不造车的华为或将催生出更大的独角兽公司,随着阿维塔和赛力斯的入局,华为引望愈发显得引人瞩目。

关键字: 阿维塔 塞力斯 华为

加利福尼亚州圣克拉拉县2024年8月30日 /美通社/ -- 数字化转型技术解决方案公司Trianz今天宣布,该公司与Amazon Web Services (AWS)签订了...

关键字: AWS AN BSP 数字化

伦敦2024年8月29日 /美通社/ -- 英国汽车技术公司SODA.Auto推出其旗舰产品SODA V,这是全球首款涵盖汽车工程师从创意到认证的所有需求的工具,可用于创建软件定义汽车。 SODA V工具的开发耗时1.5...

关键字: 汽车 人工智能 智能驱动 BSP

北京2024年8月28日 /美通社/ -- 越来越多用户希望企业业务能7×24不间断运行,同时企业却面临越来越多业务中断的风险,如企业系统复杂性的增加,频繁的功能更新和发布等。如何确保业务连续性,提升韧性,成...

关键字: 亚马逊 解密 控制平面 BSP

8月30日消息,据媒体报道,腾讯和网易近期正在缩减他们对日本游戏市场的投资。

关键字: 腾讯 编码器 CPU

8月28日消息,今天上午,2024中国国际大数据产业博览会开幕式在贵阳举行,华为董事、质量流程IT总裁陶景文发表了演讲。

关键字: 华为 12nm EDA 半导体

8月28日消息,在2024中国国际大数据产业博览会上,华为常务董事、华为云CEO张平安发表演讲称,数字世界的话语权最终是由生态的繁荣决定的。

关键字: 华为 12nm 手机 卫星通信

要点: 有效应对环境变化,经营业绩稳中有升 落实提质增效举措,毛利润率延续升势 战略布局成效显著,战新业务引领增长 以科技创新为引领,提升企业核心竞争力 坚持高质量发展策略,塑强核心竞争优势...

关键字: 通信 BSP 电信运营商 数字经济

北京2024年8月27日 /美通社/ -- 8月21日,由中央广播电视总台与中国电影电视技术学会联合牵头组建的NVI技术创新联盟在BIRTV2024超高清全产业链发展研讨会上宣布正式成立。 活动现场 NVI技术创新联...

关键字: VI 传输协议 音频 BSP

北京2024年8月27日 /美通社/ -- 在8月23日举办的2024年长三角生态绿色一体化发展示范区联合招商会上,软通动力信息技术(集团)股份有限公司(以下简称"软通动力")与长三角投资(上海)有限...

关键字: BSP 信息技术
关闭
关闭