제목은 거창하지만 그냥 C/C++ 유저들이 편하게 SIMD 명령들을 쓸 수 있도록 제안된 Intrinsic 들을 사용해서 코딩을 좀 해봤습니다. 인텔이 제일 먼저 제안했던 것 같고 VS 6.0 에서는 따로 설치를 해줘야 했지만 VS 2003, 2005 에서는 바로 사용할 수 있도록 준비되어 있습니다. 아래 인텔 링크에서 간략한 설명을 볼 수 있습니다.
(Intel Home > Intel Software Network > Introduction to Intrinsics)
http://softwarecommunity.intel.com/articles/eng/3369.htm저는 Kd-Tree 에 적용해서 테스트를 해봤는데 일단 스탠포드 토기를 이용한 800 * 800 화면 렌더링에서는 딱 195%의 효율을 보이더군요. 문서들에 따라서는 320~370% 까지 속도 향상이 있다고 하는데 그렇게까지 올라가진 않고 Ray 간격을 좀더 좁히면 300% 가까이 속도가 나기도 해서 Ray 간격대비 폴리건 수가 적은 환경에서는 지금보다 효율이 더 올라갈듯 싶긴 하지만 일단 테스트 베드에서 95% 증가라도 감지덕지 하고 있습니다.
SSE Intrinsic 에 대해서 간단히 소개를 해보면 다음과 같습니다.
float a = 1;
float b = 2;
float c = a + b; // 3
__m128 a = _mm_set_ps(1,2,3,4);
__m128 b = _mm_set_ps(2,3,4,5);
__m128 c = _mm_add_ps(a, b); // 3,5,7,9
여기서 쓰인 __m128 이란 명령어는 float[4] 에 해당하는 128비트 레지스터로서 SSE 기능이 CPU에 추가되면서 새로이 추가된 레지스터입니다. 128 비트 크기로 SSE 에서는 float[4] 데이터에 대해 동일한 연산을 연산을 한꺼번에 하거나 첫번째 컴포넌트만 따로 계산할 수도 있습니다.
FPU 에 비교해서 더 나은 점은 뭣보다 SIMD 연산으로 한번에 4개까지 동일한 계산을 수행할 수 있다는 점이 첫번째이며 두번째 장점은 FPU가 Stack 연산 방법을 취한 것과 달리 8개의 레지스터를 자유롭게 접근할 수 있기 때문에 FPU 코드에 비해 코드 분량이 훨씬 적다는 점 입니다. 직접 테스트 해보지 않았지만 FPU쪽 연산 유닛 속도가 훨씬 빠르다는 언급도 있었는데 직접 실험해보지는 않았습니다.
SSE가 도입되면서 주의해야 할 점중 하나가 byte align 문제로 접근할 메모리와 캐쉬 라인을 맞춰줘야 한다는 것 입니다. _mm_load_ps(), _mm_store_ps() 같은 명령이 대표적으로 올리고 내리는 주소들이 충분히 align 이 되었는지 확인해야 합니다. 게다가 테스트중 align 이 틀렸을때 바로 해당 코드가 아니라 근처에서 크래쉬가 발생해서 정확한 위치를 찾는데 고생하기도 했습니다. Out-of-Order 문제가 아닌가 싶은데 일단 명령들과 반응이 좀 다릅니다.
두번째는 masking 에 대한 요령입니다. SSE 는 기존 명령들과 다르게 4개를 한꺼번에 계산하기 때문에 분기가 필요할때는 상당히 고약해집니다. 그래서 사용하는 것이 masking 으로 다음과 같은 방식을 취하게 됩니다.
// FPU
float value;
if(value < 0)
value *= -20.0f;
else
value *= 20.0f;
__m128 value; // -2, -1, 1, 2
__m128 zero; // 0,0,0,0
__m128 mask = _mm_lt_ps(value, zero); // 0xffffffff,0xffffffff,0,0
value = _mm_add_ps(_mm_and_ps(mask,_mm_mul_ps(value,_mm_set1_ps(-20.0f))), _mm_andnot_ps(mask,_mm_mul_ps(value,_mm_set1_ps(20.0f))));
// value = (mask & (value * -20.0f)) + (!mask & (value * 20.0f))
이렇게 쓰는 첫번째 이유는 4개의 연산을 한꺼번에 해야한다는 것이고 두번째 이유는 SSE 에서 flag 결과물을 CPU 에서 바로 사용할 수 없기 때문입니다. SIMD 이기 때문에 두가지를 분리해 놓은 것이라고 볼 수 있지만 4개의 연산이 모두 일치할 경우 CPU 연산을 쓸 수 있었으면 좋겠단 생각이 약간씩 들긴 했습니다. ^_^
어쨌거나 이런 masking을 사용한 연산의 장점은 CPI 가 올라간다는 것입니다. 예전의 Triangle - Ray 충돌 체크 루틴이 0.91 언저리를 맴돌았는데 SSE를 적용한 다음 0.45 까지 떨어진 것을 살짝 충격을 받았으니까요. 어쨌거나 이렇게 분기가 필요하거나 결과에 따라 다른 계산이 필요할때는 여러가지 속도 저하가 일어나기 때문에 가능한 이런 연산을 피하는 쪽으로 SSE를 적용하는게 좋습니다.
중요한점은 SSE 를 적용을 해서 속도가 늘어나는가? 안늘어나는가? 입니다. 20%라도 속도 향상이 있다면 적용을 해보는 것이 좋고 그 반대로 속도가 나지 않는다면 빼버리는게 맞는 것이죠. MMX 와 달리 대부분의 FPU 명령이 구현되어 있기 때문에 일반 C 코드로 작성한 것을 그대로 SSE 로 옮기는 것도 상당히 수월하니까요. 앞으로 SSE 사용을 차곡차곡 늘려서 좀더 익숙해질 수 있도록 해봐야죠. 이제는 SSE 쓴다고 안돌아가는 PC도 거의 없을테니까요.
echo_server.zip
댓글을 달아 주세요
테스트용 socket server가 하나 필요한 상황인데 짜기는 귀찮고... 유용하게 잘 쓰겠습니다. 감사~