※ 이 글은 오가사와라 히로유키(小笠原博之) 씨가 블로그에 적은 글을 번역한 것입니다. 사정에 따라 예고없이 삭제될 수 있으므로 양해부탁드립니다.
VFP Benchmark v1.1 부동소수점 연산 명령의 속도 (NEON/SSE/AVX)
(원문 : VFP Benchmark v1.1 浮動小数点演算命令の速度 (NEON/SSE/AVX))
x86의 SSE/AVX 명령에 대응했습니다. ARM CPU와 마찬가지로 SSE/AVX의 명령속도를 계측할 수 있습니다.
위는 Android입니다만, iOS판에서는 ARMv8A (arm64)에 대응합니다. 다음은 갖고 있는 디바이스에서의 결과입니다.
Device CPU sp GFLOPS dp GFLOPS --------------------------------------------------------------------- MacBookRetina13 Core i5-3210M Ivy 2.5GHz x2 90.2 45.2 Kindle HDX 7 MSN8974 Krait 400 2.2GHz x4 67.5 16.9 Tegra Note 7 Tegra4 Cortex-A15 1.8GHz x4 51.3 9.8 Nexus 7 (2013) AQP8064 Krait 1.5GHz x4 47.8 11.8 iPhone 5s A7 arm64 Cyclone 1.3GHz x2 40.9 20.5 iPhone 5s A7 arm7s Cyclone 1.3GHz x2 40.9 8.0 Mac mini 2009 Core2 Duo P7350 2.0GHz x2 31.7 12.7 Nexus 10 Exynos5D Cortex-A15 1.7GHz x2 26.7 5.3 iPad 4 A6X Swift 1.4GHz x2 21.5 3.6 iPhone 5 A6 Swift 1.3GHz x2 20.1 3.4 Nexus 7 (2012) Tegra3 Cortex-A9 1.3GHz x4 18.9 4.7 EVO 3D ISW12HT MSM8660 Scorpion 1.2GHz x2 16.6 1.3 VAIO Type P Atom Z540 Bonnell 1.8GHz x1 10.9 1.9 Desire X06HT QSD8250 Scorpion 1.0GHz x1 7.1 0.9 iPad 2 A5 Cortex-A9 1.0GHz x2 7.8 2.0 iPod touch 4 A4 Cortex-A8 0.8GHz x1 3.1 0.1 Raspberry Pi BCM2835 ARM1176JZFS 0.7GHz x1 0.7 0.7 * 수치가 클수록 빠름 * sp= 단정밀도, dp= 배정밀도
최대치를 측정한 것이므로 실제 애플리케이션 속도와는 차이가 있습니다. 자세한 것은 이곳을 참조하시기 바랍니다. 다음 페이지의 이론치 거의 그대로 나오는 경향을 보입니다.
배정밀도 테스트는 아직 개량의 여지가 있습니다. 스칼라에서 mul+add의 페어링을 측정하지 않으므로, 일부 CPU에서 점수가 좀 더 늘어나리라 생각됩니다.
Core i5 Ivy Bridge는 예상한 것 보다 높은 수치가 나왔는데, TurboBoost 효과로 더 높은 클럭으로 동작하는 것 같습니다. single-thread 시에는 3.0GHz, multi-thread 시에는 2.85GHz에 상당하는 결과가 나왔습니다.
실제 측정결과는 명령단위의 수치를 나타내므로, CPU 동작을 보다 자세하게 조사할 수 있습니다.
SSE2/AVX1에는 덧곱셈명령1이 없습니다만, Intel CPU는 가산과 승산명령을 병렬로 실행할 수 있는 듯합니다. ↓를 보면 실제로 addps/mulps의 Interleave는 절반 시간으로 실행합니다.
Ivy Bridge Core i5-3210M * SSE/AVX (single fp) sec MFLOPS MFLOPS AVX vmulps (32bit x8) n8 : 1.322 24205.7 24205.7 AVX vaddps (32bit x8) n8 : 1.319 24256.0 24256.0 AVX vmul+addps (32bit x8) n8 : 0.658 48604.4 48604.4
↓ Atom (Bonnell)의 경우는 조금 특수합니다. SSE 명령의 승산이 가산보다 2배의 시간이 걸립니다. 동작 클럭을 생각하면 SSE의 add가 128bit이고 mul를 64bit 폭으로 연산하고 있다고 생각됩니다.
Atom Z540 (Bonnell) * SSE/AVX (single fp) sec MFLOPS MFLOPS SSE mulps (32bit x4) n8 : 4.307 3715.2 3715.2 SSE addps (32bit x4) n8 : 2.207 7248.1 7248.1 SSE mul+addps (32bit x4) n8 : 2.155 7424.2 7424.2
ARM NEON의 경우, 같은 SIMD라도 64bit 명령이 있습니다. 예를 들어 「vadd.f32 d0,d1,d2」는 단정밀도 32bit x2의 64bit 가산을 처리하므로, Cortex-A8/A9처럼 64bit 폭이라도 1cycle로 실행합니다. 128bit 명령 「vadd.f32 q0,q1,q1」의 경우에는 2cycle 걸립니다.
SSE는 항상 4요소 = 128bit 단위이므로 Pentium 3 등 64bit 폭의 SIMD Unit에서는 최소 2cycle이 걸리게 됩니다. 마찬가지로 Atom의 승산도 최소치는 2cycle입니다. 다만 mulps + addps의 Interleave라도 addps만 쓸 때와 같은 시간에 완료되므로, 가산과 승산은 비대칭이면서도 Overlap될 수 있는 듯 합니다.
Atom에는 HT가 있어 Multi-thread 시에 불필요한 빈틈을 메울 수 있습니다. 메인스레드에서 mulps + addps의 페어를 실행하고, 서브스레드에서 addps만 돌리면 아마도 128bit + 64bit의 비대칭 파이프라인이 메워질 것입니다.
mulps + addps + addps 조합을 2스레드 돌린 결과가 아래로, 점수가 늘어났음을 알 수 있습니다.
Atom Z540 (Bonnell) * SSE/AVX (single fp) multi-thread sec MFLOPS MFLOPS SSE ml+ad+addps (32bit x4) n6 : 3.075 10926.6 10926.6
이 측정 결과를 통해 CPU의 개별 연산능력을 정리한 것이 아래의 표입니다. 배정밀도 값은 좀 더 변동될 가능성이 있습니다.
스칼라
단정밀도 배정밀도 CPU mul add mad fma mul add mad fma ----------------------------------------- ------------------------- ARM1176JZF-S 0.5 0.5 1 -- 0.5 0.5 1 -- Cortex-A8 0.14 0.14 0.18 -- 0.1 0.1 0.1 -- Cortex-A9 1 1 2 -- 0.5 1 1 -- Cortex-A15 1 1 1.4 2 1 1 1.4 1.4 Scorpion 1 1 2 -- 0.5 1 1 -- Krait 400 1 1 2 2 1 1 1.6 2 A6 Swift 1 1 1 1 1 1 1 1 A7 Cyclone arm7s 1 1 2 2 2 3 3 3 A7 Cyclone arm64 2 3 -- 4 2 3 -- 1.6 Atom Bonnell 1 1 -- -- 0.5 1 -- -- Core2 Penryn 1 1 -- -- 1 1 -- -- Core i5 Ivy Bridge 1 1 -- -- 1 1 -- -- * 수치는 1 cycle에 실행가능한 연산수 * 값이 클수록 고속
ARM11의 mul은 0.5연산/cycle입니다. 다시 말해 단정밀도의 가산이나 승산은 2cycle 걸립니다.
mad/fma는 명령당 2연산이므로, 이 란이 2의 경우에는 1cycle로 실행할 수 있음을 의미합니다.
Cortex-A8의 최대 FLOPS는 NEON 덕분에 ARM11 보다 높지만, 위에 적은 대로 VFP의 스칼라 연산에서는 ARM11에 집니다.
A7 Cyclone (ARMv8A)은 AArch32 (32bit mode)와 AArch64 (64bit mode)에 상당한 차이가 있습니다. 단정밀도 연산은 64bit mode 쪽이 수배 빠르게 실행되는 것 같습니다. 아마도 VFP가 요구하는 사양이 NEON과 다르기 때문이라 생각됩니다. AArch64는 NEON으로 통일되었기에, NEON과 동등한 속도로 동작되는 것 같습니다. VFP가 발을 붙잡는 것처럼 보이는 경향은 Cortex-A15등 다른 ARMv7A CPU에서도 보입니다.
SIMD 단정밀도
SIMD2 (32bit x 2) SIMD4 (32bit x4) CPU mul add mad fma mul add mad fma ---------------------------------------- ---------------------- ARM1176JZF-S -- -- -- -- -- -- -- -- Cortex-A8 2 2 4 -- 2 2 4 -- Cortex-A9 2 2 4 -- 2 2 4 -- Cortex-A15 4 4 8 8 4 4 8 8 Scorpion 2 2 4 -- 4 4 8 -- Krait 400 2 2 4 4 4 4 8 8 A6 Swift 2 2 4 4 4 4 8 8 A7 Cyclone arm7s 4 6 8 8 8 12 16 16 A7 Cyclone arm64 4 6 -- 8 8 12 -- 16 Atom Bonnell -- -- -- -- 2 4 (6) -- Core2 Penryn -- -- -- -- 4 4 (8) -- Core i5 Ivy Bridge -- -- -- -- 4 4 (8) --
Cortex-A8/A9는 64bit 폭이라 SIMD2에서는 Scorpion/Krait/Swift와 차이가 없습니다. SIMD4에서는 128bit의 Scorpion/Krait/Swift의 절반이라는 것을 알 수 있습니다.
특이한 것은 Cortex-A15로, SIMD4에서는 같은 128bit인 Scorpion/Krait/Swift와 동등합니다만 SIMD2에서는 2배의 수치를 나타냅니다. Cortex-A15는 64bit폭 2pipe라서 2명령 동시실행이 가능하기 때문입니다. 스칼라에서는 단정밀도도 1명령/cycle이기 때문에, 절반밖에 쓰지 못한다고 해도 NEON 쪽이 빠릅니다.
Ivy Bridge는 AVX에 대응하므로, 위의 표에서는 생략되어 있지만 SIMD8이 있습니다. 아래 페이지에 SIMD8과 배정밀도 SIMD를 포함한 표를 정리했습니다.
제일 위쪽에 있는 GFLOPS 리스트에서는 Quad core 및 동작 클럭이 높은 Snapdragon 800 (MSM8974)가 상위였습니다. CPU의 cycle 단위 명령수를 내보면, 유일한 ARMv8 CPU이기도 한 A7 Cyclone이 발군의 고성능임을 알 수 있습니다.
계측결과를 보면 mul, mad/fma는 2명령, add는 3명령을 동시에 실행할 수 있는 듯 합니다. NEON의 경우에는 AArch32와 AArch64에 딱히 차이는 없었습니다.
A7 Cyclone의 설계는 DEC Alpha나 StrongARM 출신의 엔지니어가 관련되어있다고 합니다. (Wikipedia P.A.Semi)
Benchmark는 어디까지나 부동소수점 연산능력의 최대치를 실측하는 것이 목적이므로, 반드시 종합적인 우세와 일치하지 않음을 미리 양해바랍니다.
관련 글
- ARM CPU의 VFP Benchmark앱 부동소수점 연산속도 계측
- iPhone 5s A7 CPU의 부동소수점 연산속도 (2) (arm64/AArch64/64bit)
- iPhone 5s A7 CPU의 부동소수점 연산속도 (32bit)
- Nexus 10 CPU Cortex-A15의 속도
- Nexus 10 CPU Cortex-A15의 부동소수점 연산속도
- Qualcomm APQ8064 GPU Adreno 320의 속도
- Qualcomm APQ8064 Krait/A6 swift의 부동소수점 연산능력
- ARM Cortex-A8의 NEON과 부동소수 연산 최적화
- benchmark 관련
- 積和의 의역. 두 수를 곱한 후 다른 수에 더하는 명령 [본문으로]