하드웨어 가속기의 배포는 일반 목적 CPU에서 해당 작업을 위해 설계된 특수 하드웨어 장치로의 특정 계산 집약적 작업을 오프로드하여 시스템의 계산 능력을 크게 향상시킵니다. 이것은 시스템 성능 및 효율성에 대한 몇 가지 주요 영향을 초래합니다.
** 1. 병렬성과 전문화를 통한 성능 향상
가속기는 병렬 처리 및 특수 회로를 악용하여 CPU보다 훨씬 빠르게 특정 작업을 실행하도록 설계되었습니다. 예를 들어, 하드웨어 암호화 가속기는 많은 암호화 작업을 동시에 처리하여 순차적으로 처리하는 CPU보다 훨씬 빠르게 작업을 완료 할 수 있습니다. 이 전문화를 통해 가속기는 대상 워크로드에 대한 극적인 속도를 제공 할 수 있으며, 종종 CPU 전용 실행과 비교하여 몇 배에 따라 성능을 향상시킵니다 [8] [5] [7].
** 2. 개선 된 에너지 효율
하드웨어를 추가하면 전력 소비가 증가한다는 전통적인 신념과는 반대로 신중하게 설계된 가속기는 전반적인 시스템 전력을 줄일 수 있습니다. 이는 가속기가 작업을보다 효율적으로 수행 할 수있어 클록 사이클이 적고 시스템이 성능을 유지하거나 개선하면서 더 낮은 시계 주파수에서 시스템을 실행할 수 있기 때문입니다. 예를 들어, 임베디드 시스템에 가속기를 추가하면 실행주기가 거의 90 배를 줄이고 전력 소비를 크게 줄이고, 때로는 작동 주파수가 낮아지고보다 효율적인 계산을 가능하게함으로써 CPU-Alone 전력의 1/5 미만으로 상승합니다 [5].
** 3. CPU 워크로드를 오프로드하고보다 복잡한 응용 프로그램을 가능하게합니다
암호화 처리, 매트릭스 곱셈 또는 기계 학습 추론과 같은 전문화 된 작업을 처리함으로써 가속기는 CPU를 자유롭게하여 다른 시스템 기능에 중점을 둡니다. 이 오프로드는 전반적인 처리량을 향상시킬뿐만 아니라 메인 프로세서를 과도하게 부담하지 않고 고급 기능과 복잡한 응용 프로그램을 통합 할 수 있습니다 [8].
** 4. 시스템 설계의 유연성과 적응성
FPGA와 같은 일부 가속기는 높은 계산 전력과 에너지 효율을 모두 제공하여 네트워크 가장자리의 유연한 가속 작업에 적합합니다. 가속기를 배포하면 특정 워크로드, 성능, 전력 및 비용 제약 균형을 효과적으로 균형을 잡을 수 있습니다 [4] [5].
** 5. 도전 및 시스템 수준 관리
가속기가 도입 한 이질성에는 자원을 효율적으로 할당하고 작업을 예약하기 위해 신중한 시스템 및 운영 체제 지원이 필요합니다. 적절한 관리는 가속기가 최적으로 활용되도록하여 시스템 안정성과 전력 효율성을 유지하면서 성능 이점을 극대화합니다 [7].
** 6. 데이터 이동 및 통신 오버 헤드 감소
매트릭스 곱셈과 같은 작업을 위해 설계된 가속기에서 온 칩 데이터 재사용 및 효율적인 버퍼링은 메모리와 처리 요소 사이의 빈번한 데이터 전송 필요성을 줄여 대역폭 병목 현상과 데이터 이동과 관련된 에너지 비용을 최소화합니다 [10].
요약하면, 가속기 배포는 전문 작업의보다 빠르고 에너지 효율적인 실행, CPU 리소스를 자유롭게하고보다 복잡하고 까다로운 작업량을 허용함으로써 시스템의 계산 능력을 향상시킵니다. 이로 인해 상당한 성능 이득 및 전력 절약, 특히 내장, 에지 및 고성능 컴퓨팅 환경에서 중요한 것이 중요합니다 [4] [5] [7] [8] [10].
인용 :
[1] https://www.ultralytics.com/blog/understanding-the-impact-of-compute-power-on-ai-innovations
[2] https://premioinc.com/blogs/blog/performance-accelerators-in-the-context-of-computing-hardware
[3] http://www.dre.vanderbilt.edu/~gokhale/www/papers/hotedge20_hwaccelreco.pdf
[4] https://www.sciencedirect.com/science/article/abs/pii/s006524582300075x
[5] https://cdrdv2-public.intel.com/650470/wp-01112-hw-reduce-power.pdf
[6] https://www.usenix.org/system/files/osdi24-ma-jiacheng.pdf
[7] https://scail.cs.wisc.edu/papers/hotpar12_rinnegan.pdf
[8] https://www.appviewx.com/blogs/hardware-cryptographic-accelerators-to-enhance-security-without-slowing-doyn/
[9] https://publications.ics.forth.gr/tech-reports/2018/2018.tr473_accelerator_deployment_models_heterogeneous_processing.pdf
[10] https://pmc.ncbi.nlm.nih.gov/articles/pmc11767631/