배포 된 가속기의 수는 각각의 추가 가속기가 하드웨어, 전력 소비 및 운영 오버 헤드와 관련된 고정 및 가변 비용을 모두 발생하기 때문에 주로 여러 가지 방법으로 전체 비용에 직접 영향을 미칩니다.
** 1. 하드웨어 및 배포 비용 :
각 가속기 장치에는 상업적 구매 비용이 있으며 더 많은 단위를 배치하면 총 자본 지출이 비례 적으로 증가합니다. 예를 들어, 기계 학습 작업을위한 하드웨어 가속기 배포에서 총 비용은 각 장치의 가격과 배포주기에 대한 관련 전력 소비가 모두 포함되어 있기 때문에 배포 된 장치 수에 대략 비례합니다 [5] [7]. 즉, 가속기 수를 두 배로 늘리면 하드웨어 비용도 대략 두 배가됩니다.
** 2. 전력 소비 및 운영 비용 :
더 많은 가속기는 더 많은 전력을 소비하여 진행중인 운영 비용을 추가합니다. 전력 소비는 유휴 및 능동적 사용에 따라 다르며 여러 가속기가 배치되면 누적 전력 비용은 총 배포 비용을 크게 증가시킬 수 있습니다 [5]. FPGA 또는 내장 GPU와 같은 효율적인 가속기는 부호 당 전력 비용을 줄일 수 있지만, 총 전력 비용은 여전히 단위 수로 늘어납니다.
** 3. 대역폭 및 데이터 전송 비용 :
가속기, 특히 데이터 전송 속도를 높이기 위해 사용되는 가속기 (예 : 클라우드 또는 에지 컴퓨팅 환경)는 종종 상당한 대역폭을 사용합니다. 더 많은 가속기를 배포하면 대역폭 소비량을 늘릴 수 있으며, 이는 클라우드 제공 업체 또는 코 로케이션 서비스가 청구하는 데이터 전송 수수료가 높아질 수 있습니다 [4]. 이러한 비용은 가변적이며 데이터 볼륨 이동 및 호스팅 환경 가격 모델에 따라 다릅니다.
** 4. 규모 및 구성 영향의 경제 :
가속기 자동화 엔진 자체는 비용이 추가되지 않을 수 있지만 전체 솔루션 비용은 배포 구성 및 스케일에 크게 의존합니다. 저비용 설정 (~ $ 30/월)에서 달에 수천 달러의 비용이 드는 다중 다질도 환경에 이르기까지 다양한 구성이 다양 할 수 있습니다. 더 높은 수요를 충족 시키거나 성능을 향상시키기 위해 가속기 수를 늘리면 일반적으로 비용 이이 스펙트럼의 더 높은쪽으로 이동합니다 [3] [4].
** 5. 성능 대 비용 절충 :
더 많은 가속기를 추가하면 성능을 향상시키고 (대기 시간이 적고, 처리량이 높음) 자본 및 운영 비용이 더 높아질 수 있습니다. 올바른 유형과 가속기 수를 선택하려면 장치 효율성, 워크로드 복잡성 및 배포 기간과 같은 요소를 고려하여 예산 제약과 성능 요구 사항의 균형을 맞추는 것이 포함됩니다 [5] [7].
요약하면, 하드웨어 구매 비용, 전력 소비 및 대역폭 사용으로 인해 배치 된 가속기 수에 따라 전체 비용이 대략 비례적으로 증가합니다. 그러나 정확한 비용 영향은 특정 가속기 유형, 배포 환경 및 워크로드 특성에 따라 다릅니다. 가속기의 효율적인 계획 및 선택은 성능 목표를 달성하면서 비용 효율성을 최적화 할 수 있습니다.
인용 :
[1] https://aws.amazon.com/global-accelerator/pricing/
[2] https://docs.aws.amazon.com/solutions/latest/modern-data-architecture-accelerator/cost.html
[3] https://aws-samples.github.io/aws-secure-environment-accelerator/latest/pricing/sample_pricing/
[4] https://cyfuture.cloud/kb/storage/are-hare-thice-contrations-for-using-an-accelerator-service-for-faster-tata-transfer-in-object-storage
[5] https://www.usenix.org/system/files/hotedge20_paper_zhou-xingyu.pdf
[6] https://www.investopedia.com/terms/a/acceleratortheory.asp
[7] http://www.dre.vanderbilt.edu/~gokhale/www/papers/hotedge20_hwaccelreco.pdf
[8] https://www.phdata.io/blog/what-is-the-cost-to-deploy-and-maintain-a-machine-learning-model/
[9] https://www.numberanalytics.com/blog/guide-to-accelerator-principle-econ
[10] https://www.economicsonline.co.uk/definitions/accelerator_effect.html/