Liczba akceleratorów wdrożonych bezpośrednio wpływa na całkowity koszt na kilka sposobów, przede wszystkim dlatego, że każdy dodatkowy akcelerator ponosi zarówno koszty stałe, jak i zmienne związane z sprzętem, zużyciem energii i kosztami operacyjnymi.
** 1. Koszty sprzętu i wdrażania:
Każde urządzenie akceleratora ma komercyjny koszt zakupu, a wdrażanie większej liczby jednostek proporcjonalnie zwiększa całkowity nakład inwestycyjny. Na przykład we wdrażaniu akceleratora sprzętu do zadań uczenia maszynowego całkowity koszt jest mniej więcej proporcjonalny do liczby wdrożonych urządzeń, ponieważ koszt obejmuje zarówno cenę każdego urządzenia, jak i powiązane zużycie energii w cyklu wdrażania [5] [7]. Oznacza to, że jeśli podwojesz liczbę akceleratorów, sprzęt kosztuje również z przybliżeniem podwójnym.
** 2. Zużycie energii i koszty operacyjne:
Więcej akceleratorów zużywa więcej energii, co zwiększa bieżące koszty operacyjne. Zużycie energii zależy zarówno od użycia bezczynności, jak i aktywnego, a gdy wdrożono wiele akceleratorów, skumulowany koszt energii może znacznie zwiększyć całkowity koszt wdrażania [5]. Wydajne akceleratory, takie jak FPGA lub GPU wbudowane, mogą obniżyć koszty mocy na urządzenie, ale całkowity koszt zasilania nadal skaluje się wraz z liczbą jednostek.
** 3. Koszty przepustowości i transferu danych:
Akceleratory, zwłaszcza te używane do przyspieszania transferów danych (np. W środowiskach przetwarzających chmurę lub krawędzi), często używają znacznej przepustowości. Wdrażanie większej liczby akceleratorów może zwiększyć zużycie przepustowości, co może prowadzić do wyższych opłat za transfer danych naliczanych przez dostawców chmur lub usługi kolokacji [4]. Koszty te są zmienne i zależą od przeniesionego objętości danych i modelu cenowego środowiska hostingowego.
** 4. Gospodarki skali i konfiguracji Wpływ:
Chociaż sam silnik automatyzacji akceleratora może nie zwiększyć kosztów, ogólny koszt rozwiązania zależy w dużej mierze od konfiguracji i skali wdrażania. Różne konfiguracje mogą obejmować tanie konfiguracje (~ 30 USD/miesiąc) do wysoce dostępnych, wielokrotnie podważających środowiska kosztujące tysiące dolarów miesięcznie. Zwiększenie liczby akceleratorów w celu zaspokojenia wyższego popytu lub poprawy wydajności zazwyczaj zmienia koszt w kierunku wyższego końca tego spektrum [3] [4].
** 5. Wydajność vs. kompromisy kosztów:
Dodanie większej liczby akceleratorów może poprawić wydajność (niższe opóźnienie, wyższa przepustowość), ale jest to kosztem wyższych kosztów kapitałowych i operacyjnych. Wybór odpowiedniego rodzaju i liczby akceleratorów obejmuje równoważenie wymagań dotyczących wydajności w stosunku do ograniczeń budżetowych, biorąc pod uwagę takie czynniki, jak wydajność urządzenia, złożoność obciążenia i czas trwania wdrażania [5] [7].
Podsumowując, całkowity koszt wzrasta w przybliżeniu proporcjonalnie wraz z liczbą akceleratorów wdrożonych z powodu kosztów zakupu sprzętu, zużycia energii i wykorzystania przepustowości. Jednak dokładny wpływ kosztu zależy od konkretnego typu akceleratora, środowiska wdrażania i charakterystyk obciążenia. Skuteczne planowanie i wybór akceleratorów może zoptymalizować opłacalność podczas osiągania celów wydajności.
Cytaty:
[1] https://aws.amazon.com/global-accelerator/pring/
[2] https://docs.aws.amazon.com/solutions/latest/modern-data-architecture-accelerator/cost.html
[3] https://aws-samples.github.io/aws-secure-environment-accelerator/latest/pring/sample_pring/
[4] https://cyfuture.cloud/kb/storage/are-there-pring-considerations-for-using-an-accelerator-service-for-faster-data-transfer-in-object-storage
[5] https://www.usenix.org/system/files/hotedge20_paper_zhou-xingyu.pdf
[6] https://www.investopedia.com/terms/a/acceleratortheory.asp
[7] http://www.dre.vanderbilt.edu/~gokhale/www/papers/hotedge20_hwaccelreco.pdf
[8] https://www.phdata.io/blog/what-is-the-cost-to-deploy-and-maintain-a-machine-learning-model/
[9] https://www.numberanalytics.com/blog/guide-to-accelerator-principle-econ
[10] https://www.economicsonline.co.uk/definitions/accelerator_effect.html/