Numărul de acceleratoare implementate afectează în mod direct costul general în mai multe moduri, în primul rând pentru că fiecare accelerator suplimentar suportă atât cheltuieli fixe, cât și variabile legate de hardware, consum de energie și cheltuieli operaționale.
** 1. Costuri hardware și implementare:
Fiecare dispozitiv de accelerație are un cost comercial de cumpărare, iar implementarea mai multor unități crește proporțional cheltuielile totale de capital. De exemplu, în implementările acceleratorului hardware pentru sarcinile de învățare automată, costul total este aproximativ proporțional cu numărul de dispozitive implementate, deoarece costul include atât prețul fiecărui dispozitiv, cât și consumul de energie asociat pe ciclul de implementare [5] [7]. Acest lucru înseamnă că dacă dublați numărul de acceleratoare, costul hardware se dublează aproximativ.
** 2. Consumul de energie electrică și costurile operaționale:
Mai multe acceleratoare consumă mai multă energie, ceea ce se adaugă la costurile operaționale în curs. Consumul de energie depinde atât de utilizarea inactivă, cât și de cele active, iar atunci când sunt implementate mai multe acceleratoare, costul de energie cumulativ poate crește semnificativ costul total de implementare [5]. Acceleratoare eficiente, cum ar fi FPGA-urile sau GPU-urile încorporate, pot reduce costurile de energie pe pericol, dar costul total al puterii este încă la nivelul numărului de unități.
** 3. Lățime de bandă și costuri de transfer de date:
Acceleratoarele, în special cele utilizate pentru accelerarea transferurilor de date (de exemplu, în mediile de calcul nor sau margine), folosesc adesea o lățime de bandă semnificativă. Implementarea mai multor acceleratoare poate crește consumul de lățime de bandă, ceea ce poate duce la taxe mai mari de transfer de date percepute de furnizorii de cloud sau servicii de colocare [4]. Aceste costuri sunt variabile și depind de volumul de date mutat și de modelul de preț al mediului de găzduire.
** 4. Economii de scară și impact de configurare:
În timp ce motorul de automatizare a acceleratorului în sine nu poate adăuga costuri, costul general al soluției depinde foarte mult de configurația și scala de implementare. Diferite configurații pot varia de la configurații low-cost (~ 30 USD/lună), până la medii cu mai multe date, care costă mii de dolari pe lună. Creșterea numărului de acceleratoare pentru a satisface cererea mai mare sau îmbunătățirea performanței schimbă de obicei costul către capătul mai mare al acestui spectru [3] [4].
** 5. Performanță vs. compromisuri de costuri:
Adăugarea mai multor acceleratoare poate îmbunătăți performanța (latență mai mică, randament mai mare), dar acest lucru este în detrimentul costurilor de capital mai mari și operaționale. Alegerea tipului potrivit și a numărului de acceleratoare implică echilibrarea cerințelor de performanță față de constrângerile bugetare, luând în considerare factori precum eficiența dispozitivului, complexitatea volumului de muncă și durata implementării [5] [7].
În rezumat, costul total crește aproximativ proporțional cu numărul de acceleratoare implementate din cauza costurilor de achiziție a hardware -ului, consumului de energie și utilizării lățimii de bandă. Cu toate acestea, impactul exact al costurilor depinde de tipul de accelerație specific, de mediul de implementare și de caracteristicile volumului de muncă. Planificarea eficientă și selecția acceleratorilor pot optimiza rentabilitatea în timp ce îndeplinesc obiectivele de performanță.
Citări:
[1] https://aws.amazon.com/global-accelerator/pricing/
[2] https://docs.aws.amazon.com/solutions/latest/modern-data-architecture-accelerator/cost.html
[3] https://aws-samples.github.io/aws-secure-environment-accelerator/latest/pricing/sample_pricing/
[4] https://cyfuture.cloud/kb/storage/are-there-pricing-considerations-for-using-an-accelerator-service-for-faster-data-transfer-in-object-torage
[5] https://www.usenix.org/system/files/hotedge20_paper_zhou-xingyu.pdf
[6] https://www.investopedia.com/terms/a/acceleratorTheory.asp
[7] http://www.dre.vanderbilt.edu/~gokhale/www/papers/hotedge20_hwaccelreco.pdf
[8] https://www.phdata.io/blog/what-is-the-cost-to-deploy-and-maintain-a-machine-learning-model/
[9] https://www.numberAnalytics.com/blog/guide-to-accelerator-preincipe-econ
[10] https://www.economicsonline.co.uk/definitions/accelerator_effect.html/