Nasazení hardwarových akcelerátorů významně zvyšuje výpočetní sílu systému vykládáním specifických, výpočetně intenzivních úkolů z obecného procesoru po specializované hardwarové jednotky určené pro tyto úkoly. To vede k několika klíčovým účinkům na výkon a účinnost systému:
** 1. Zvýšený výkon pomocí paralelismu a specializace
Akcelerátory jsou navrženy tak, aby prováděly konkrétní operace mnohem rychleji než CPU využíváním paralelismu a specializovaných obvodů. Například hardwarové kryptografické akcelerátory mohou zpracovávat mnoho kryptografických operací současně a plnit úkoly mnohem rychleji než CPU, který s nimi postupně zpracovává. Tato specializace umožňuje urychlovatelům poskytovat dramatické zrychlení pro jejich cílové pracovní zátěž, což často zlepšuje výkon o řádu ve srovnání s prováděním pouze pro CPU [8] [5] [7].
** 2. Zlepšená energetická účinnost
Na rozdíl od tradičního přesvědčení, že přidávání hardwaru zvyšuje spotřebu energie, mohou pečlivě navržené urychlovače snížit celkovou energii systému. Důvodem je to, že akcelerátory mohou provádět operace efektivněji, vyžadovat méně cyklů hodin a umožnit systému běžet při nižších hodinových frekvencích při zachování nebo zlepšování výkonu. Například přidávání urychlovačů do zabudovaného systému snížilo cykly provádění téměř 90krát a výrazně snížilo spotřebu energie, někdy na méně než pětinu síly CPU alone, umožněním nižších provozních frekvencí a účinnějším výpočtem [5].
** 3. Vykládání pracovního zatížení CPU a povolení složitějších aplikací
Zpracováním specializovaných úkolů, jako je kryptografické zpracování, násobení matice nebo inference strojového učení, uvolní CPU a zaměřte se na jiné systémové funkce. Toto vykládání nejen zvyšuje celkovou propustnost, ale také umožňuje integraci pokročilejších funkcí a složitých aplikací, aniž by přetížila hlavní procesor [8].
** 4. Flexibilita a přizpůsobivost v návrhu systému
Některé akcelerátory, jako jsou FPGA, nabízejí vysokou výpočetní i energetickou účinnost, díky čemuž jsou vhodné pro flexibilní úkoly zrychlení na okraji sítí. Nasazení urychlovačů umožňuje, aby systémy byly přizpůsobeny pro konkrétní pracovní zátěž, efektivně vyvážení výkonu, energie a nákladů [4] [5].
** 5. Výzvy a řízení na úrovni systému
Heterogenita zavedená akcelerátory vyžaduje pečlivou podporu systému a operačního systému pro efektivní přidělování zdrojů a naplánování úkolů. Správné řízení zajišťuje, že akcelerátory jsou optimálně využívány, a maximalizují své výhody výkonu při zachování stability systému a energetické účinnosti [7].
** 6. Snížení pohybu dat a režie komunikace
U akcelerátorů určených pro úkoly, jako je násobení matice, opětovné použití dat na čipu a efektivní vyrovnávací paměť, snižují potřebu častých převodů dat mezi pamětí a prvky zpracování, což minimalizuje úzká místa pro šířku pásma a náklady na energii spojené s pohybem dat [10].
Stručně řečeno, nasazení urychlovačů zvyšuje výpočetní výkon systému tím, že umožňuje rychlejší a energeticky efektivnější provádění specializovaných úkolů, uvolní zdroje CPU a umožňuje složitější a náročnější pracovní zátěž. To má za následek významné zisky z výkonu a úspory energie, zejména důležité při zabudovaných, okrajových a vysoce výkonných výpočetních prostředích [4] [5] [7] [8] [10].
Citace:
[1] https://www.ultralytics.com/blog/unsteranding-the-impact-of-compute-power-on-ai-inations
[2] https://premioinc.com/blogs/blog/performance-accelerators-in-the-context-of-computing-hardware
[3] http://www.dre.vanderbilt.edu/~gokhale/www/papers/hotedge20_hwaccelreco.pdf
[4] https://www.scientientirect.com/science/article/abs/pii/s006524582300075x
[5] https://cdrdv2-public.intel.com/650470/wp-01112-hw-reduce-power.pdf
[6] https://www.usenix.org/system/files/osdi24-Ma-Jiacheng.pdf
[7] https://scail.cs.wisc.edu/papers/hotpar12_rinnegan.pdf
[8] https://www.appviewx.com/blogs/hardware-cryptographic-accelerators-to-enhance-security-without-showing-gon
[9] https://publications.ics.forth.gr/tech-reports/2018/2018.tr473_accelerator_deployment_models_heterogeneous_processing.pdf
[10] https://pmc.ncbi.nlm.nih.gov/articles/pmc11767631/