Donanım hızlandırıcılarının dağıtılması, genel amaçlı CPU'dan bu görevler için tasarlanmış özel donanım birimlerine belirli, hesaplama açısından yoğun görevleri boşaltarak bir sistemin hesaplama gücünü önemli ölçüde artırır. Bu, sistem performansı ve verimliliği üzerinde birkaç temel etkiye yol açar:
** 1. Paralellik ve uzmanlık yoluyla artan performans
Hızlandırıcılar, paralellik ve özel devrelerden yararlanarak belirli işlemleri CPU'lardan çok daha hızlı yürütmek üzere tasarlanmıştır. Örneğin, donanım şifreleme hızlandırıcıları, birçok kriptografik işlemi aynı anda işleyebilir ve görevleri sırayla işleyen bir CPU'dan çok daha hızlı bir şekilde tamamlayabilir. Bu uzmanlık, hızlandırıcıların hedef iş yükleri için dramatik hızlandırmalar sağlamasına izin verir, genellikle sadece CPU'ya kıyasla büyüklük siparişlerine göre performansı artırır [8] [5] [7].
** 2. Geliştirilmiş enerji verimliliği
Donanım eklemenin güç tüketimini artırdığı geleneksel inancının aksine, dikkatlice tasarlanmış hızlandırıcılar genel sistem gücünü azaltabilir. Bunun nedeni, hızlandırıcıların operasyonları daha verimli bir şekilde gerçekleştirebilmesi, daha az saat döngüsü gerektirebilmesi ve performansı korurken veya iyileştirirken sistemin daha düşük saat frekanslarında çalışmasına izin verebilmesidir. Örneğin, gömülü bir sisteme hızlandırıcılar eklemek, daha düşük çalışma frekansları ve daha verimli hesaplamalar sağlayarak yaklaşık 90 kat, yaklaşık 90 kat azaltılmış ve güç tüketimini önemli ölçüde azaltmıştır [5].
** 3. CPU iş yükünü boşaltma ve daha karmaşık uygulamaların etkinleştirilmesi
Kriptografik işleme, matris çarpımı veya makine öğrenimi çıkarımları gibi özel görevleri ele alarak, hızlandırıcılar CPU'yu diğer sistem işlevlerine odaklanmak için serbest bırakır. Bu boşaltma sadece genel verimi arttırmakla kalmaz, aynı zamanda ana işlemciyi aşırı yüklemeden daha gelişmiş özelliklerin ve karmaşık uygulamaların entegrasyonunu da sağlar [8].
** 4. Sistem tasarımında esneklik ve uyarlanabilirlik
FPGA'lar gibi bazı hızlandırıcılar hem yüksek hesaplama gücü hem de enerji verimliliği sunar, bu da onları ağların kenarındaki esnek hızlanma görevleri için uygun hale getirir. Hızlandırıcıların dağıtılması, sistemlerin belirli iş yükleri için uyarlanmasına, performansı, gücü ve maliyet kısıtlamalarını etkili bir şekilde dengelemesini sağlar [4] [5].
** 5. Zorluklar ve sistem düzeyinde yönetim
Hızlandırıcılar tarafından getirilen heterojenlik, kaynakları verimli bir şekilde tahsis etmek ve görevleri planlamak için dikkatli sistem ve işletim sistemi desteği gerektirir. Uygun yönetim, hızlandırıcıların en uygun şekilde kullanılmasını sağlar ve sistem kararlılığını ve güç verimliliğini korurken performans avantajlarını en üst düzeye çıkarır [7].
** 6. Veri hareketinin ve iletişim genel giderlerinin azaltılması
Matris çarpımı, çip üzerindeki veri yeniden kullanımı ve verimli tamponlama gibi görevler için tasarlanan hızlandırıcılarda, bellek ve işleme öğeleri arasında sık veri transferleri ihtiyacını azaltarak, bant genişliği darboğazlarını ve veri hareketiyle ilişkili enerji maliyetlerini en aza indirir [10].
Özetle, hızlandırıcıların dağıtılması, özel görevlerin daha hızlı, daha fazla enerji tasarruflu yürütülmesini, CPU kaynaklarını serbest bırakarak ve daha karmaşık ve zorlu iş yüklerine izin vererek bir sistemin hesaplama gücünü geliştirir. Bu, özellikle gömülü, kenar ve yüksek performanslı bilgi işlem ortamlarında önemli olan önemli performans kazanımları ve güç tasarrufu ile sonuçlanır [4] [5] [7] [8] [10].
Alıntılar:
[1] https://www.ultralytics.com/blog/understanding-the-impact-of-compute-wower-on-ai-innovations
[2] https://premioinc.com/blogs/blog/performance-accelerors-in-the-thext-fomputing-hardware
[3] http://www.dre.vanderbilt.edu/~gokhale/www/papers/hotedge20_hwaccelreco.pdf
[4] https://www.scientiendirect.com/science/article/abs/pii/s006524582300075x
[5] https://cdrdv2-public.intel.com/650470/wp-01112-hw-reduce-power.pdf
[6] https://www.usenix.org/system/files/osdi24-ma-jiacheng.pdf
[7] https://scail.cs.wisc.edu/papers/hotpar12_rinnegan.pdf
[8] https://www.appviewx.com/blogs/hardware-rptphographic-acelerators-to-enhance-without-slowing down/
[9] https://publications.ics.forth.gr/tech-reports/2018/2018.tr473_accelerator_deployment_models_heterogeneous_processing.pdf
[10] https://pmc.ncbi.nlm.nih.gov/articles/pmc11767631/