Dalam acara Intel Vision, Intel mengumumkan akselerator Habana Gaudi2 7nm dan Greco Deep Learning generasi terbaru. Kedua perangkat ini menawarkan hingga 2x kinerja throughput dibandingkan GPU Ampere A100 NVIDIA.
Akselerator Deep Learning terbaru untuk pusat data ini dirancang oleh intel di Intel Habana Labs. Kedua produk ini adalah platform Deep Learning (DL) khusus terbaru, yang menawarkan persentase tinggi dari pelatihan dan/atau inferensi DL.
Prosesor Habana Gaudi generasi terbaru ini menggunakan teknologi fabrikasi 7nm, yang kemungkinan dibuat oleh TSMC atau Intel. Dengan teknologi fabrikasi ini, pengguna akan mendapatkan performa dan efisiensi daya yang lebih baik.
Gaudi2 memiliki 24 TPC untuk decode dan pemrosesan media yang berjalan pada format FP8, dimana naik dari 8 TPC di seri pendahulunya. Pengguna juga mendapatkan memory HBM2e 96GB, yang menawarkan bandwidth 2,45 TB/2 dan tambahan SRAM 48 MB, namun memiliki TDP 600W.
Dalam hal kinerja, throughput pelatihan ResNet-50 menunjukkan peningkatan 1,9x untuk akselerator Intel Habana Gaudi2 dibandingkan satu GPU A100 80 GB. Dalam Pelatihan Fase-1 NLP BERT, chip memiliki throughput 1,7x dan throughput 2,8x dalam pelatihan Fase-2.
Terakhir, Intel juga menyusun perbandingan throughput pelatihan BERT yang menunjukkan peningkatan 2.0x untuk Gaudi2 atas pesaingnya, NVIDIA A100. Secara keseluruhan, akselerator baru menawarkan penghematan biaya pelatihan hingga 75% dibandingkan solusi NVIDIA.
Ada juga Intel Habana Greco yang merupakan inferensi pembelajaran mendalam yang dirancang untuk efisiensi puncak dan juga didasarkan pada node proses 7nm yang sama. Akselerator menawarkan memori 16 GB dengan memori LPDDR5 240 GB/s dan tambahan 128 MB SRAM on-chip.
Kemampuan komputasi mencakup format BF16, FP16, dan INT4 untuk dekode dan pemrosesan media. Sementara untuk TDP, perangkat yang satu ini akan memiliki TDP 75W saja.
Dan untuk form factor, Gaudi2 menggunakan sistem modul OAM, sedangkan Greco hadir dalam faktor bentuk HHHL slot tunggal. Karena TDP-nya dinilai pada 75W, Greco tidak perlu konektor daya eksternal.
Intel juga telah mengumumkan bahwa prosesor 7nm Gaudi2 tersedia untuk pelanggan mulai sekarang, sementara Greco akan mengambil sampel untuk pelanggan tertentu pada paruh kedua tahun 2022.
