Bu site, bu sayfadaki bağlantılardan satış komisyonu kazanabilir. Kullanım Şartları. Hot Chips 31 bu hafta birçok şirketten sunumlarla devam ediyor. Intel, şirketin AI bölümüne odaklanan önemli oturumlar da dahil olmak üzere çeşitli ürünleri tartışmak için son derece teknik konferansı kullanmaya karar verdi. AI ve makine öğrenmesi, bilgisayarın geleceği için kritik alanlar olarak görülüyor ve Intel bu alanları Xeon'da DL Boost gibi özelliklerle ele alırken, aynı zamanda pazar için özel hızlandırıcılar oluşturuyor.
NNP-I 1000 (Spring Hill) ve NNP-T (Spring Crest) iki farklı pazar, çıkarım ve eğitim için tasarlanmıştır. “Eğitim”, bir sinir ağını oluşturma ve öğretme işidir, ilk etapta verilerin işlenmesi. Çıkarım, şu anda eğitilmiş olan sinir ağı modelini çalıştırma görevini ifade eder. Bir sinir ağını eğitmek, bu eğitimin sonuçlarını gerçek dünyadaki kategorizasyon veya sınıflandırma görevlerine uygulamaktan daha fazla hesaplama beygir gücü gerektirir.
Intel’in Spring Crest NNP-T’si, işlem performansını artırmak için tensör işleme kabiliyeti, paket içi HBM, ağ kabiliyeti ve kalıp içi SRAM’lar arasında bir denge kurarak, benzeri görülmemiş bir dereceye kadar ölçeklenecek şekilde tasarlanmıştır. Altta yatan çip, TSMC – evet, TSMC – 16nm'de, 680mm2 kalıp boyutu ve 1200mm2 aracıyla üretildi. Tüm montaj, 4x8GB'lık HBM2-2400 bellek yığınına sahip 27 milyar transistör, 1.1 GHz'e kadar çekirdek frekansına sahip 24 Tensör İşleme Kümesi (TPC). Altmış dört SerDes HSIO şeridi 3.58Tbps toplam bant genişliği sağlar ve kart bir x16 PCIe 4.0 bağlantısını destekler. Güç tüketiminin 150-250W arasında olması bekleniyor. Çip, TSMC’nin gelişmiş CoWoS ambalajı (Substrate-Go-on-Substrate) kullanılarak yapıldı ve çeşitli çekirdeklerine dağıtılmış 60 MB önbellek taşıyor. CoWoS, Intel’in EMIB’iyle rekabet ediyor, ancak Intel bu donanımı kendi dökümhanelerini kullanmak yerine TSMC’de kurmaya karar verdi. Performansın 119 TOPS'a kadar olduğu tahmin edilmektedir.
Donanımsal Başkan Yardımcısı Intel KP Next Platform'a, “İhtiyacımız olmayan şeyler için kalıp alanını boşa harcamak istemiyoruz” dedi. “Talimat setimiz basittir; matris çarpımı, lineer cebir, evrişimler. Kendi başına kayıtlarımız yok, her şey bir tensör (2B, 3B veya 4B). ”Yazılımda tanımlanmış olan, bir modeli kırıp kalırken çalıştırmak için aynı programı yapma yeteneği de dahil olmak üzere çok şey var. . Kloss röportajda “Bunu bir hiyerarşi olarak düşünün” dedi. “Verileri, bir HBM'nin yanındaki bir gruptaki iki küme arasında veya gruplar arasında taşımak veya hatta bir ağda ölmek için aynı talimat kümesini kullanabilirsiniz. Yazılımın iletişimi yönetmesini basitleştirmek istiyoruz. ”
Aşağıdaki slayt gösterisi NNP-T mimarisinde ilerliyor. Tüm veriler Intel'e aittir ve şirketin mikro hesaplarında paylaşılan performans değerleri açıkça ExtremeTech tarafından doğrulanmamıştır.
NNP-T, şasiye gerek olmadan etkili bir şekilde dışarı doğru ölçeklenecek şekilde tasarlanmıştır. Birden fazla NNP-T hızlandırıcısı aynı kasada birbirine bağlanabilir ve kartlar şasiden kasaya ve hatta rafa raf tutkalsız bağlantıyı bir anahtara gerek duymadan destekler. Her ara kat kartının arkasında dört adet QFSP (Dörtlü Küçük Form Faktörü Takılabilir) ağ bağlantı noktası vardır.
Henüz performans verisine sahip değiliz, ancak bu, Nvidia'nın beğenilerine karşı rekabet etmek için Intel'in pazarlayacağı en üst seviye eğitim kartı. 2021 yılına kadar veri merkezleri için gönderilmeyen Xe gibi nihai çözümlerin, veri merkezi pazarında hem tensör işleme çekirdeği hem de GPU'ları bulunduğunda, şirketin gelecekteki ürün portföyüne nasıl uyacağı henüz net değil.
Spring Hill / NNP-I: Gemide Buz Tanesi
Spring’in yeni çıkarım hızlandırıcısı Intel’in tamamen farklı bir canavarı. NNP-T, 150-250W güç zarfları için tasarlandığında, NNP-I, M.2 yuvasına takılmak üzere tasarlanmış 10-50W'lık bir parçadır. 12 Inference Compute Engines (ICE) ile eşleştirilmiş iki Icelake CPU çekirdeğine sahiptir.
12 ICE motoru ve çift CPU çekirdeği 24 MB'lık uyumlu L3 ile desteklenir ve hem AVX-512 hem de VNNI komutlarını destekler. Kalıp içi LPDDR4 bellek havuzuna bağlı iki kalıp içi LPDDR4X bellek denetleyicisi var (henüz kapasite hakkında bilgi yok). DRAM bant genişliği 68 GB / sn'ye kadar, ancak toplam kart DRAM miktarı bilinmiyor. Spring Hill, M.2 yuvalarını destekleyen herhangi bir modern sunucuya eklenebilir – Intel'e göre cihaz, NVMe yerine bir PCIe ürünü gibi M.2 yükselticisi üzerinden haberleşiyor.
NNP-I ile amaç, AI işlemcideki işlemleri, sistemdeki birincil CPU'dan daha az ek yük gerektiren işlemleri gerçekleştirmektir. Aygıt PCIe üzerinden bağlanır (hem PCIe 3.0 hem de 4.0 desteklenir) ve AI iş yükünü gerekli işlem için kalıptaki Icelake çekirdeklerini kullanarak işler. Kalıp içi SRAM'ler ve DRAM, yerel bellek bant genişliği sağlar.
Çıkarım Hesaplama Motoru, programlanabilir bir vektör işlemcisi ve her bir ICE için 4 MB SRAM ile FP16'dan INT1'e kadar çeşitli komut formatlarını destekler.
Ayrıca, Deep Learning Compute Grid adlı bir tensör motoru ve Tensilica Vision P6 DSP (sabit fonksiyonlu DL Compute Grid'de çalışmak üzere ayarlanmamış iş yüklerini işlemek için kullanılır) vardır.
NNP-I'in genel bellek alt sistemi de, L3 önbelleği ICE ve CPU çekirdeği arasında paylaşılan sekiz 3 MB'lik dilime bölünerek optimize edilmiştir. Amaç, verileri ihtiyaç duyulan işleme elemanlarına mümkün olduğunca yakın tutmaktır. Intel, 10W TDP'de çalışırken NNP-I'nin saniyede 3.600 çıkarım içeren ResNet50 performansını sağlayabildiğini iddia ediyor. Bu, Intel’in genel verimlilik hedeflerini karşılayan 4.8 TOPS / watt değerinde çalışıyor (şirket, NNP-I’nin düşük sularda en verimli olduğunu iddia ediyor).
Intel, NNP-I'nin perakende pazarına gelmesini beklemiyor, ancak çıkarım çözümleri, üst düzey veri merkezi merkezli eğitim çözümleriyle karşılaştırıldığında hızlı bir iş yapıyor. NNP-I, genel alımlara bağlı olarak çok uzak olmayan bir gelecekte çok çeşitli müşterilere gönderilebilir.
Bu çözümlerin her ikisinin de veri merkezinde Nvidia'yı zorlaması amaçlanıyor. Her ikisi de Xeon Phi’den oldukça farklı olsa da, Intel’in Xeon Phi’yi satmak istediği alanlardan bazılarını farklı şekillerde de olsa toplu olarak hedeflediklerini iddia edebilirsiniz. Bununla birlikte, bunun kötü bir şey olması gerekmez – orijinal Larrabee inşa edildiğinde, AI ve veri merkezi çalışması için GPU'lar kullanma fikri uzak bir kavramdı. Hem çıkarım, hem de eğitim için yeni ve özel bir mimariye sahip olan konuyu tekrar ziyaret etmek, eğer şirket Nvidia'dan uzaklaşabiliyorsa, Intel için akıllı bir hareket.
Şimdi Oku: