Microsoft ha introdotto la serie di macchine virtuali ND H100 v5, che offre alle aziende un’infrastruttura migliorata per l’addestramento e l’esecuzione di modelli generativi di intelligenza artificiale in Azure. Le aziende che si sono iscritte alla lista d’attesa potranno disporre delle macchine virtuali a partire dal prossimo anno.
Secondo Microsoft, le istanze della macchina virtuale ND H100 v5, ora introdotte, dovrebbero facilitare l’addestramento e l’esecuzione di modelli AI (generativi) di grandi dimensioni. Le nuove istanze sono basate sulle GPU H100 di Nvidia con la nuova architettura Hopper. In totale, le istanze hanno a bordo otto di queste GPU specifiche.
Inoltre, le rispettive istanze dispongono anche dei più recenti processori Intel Xeon Scalable di quarta generazione e di una rete a bassa latenza tramite la tecnologia InfiniBand Quatum-1 CX7 di Nvidia.
Altre caratteristiche
Le altre caratteristiche delle istanze includono PCIe Gen5 per una larghezza di banda di 64 GB per GPU e memoria DDR5 per una maggiore velocità di trasferimento dei dati. Quest’ultima dovrebbe accelerare l’addestramento dei modelli di IA più grandi, si pensa.
Le aziende interessate possono mettersi in lista d’attesa per la serie di macchine virtuali ND H100 v5 a partire da oggi. Entro il prossimo anno, centinaia di migliaia di istanze dovrebbero essere disponibili per i clienti che desiderano utilizzarle.
