Recensione NVIDIA L4 da 24 GB La versatile scheda di inferenza AI

Aug 03, 2023

Oggi facciamo una recensione divertente, dando un'occhiata a NVIDIA L4. Sebbene non sia affatto la GPU più veloce di NVIDIA, la L4 diventerà una scheda popolare. Lo sappiamo, perché è effettivamente un aggiornamento di NVIDIA Tesla T4 (allora erano ancora marchiati "Tesla") che abbiamo recensito nel 2019. NVIDIA T4 è stato molto popolare e ci aspettiamo che l'L4 lo sia altrettanto, basandosi su un formato collaudato.

Prima di passare alla revisione, volevamo solo ringraziare brevemente PNY per averci effettivamente fornito una carta per la revisione. Le GPU NVIDIA sono molto popolari e PNY è il principale partner di NVIDIA per le schede professionali. Detto questo, passiamo all'hardware.

La NVIDIA L4 è una GPU a basso profilo e a mezza altezza. Questa è forse la caratteristica più importante della scheda poiché ne consente l'installazione su tutti i tipi di server.

La piastra posteriore è un'altra piccola ma importante caratteristica. Questi vengono spesso installati nei montanti che vengono rimossi per la manutenzione. La piastra posteriore aiuta a garantire che la carta rimanga al sicuro durante il servizio.

Con Ampere di NVIDIA e gli elementi di design successivi, la carta oro è facilmente riconoscibile. Il raffreddamento passivo sulla scheda a basso consumo aiuta inoltre a garantire che possa essere utilizzata in un'ampia gamma di sistemi poiché può utilizzare solo il flusso d'aria del telaio.

Poiché si tratta di una GPU progettata principalmente per l'inferenza dell'intelligenza artificiale (sebbene esistano altri casi d'uso della GPU del data center che supporta), non disponiamo di output di visualizzazione. Poiché queste schede sono densamente imballate nei server a causa delle loro dimensioni ridotte, avere più output di visualizzazione può essere un problema in alcuni sistemi operativi, come abbiamo riscontrato molti anni fa con sistemi GPU 8x.

Il nuovo design presenta fori di montaggio per la staffa di ritenzione sulla parte anteriore della scheda. Un elemento che non è presente è un connettore di alimentazione della GPU. Essere alimentati esclusivamente da slot PCIe è un'altra caratteristica che aiuta questa classe di GPU a essere facilmente integrata in molti tipi di server.

Successivamente, data la popolarità di NVIDIA (Tesla) T4, abbiamo voluto fare un rapido confronto in modo da poter vedere le differenze dato che la facilità di integrazione nei server è una caratteristica importante.

Ecco le due carte. Non avevamo un T4 con staffa a basso profilo. I quattro che abbiamo trovato erano tutti a tutta altezza. Le staffe a basso profilo sono state tutte installate nei data center.

Ecco il lato posteriore. Possiamo vedere che NVIDIA L4 ha molto meno marchio NVIDIA rispetto al vecchio "NVIDIA Tesla T4".

Entrambi hanno dimensioni simili, tuttavia, le nervature sulla L4 sembrano rendere la parte anteriore della carta leggermente più ampia.

Ecco uno sguardo alla visualizzazione del flusso d'aria se può essere d'aiuto. Si può vedere che la nuova scheda ha una soluzione termica migliorata.

Successivamente, passiamo alle specifiche chiave e poi alle prestazioni e alla potenza.