Greek
Η πλατφόρμα που επιλέχθηκε για αυτή τη δουλειά ήταν το Dell PowerEdge R760 μας που τρέχει Ubuntu 22.04.02 LTS. Χρησιμοποιήσαμε την έκδοση 2.0 του δείκτη αναφοράς DLIO από την έκδοση 13 Αυγούστου 2024. Η διαμόρφωση του συστήματος μας περιγράφεται παρακάτω:
- 2 x Intel Xeon Gold 6430 (32-Core, 2.1GHz)
- 16 x 64GB DDR5-4400
- 480GB Dell BOSS SSD
- Συριακά καλώδια Gen5 JBOF
- 7.68TB Solidigm D7-PS1010
- 61.44TB Solidigm D5-P5336
Για να διασφαλίσουμε ότι η συγκριτική αξιολόγηση αντανακλά σενάρια του πραγματικού κόσμου, βασίσαμε τις δοκιμές μας στην αρχιτεκτονική μοντέλου LLAMA 3.1 405B, εφαρμόζοντας σημεία ελέγχου μέσω torch.save() για τη συλλογή παραμέτρων μοντέλου,καταστάσεις βελτιστοποιητήΗ εγκατάστασή μας προσομοίωσε ένα σύστημα 8-GPU, εφαρμόζοντας μια υβριδική στρατηγική παράλληλου με 4-οδική παράλληλη τεντήρα και 2-οδική παράλληλη επεξεργασία αγωγού κατανεμημένη σε οκτώ GPUs.Αυτή η διαμόρφωση είχε ως αποτέλεσμα μεγέθη σημείων ελέγχου 1.636 GB, αντιπροσωπευτικά των σύγχρονων απαιτήσεων κατάρτισης μεγάλων γλωσσικών μοντέλων.
Η διαδικασία δοκιμών για το DLIO checkpoint workload συνίσταται στο να γεμίζουμε κάθε δίσκο σε παρόμοιο επίπεδο αξιοποίησης.συνολικού ύψους 54 TBΤο μικρότερο 7,68TB D7-PS1010 χωρά άνετα σε τρία διαστήματα σημείων ελέγχου, με συνολικό αποτύπωμα 4,9TB. Ένα επιπλέον σημείο ελέγχου θα μπορούσε να χωρέσει στο D7-PS1010,Παρόλο που έφερε τη χρήση του λίγο υψηλότερο από ό, τι θέλαμε.
Ο φόρτος εργασίας του σημείου ελέγχου DLIO έδωσε ενδιαφέροντα αποτελέσματα όταν συγκρίναμε το Gen4 QLC-based 61.44TB D5-P5536 με το Gen5 TLC-based 7.68TB D7-PS1010.Παρατηρήσαμε ένα ευρύτερο χάσμα στην απόδοση μεταξύ των δύο μοντέλων SSDΤο γρηγορότερο Gen5 PS1010 ολοκλήρωσε κάθε σημείο ελέγχου κατά μέσο όρο σε 464 δευτερόλεπτα, σε σύγκριση με 623 δευτερόλεπτα από το Gen4 P5336.το κενό μειώθηκε σε 579 και 587 δευτερόλεπτα για το PS1010 και 676 και 680 δευτερόλεπτα για το P5336.
Για τις επιχειρήσεις που επιθυμούν να έχουν το μικρότερο δυνατό κενό στα διαστήματα ελέγχου, το Gen5 PS1010 βασισμένο στο TLC προσφέρει πλεονέκτημα στον ταχύτερο χρόνο ολοκλήρωσης.Εάν ο στόχος είναι να διατηρηθούν πολλά σημεία ελέγχου με οικονομικά αποδοτικό τρόποΜέτρησαν μια διαφορά σε μέσο χρόνο σημείου ελέγχου μικρότερη από 17% μεταξύ των δύο οχημάτων κατά τη διάρκεια των περάσεων δύο και τρία.
GPUDirect εύρος ζώνης αποθήκευσης
Ενώ το DLIO δείχνει τις επιδόσεις flash σε μια ροή εργασίας AI, το φορτίο εργασίας βασίζεται εξ ολοκλήρου στη γραφή μέχρι να αποκατασταθεί ένα σημείο ελέγχου.Για να ζωγραφίσει μια πιο πλήρη εικόνα του Solidigm D7-PS1010 και D5-P5336 σε φορτία εργασίας AI, συμπεριλάβαμε μετρήσεις εύρους ζώνης ανάγνωσης χρησιμοποιώντας GDSIO.
Πώς λειτουργεί η άμεση αποθήκευση GPU
Παραδοσιακά, όταν μια GPU επεξεργάζεται δεδομένα που αποθηκεύονται σε μια μονάδα NVMe, τα δεδομένα πρέπει πρώτα να ταξιδέψουν μέσω της CPU και της μνήμης του συστήματος πριν φτάσουν στην GPU.καθώς η CPU γίνεται ένας μεσάζωνΗ GPU Direct Storage εξαλείφει αυτή την αναποτελεσματικότητα επιτρέποντας στην GPU να έχει πρόσβαση σε δεδομένα απευθείας από τη συσκευή αποθήκευσης μέσω της λεωφορείας PCIe.Αυτή η άμεση διαδρομή μειώνει το υπερχρέωμα που σχετίζεται με την κίνηση δεδομένων, επιτρέποντας ταχύτερες και αποτελεσματικότερες μεταφορές δεδομένων.
Η εκπαίδευση μεγάλων νευρωνικών δικτύων απαιτεί την επεξεργασία τεραβάιτ δεδομένων,και οποιαδήποτε καθυστέρηση στη μεταφορά δεδομένων μπορεί να οδηγήσει σε ελλιπή χρήση των GPU και μεγαλύτερο χρόνο εκπαίδευσηςΗ άμεση αποθήκευση GPU αντιμετωπίζει αυτή την πρόκληση εξασφαλίζοντας ότι τα δεδομένα παραδίδονται στην GPU όσο το δυνατόν γρηγορότερα, ελαχιστοποιώντας τον χρόνο αδρανείας και μεγιστοποιώντας την υπολογιστική απόδοση.
Όπως και το τεστ DLIO, ο στόχος είναι να κατανοήσουμε καλύτερα και να χαρακτηρίσουμε τις διαφορές μεταξύ των SSD υψηλής ταχύτητας Gen5 και των QLC υψηλής χωρητικότητας.και κάθε κίνηση προσφέρει ξεχωριστά πλεονεκτήματα, ανάλογα με την ανάγκη.
Δοκιμαστική μήτρα διαμόρφωσης
Εξετάσαμε συστηματικά κάθε συνδυασμό των ακόλουθων παραμέτρων με ένα NVIDIA L4 στην πλατφόρμα δοκιμών μας:
- Μέγεθος μπλοκ: 1M, 128K, 64K, 16K, 8K
- Αριθμός νήματος: 128, 64, 32, 16, 8, 4, 1
- Αριθμός θέσεων εργασίας: 16
- Μέγεθος παρτίδας: 16
Η πρώτη μας ματιά ήταν στο QLC βασισμένο D5-P5336, το οποίο κορυφώθηκε στα 4.2GiB/s χρησιμοποιώντας ένα μέγεθος μεταφοράς 1M σε βάθος IO 128.Μεταβαίνει από 8K σε 1MΤο πλεονέκτημα του αυξημένου βάθους IO άρχισε να μειώνεται στα 32, όπου τα φορτία εργασίας άρχισαν να ισορροπούν.
Στη συνέχεια, κοιτάζουμε το Gen5 PS-1010, το οποίο μπορεί να κλιμακωθεί έως 6,2GiB / s σε μέγεθος μπλοκ 1M και βάθος IO 128.με ιδιαίτερα φορτία εργασίας που αποδεικνύουν σημαντική ανύψωσηΈνας αξιοσημείωτος τομέας βελτίωσης ήρθε στο μέγεθος μπλοκ 128K, όπου σε βάθος IO 64 και 128, το PS1010 προσέφερε διπλάσιο εύρος ζώνης ανάγνωσης από το P5336.
Είναι σημαντικό να σημειωθεί ότι και τα δύο SSD δοκιμάστηκαν χρησιμοποιώντας το NVIDIA L4.τα υψηλότερα μοντέλα NVIDIA GPUs όπως το H100 απέδειξαν υψηλότερη απόδοση με το D7-PS1010Η ταχύτητα της οδήγησης είναι ο τελικός καθοριστικός παράγοντας για ορισμένους πελάτες, ενώ άλλοι δίνουν προτεραιότητα στη συνολική πυκνότητα.Σολιδιγμόςπαρέχει λύσεις γιακαι τα δύο, με τοΠροσφορές QLC και TLC SSD.
Συμπεράσματα
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμουΟ αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!