Το MLPerf Storage v3.0 προσθέτει ένα επίπεδο δεδομένων S3 στο υπάρχον πλαίσιο POSIX, παράλληλα με νέα workloads KV Cache και βάσεων δεδομένων διανυσμάτων, ευθυγραμμίζοντας στενά τα κριτήρια του benchmark με τις σύγχρονες απαιτήσεις συστημάτων δεδομένων AI.
Αναπτύχθηκε από την MLCommons, το benchmark MLPerf Storage αρχικά αξιολογούσε την απόδοση αποθήκευσης για workloads εκπαίδευσης μηχανικής μάθησης, συμπεριλαμβανομένων των Unet3D, Cosmoflow και Resnet50, χρησιμοποιώντας υλικό GPU NVIDIA A100 και H100. Η έκδοση v3.0 διαθέτει μια ολοκληρωμένη αναδιάρθρωση δοκιμών, επικεντρωμένη σε τέσσερα βασικά σενάρια workload.
Το ενημερωμένο πλαίσιο δοκιμών περιλαμβάνει εκπαίδευση AI βασισμένη σε Unet3D και RetinaNet, η οποία μετρά τη μέγιστη επεκτασιμότητα επιταχυντή διατηρώντας πάνω από 90% χρήση, προσομοιωμένη σε GPU NVIDIA B200 ή AMD MI355. Καλύπτει επίσης το checkpointing για μοντέλα τύπου Llama 3 που κυμαίνονται από 8B έως 1.25T παραμέτρους, δίνοντας προτεραιότητα στη χαμηλή καθυστέρηση για 10 γύρους επαναλαμβανόμενων εγγραφών και αναγνώσεων. Επιπλέον, η σουίτα ενσωματώνει δοκιμές βάσεων δεδομένων διανυσμάτων σε ένα σύνολο δεδομένων Milvus 1 εκατομμυρίου διαστάσεων 1536 για μεγιστοποίηση της απόδοσης ερωτημάτων, παρακολουθώντας παράλληλα την καθυστέρηση και τα ποσοστά ανάκλησης, συν δοκιμές KV cache για την αξιολόγηση της μέγιστης χωρητικότητας υποστήριξης ταυτόχρονων συνομιλιών.
Ο Brian Belgodere, Συμπρόεδρος της Ομάδας Εργασίας MLPerf Storage, δήλωσε ότι το νέο χαρτοφυλάκιο δοκιμών εμπλουτίζει την κάλυψη του benchmark για τις απαιτήσεις αποθήκευσης inference AI της κύριας αγοράς. Η ενημερωμένη σουίτα εξισορροπεί τις δοκιμές εκπαίδευσης και checkpointing που εστιάζουν στην εκπαίδευση με τις αξιολογήσεις KV cache και βάσεων δεδομένων διανυσμάτων που εστιάζουν στο inference. Με τη διάσπαση ολοκληρωμένων συστημάτων AI σε στοχευμένες αξιολογήσεις workload αποθήκευσης, συμπεριλαμβανομένων του checkpointing, του KV caching και της επεξεργασίας ερωτημάτων διανυσμάτων, το benchmark επιτρέπει στους επαγγελματίες του κλάδου να βελτιστοποιούν καλύτερα τις διαμορφώσεις υποδομών AI και να εξαλείφουν τα σημεία συμφόρησης στην απόδοση αποθήκευσης.
Το νεοπροστιθέμενο επίπεδο αποθήκευσης αντικειμένων S3 υποστηρίζει δοκιμές εκπαίδευσης, checkpointing και μερικές δοκιμές βάσεων δεδομένων διανυσμάτων, με περίπου το ένα έκτο όλων των υποβολών v3.0 να υιοθετούν πρόσβαση αποθήκευσης βάσει S3.
Ο Curtis Anderson, άλλος Συμπρόεδρος της Ομάδας Εργασίας, σημείωσε ότι καθώς το πλαίσιο AI κλιμακώνεται σε τρισεκατομμύρια tokens, η αποθήκευση αντικειμένων αναδεικνύεται ως μια βιώσιμη, ακόμη και προτιμότερη εναλλακτική λύση στην παραδοσιακή αποθήκευση συστημάτων αρχείων. Η εγγενής υποστήριξη S3 στο v3.0 παρέχει διαφανή δεδομένα απόδοσης για την καθοδήγηση αποφάσεων ανάπτυξης αποθήκευσης επιχειρήσεων.
Συνολικά 19 προμηθευτές υπέβαλαν αποτελέσματα για αυτόν τον κύκλο benchmark. Αξιοσημείωτο είναι ότι μεγάλοι παραδοσιακοί παίκτες αποθήκευσης επιχειρήσεων, συμπεριλαμβανομένων των DDN, Dell, Huawei, IBM, NetApp, VAST Data και WEKA, απουσίαζαν από τη λίστα υποβολής. Οι αξιωματούχοι της MLPerf σχολίασαν ότι οι παραδοσιακοί προμηθευτές NAS έχουν περιορισμένη συμμετοχή, με τους περισσότερους καθιερωμένους κατόχους να μένουν εκτός του τελευταίου γύρου.
Δεδομένου του διαφοροποιημένου τοπίου αποθήκευσης AI, το v3.0 δεν δημοσιεύει μια ενιαία συνολική κατάταξη. Αντ' αυτού, παρέχει ανεξάρτητα αποτελέσματα για τις τέσσερις κατηγορίες workload με πολυδιάστατες μετρικές. Το πλήρες σύνολο δεδομένων αποτελεσμάτων εκτείνεται σε περίπου 145 γραμμές και 55 στήλες, συνολικά σχεδόν 8.000 κελιά δεδομένων, με 12 αποκλειστικές στήλες αποκλειστικά για μετρικές απόδοσης KV cache. Αυτές καλύπτουν την απόδοση, το εύρος ζώνης ανάγνωσης/εγγραφής και την καθυστέρηση P95 τόσο σε αρχιτεκτονικές μόνο αποθήκευσης όσο και σε αρχιτεκτονικές αποθήκευσης+μνήμης για workloads μοντέλων Llama 8B και 70B.
Η MLCommons συνιστά επίσης τυποποιημένη αξιολόγηση απόδοσης βάσει πυκνότητας ανά rack και ενεργειακής απόδοσης ανά watt για τη μέτρηση της συνολικής λειτουργικής αποτελεσματικότητας της υποδομής.
Η ενημερωμένη σουίτα benchmark διαθέτει εξαιρετικά σύνθετη λογική αξιολόγησης, επιτρέποντας στους προμηθευτές να υποβάλλουν επιλεκτικά αποτελέσματα για στοχευμένα workloads. Για παράδειγμα, μόνο οι NewFW, Samsung, Suzhou Zishan και TTA υπέβαλαν αποτελέσματα δοκιμών βάσεων δεδομένων διανυσμάτων.
Η Everpure ανέφερε κορυφαία απόδοση για το FlashBlade//EXA σε δοκιμές checkpointing και KV cache για μοντέλα 405B και 1.25T παραμέτρων. Αναπτυγμένη σε 30 κόμβους δεδομένων για την υποστήριξη 1.024 προσομοιωμένων επιταχυντών, η πλατφόρμα πέτυχε εύρος ζώνης εγγραφής 877,52 GiB/s (ολοκλήρωση 17,74 δευτ.) και εύρος ζώνης ανάγνωσης 588,28 GiB/s (ολοκλήρωση 28,99 δευτ.) για checkpointing μοντέλου 1.25T. Η απόδοσή της κλιμακώθηκε γραμμικά από απόδοση εγγραφής 327,65 GiB/s σε 10 κόμβους στο μέγιστο αποτέλεσμα 30 κόμβων.
Συμπληρωματικά δεδομένα δείχνουν ότι οι υποβολές εγγραφής checkpoint εντός των εγκαταστάσεων παρείχαν μέση ενεργειακή απόδοση 14 GB/s ανά watt, με μέγιστο 201 GB/s ανά watt. Εν τω μεταξύ, οι δοκιμές ανάγνωσης UNet3D κατέγραψαν μέση απόδοση 34 GB/s ανά watt και μέγιστο 277 GB/s ανά watt.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Επιχειρηματική Εστίαση:
Διανομή Προϊόντων ICT/Ολοκλήρωση Συστημάτων & Υπηρεσίες/Λύσεις Υποδομών
Με πάνω από 20 χρόνια εμπειρίας στη διανομή IT, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
“Χρησιμοποιώντας την Τεχνολογία για την Οικοδόμηση ενός Έξυπνου Κόσμου”Ο Αξιόπιστος Πάροχος Υπηρεσιών Προϊόντων ICT!
Το μήνυμά σας πρέπει να αποτελείται από 20-3.000 χαρακτήρες!
Greek
