εταιρικά νέα για Αποθηκευτικός χώρος κρυφής μνήμης OceanStor KV της Huawei για κέντρα δεδομένων AI υπερ-κλίμακας

Η Huawei ανακοίνωσε το OceanStor M900, ένα κλιμακωτό, πλήρως flash storage cluster που παρέχει έως και 64 PB KV cache base tier για τα Atlas 960 SuperPoDs.επιταχυντές τεχνητής νοημοσύνης σε κλίμακα ράφους συγκρίσιμα με τα SuperPOD της Nvidia.

Η Nvidia έχει καθορίσει ένα σχεδιασμό αναφοράς που ενσωματώνει τις GPU, τις BlueField NIC, τους διακόπτες Spectrum-X και το λογισμικό AI με συστήματα αποθήκευσης, υποστηρίζοντας GPUDirect, RDMA,και επέκταση KV cache μέσω του λογισμικού Dynamo και CMXΑυτή η πολυεπίπεδη αρχιτεκτονική χρησιμοποιεί τη μνήμη υψηλού εύρους ζώνης (HBM) της GPU ως την ταχύτερη ανώτερη βαθμίδα, ακολουθούμενη από τους σχετικούς διακομιστές X86 ως επίπεδο 2, τα τοπικά SSD των διακομιστών ως επίπεδο 3,και έξυπνα SSD NVMe συνδεδεμένα με BlueField-4 NIC μέσα σε διακομιστή αποθήκευσης flash που χρησιμεύει ως L3.5Αυτά μπορούν να φθάσουν σε ένα HBM της GPU σε ένα μόνο hop δικτύου με καθυστέρηση κλάσης μικροδευτερόλεπτου.

Η Huawei αμφισβητεί τώρα το σχεδιασμό SuperPOD της Nvidia με τα δικά της SuperPoD που κατασκευάστηκαν για τα κέντρα δεδομένων AI υπερκείλισης.που σημαίνει ότι μια μνήμη υψηλού εύρους ζώνης ενός επιταχυντή δεν μπορεί να διατηρήσει όλα τα απαιτούμενα σήματα κλειδί-αξίας, που απαιτεί μηχανισμό αποθήκευσης σε αποθήκευση.

Η εταιρεία δηλώνει ότι ένα Atlas 960E SuperPoD μπορεί να κλιμακωθεί μέχρι 4.096 NPUs (Neural Processing Units), παρέχοντας 8 EFLOPS της απόδοσης υπολογισμού FP8,έως 1 petabyte χωρητικότητας HBM και 256 TB ενιαίας μνήμηςΗ ανάπτυξη 5.500 μονάδων Hi-ONE εξοπλισμένων με UnifiedBus (NPO) μειώνει την κατανάλωση ενέργειας κατά 550 κιλοβάτ σε σύγκριση με τις 48.000 οπτικές ενότητες 800G που απαιτούνται παραδοσιακά για τη διασύνδεση όλων των NPU.Επίσης, διπλασιάζει τον χρόνο λειτουργίας του συστήματος χωρίς σφάλματα και φτάνει το 99%.0,8% διαθεσιμότητα συστήματος.

Huawei OceanStor M900
Το SuperPoD υιοθετεί ένα πολυεπίπεδο πλαίσιο αποθήκευσης KV, όπου το M900 παρέχει KV cache σε κλίμακα petabyte για το στρώμα L3.5.5 KV χωρητικότητα μνήμης cache και 40 TB/sec συνολικού εύρους ζώνης μέσω οπτικών δικτύων για το επίπεδο αυτόΗ Huawei ισχυρίζεται ότι υπό τυπικά φορτία εργασίας συμπεράσματος τεχνητής νοημοσύνης,Αυτή η αρχιτεκτονική διπλασιάζει την απόδοση του token του συμπτωματικού cluster και μειώνει το χρόνο μέχρι το πρώτο token (TTFT) στο μισό.

Η εταιρεία σημειώνει ότι το εύρος ζώνης 40 TB / s είναι 1,5 φορές υψηλότερο από τις ανταγωνιστικές λύσεις, χωρίς να ονομάζει ρητά τους προμηθευτές.Συστήματα δεδομένων MinIO και VAST των οποίων το εύρος ζώνης των συστάσεων κυμαίνεται μεταξύ 10·25 TB/sec.

Το M900 διαθέτει ένα ολοκληρωμένο σχεδιασμό που συνδυάζει CPU, ελεγκτή δικτύου και ελεγκτή NAND σε μία μονάδα, επιτρέποντας στα SuperPoD NPU να δημιουργήσουν άμεση σύνδεση με SSD.Αυτό μειώνει την καθυστέρηση πρόσβασης από χιλιοστά του δευτερολέπτου σε περίπου 60 μικροδευτερόλεπτα.

Ο David Wang, αναπληρωτής πρόεδρος του διοικητικού συμβουλίου και περιστρεφόμενος πρόεδρος της Huawei, δήλωσε: "Το OceanStor M900 χρησιμοποιεί επίσης υβριδικά μέσα και έναν βελτιστοποιημένο αλγόριθμο διατήρησης, επεκτείνοντας τη διάρκεια ζωής ανάγνωσης / εγγραφής SSD κατά 16 φορές.Αυτό εξασφαλίζει υψηλότερο ποσοστό επιτυχίας KV cache παράλληλα με μακροπρόθεσμη σταθερότητα και αξιοπιστία από την αρχή. ̇

Σε περαιτέρω λεπτομέρειες, η Huawei αναφέρει ότι το M900 διαθέτει τεχνολογία προσαρμοστικής αποθήκευσης KV που προβλέπει την αναμενόμενη διάρκεια ζωής και την αξία κάθε τμήματος δεδομένων KV cache.προγραμματίζει και διανέμει δεδομένα σε διαφορετικά επίπεδα μέσων ενημέρωσηςΗ Huawei αναφέρει ότι αυτή η βελτιστοποιημένη στρατηγική τοποθέτησης και διατήρησης επιτρέπει στα SSD να διατηρούν έως και 24 εγγραφές δίσκου την ημέρα (DWPD), ένα ιδιαίτερα υψηλό ποσοστό.και αυξάνει την αντοχή του SSD 16 φορές, υποστηρίζοντας τρία χρόνια σταθερής λειτουργίας με λιγότερες αντικαταστάσεις κινητήρων.

Είναι πολύ νωρίς για την Huawei να δημοσιεύσει δελτία δεδομένων M900 και τεχνικές ενημερώσεις, οπότε λεπτομέρειες όπως το μέγεθος μονάδας σταθμού κόμβων, ελεγκτές, ποσότητα κινήτρων και χωρητικότητα,αριθμός κόμβων ομάδας και άλλες προδιαγραφές δεν είναι ακόμη διαθέσιμες.

Εθνικό Πρωτοδικείο Σημείωση παρακάτω
Οι NPU είναι Huawei Ascend Neural Processing Units οι οποίες, σύμφωνα με την Huawei, είναι κατασκευασμένες εγγενώς για την AI (σε αντίθεση με τις GPU που προέρχονται από τσιπ γραφικών).Υιοθετούν την αρχιτεκτονική Da Vinci της Huawei με πυρήνες Cube (ματρίκας) και πυρήνες Vector, και υποστηρίζουν μορφές χαμηλής ακρίβειας, συμπεριλαμβανομένων των FP8 και FP4, για την επιτάχυνση της συμπεράσεως και της εκπαίδευσης για μεγάλα μοντέλα.Μπορούν να κλιμακωθούν σε χιλιάδες ή ακόμη και εκατοντάδες χιλιάδες NPUs που λειτουργούν ως μία λογική μηχανήΠρόσφατες προσφορές όπως το Atlas 350 (χρησιμοποιώντας το Ascend 950PR) και τα επερχόμενα Atlas 960 SuperPoDs τοποθετούνται ως εναλλακτικές λύσεις στις GPU της Nvidia στην κινεζική αγορά.

Πεκίνο Qianxing Jietong Technology Co., Ltd.
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
“Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμου”Ο αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!