Ο προμηθευτής τεχνολογίας Meta και CXL Panmnesia λέει ότι τα κέντρα δεδομένων τεχνητής νοημοσύνης πρέπει να θεωρούνται ως ένας ενιαίος συντονισμένος πόρος επεξεργασίας, όχι ως ένα συγκροτημένο σύνολο ανεξάρτητων διακομιστών.
Το κέντρο δεδομένων τεχνητής νοημοσύνης θα πρέπει να είναι ένας στενά συνδεδεμένος πόρος, με ένα μόνο τομέα συνοχής, όπως ένα τσιπ CPU.που έχουν πολλά πεδία συνοχήςΤα κέντρα δεδομένων τεχνητής νοημοσύνης μπορούν να εκτελέσουν μια μόνο εργασία σε εκατοντάδες, ακόμη και χιλιάδες, GPUs, περίπου παρόμοιο με ένα φορτίο υπολογιστών υψηλής απόδοσης που περιλαμβάνει συντονισμένους πυρήνες επεξεργαστών,μνήμη και συνδέσεις δικτύου.
Η Panmnesia και η Meta έχουν προτείνει από κοινού μια αρχιτεκτονική κέντρου δεδομένων AI επόμενης γενιάς όπως αυτή, στην οποία το κέντρο δεδομένων λειτουργεί σαν ένα μόνο τσιπ.ένα περιοδικό Nature Portfolio.
Μιονγκσου Τζουνγκ
Ο Myoungsoo Jung, Διευθύνων Σύμβουλος της Panmnesia, δήλωσε:Η ικανότητα σύνδεσης μεγάλου αριθμού επιταχυντών και συσκευών μνήμης γρήγορα και αποτελεσματικά γίνεται εξίσου σημαντική με την απόδοση των μεμονωμένων επιταχυντώνΗ έρευνα αυτή περιγράφει μια κατεύθυνση για την επόμενη γενιά υποδομών τεχνητής νοημοσύνης, όπου η CXL επιτρέπει σε ολόκληρο το κέντρο δεδομένων να λειτουργεί ως ένα ενιαίο σύστημα υπολογιστών.
Τα συστατικά στοιχεία σε ένα ενιαίο τσιπ επεξεργασίας, πυρήνες κλπ. σχεδιάζονται και τοποθετούνται έτσι ώστε να έχουν ομοιόμορφα μονοπάτια συνδέσεων σε ένα ενιαίο τομέα συνοχής και να εκτελούν τη δουλειά τους σε χρονοδιαγράμματα,συντονισμένο και ελεγχόμενο τρόποΑντίθετα, τα υφιστάμενα κέντρα δεδομένων διαθέτουν επεξεργαστές διακομιστών και αποθήκευση σε ράφια ράφων με συνδέσμους δικτύου και διακόπτες εντός και μεταξύ των ράφων.Δεν υπάρχει δομή ελέγχου έτσι ώστε η επεξεργασία του διακομιστή να συντονίζεται.
Κέντρο δεδομένων σαν τσιπ
Η Panmnesia λέει: "Στα σημερινά κέντρα δεδομένων, οι επιταχυντές μέσα σε ένα ράκ συνδέονται με ταχείς διασυνδέσεις κλίμακας,ενώ οι συνδέσεις που εγκαταλείπουν το ράκ και οι συνδέσεις με συσκευές άλλες από τους επιταχυντές εξαρτώνται από αργότερα δίκτυα κλιμάκωσηςΟι μετρήσεις αυτών των περιβάλλοντων δείχνουν βαριά κατανομή καθυστέρησης, με 99ο εκατοστιαίο καθυστέρηση γυρισμού περίπου πέντε φορές το μέσο όρο.Όσο περισσότερες συσκευές συμμετέχουν, τόσο πιο συχνά και πιο σοβαρά εμφανίζεται.
Για να λειτουργήσει αποτελεσματικά και γρήγορα ένα κέντρο δεδομένων τεχνητής νοημοσύνης, πρέπει να υπάρχει έλεγχος και συντονισμός τόσο στο rack όσο και μεταξύ των racks των GPU, της μνήμης και της αποθήκευσης τους.,Η μείωση της διακύμανσης της καθυστέρησης μεταξύ των συσκευών, έτσι ώστε το κέντρο δεδομένων στο σύνολό του να συμπεριφέρεται προβλέψιμα, είναι εξίσου σημαντική με τη βελτίωση της απόδοσης των μεμονωμένων συσκευών ή της ταχύτητας σύνδεσης.
Πανμνησία LAU
Η Meta και η Panmnesia προτείνουν να χρησιμοποιηθεί το CXL, ως βάση για αυτό, με νέες έννοιες που του επιτρέπουν να λειτουργεί σε επίπεδο πολυ-GPU-rack.Η επεκταμένη CXL παρέχει συνοχή cache μεταξύ των ράφων επιταχυντών στο σχήμα τους, που υποστηρίζει μεγαλύτερο αριθμό συσκευών από τις συσκευές Nvidia's rack-scale, NVLink-based GB200 NVL72 και UALink.
Αυτό ορίζει τους βασικούς κανόνες για τη σύνδεση συσκευών μεταξύ τους, αλλά όχι τη δρομολόγηση δεδομένων και την καθυστέρηση.
Με υψηλό ρυθμό εκτόξευσης χωρίς μπλοκάρισμα: συνδέει πολλές συσκευές ταυτόχρονα, μειώνοντας τον αριθμό των hops και διατηρώντας τα ίδια μήκη διαδρομής ανεξάρτητα από την πηγή.
Μονάδα επιτάχυνσης σύνδεσης (LAU): μετακινεί την επαναλαμβανόμενη επεξεργασία πρωτοκόλλου σε κάθε σημείο σύνδεσης σε έναν ειδικό αγωγό υλικού, καθιστώντας τη συμπεριφορά επιπέδου hop πιο τακτική και περιορίζοντας την ποικιλία καθυστέρησης.
Ελεγκτής υλικού: εφαρμόζει την ίδια πολιτική παραγγελίας για την επεξεργασία αιτήσεων σε ολόκληρο το σύστημα, έτσι ώστε οι συναλλαγές να επεξεργάζονται με συνέπεια, ανεξάρτητα από την συσκευή μέσω της οποίας περνάνε.
Πανμνησία υψηλής ανεμιστήρα-out και μη μπλοκάρισμα διακόπτη
Ο ελεγκτής υφάσματος (σύνθετος ελεγκτής CXL/PCIe) και η LAU έχουν ολοκληρώσει την επικύρωση πυριτίου και ο διακόπτης υφάσματος έχει κατασκευαστεί ως φυσικό τσιπ πυριτίου.με προελευθερωμένο πυρίτιο που παρέχεται τώραΑυτό αποδεικνύει ότι η προτεινόμενη αρχιτεκτονική ισχύει στο επίπεδο του κατασκευαστικού πυριτίου.
Η αρχιτεκτονική τους συγκεντρώνει CPU, επιταχυντές, μνήμη και διακόπτες ανάλογα με τη λειτουργία τους σε δίσκους.και συνδέει τις κάψουλες μέσω ενός υφάσματος, μια κανονική ιεραρχία υφάσματος που έχει σχεδιαστεί για να διατηρεί σταθερή, πιο συνεπείς διαδρομές επικοινωνίας και χρονολόγηση.
Ελεγκτής υφασμάτων Panmnesia
Σε σύγκριση με το σχέδιο της Nvidia, όπου ένας CPU είναι συνδεδεμένος με δύο επιταχυντές μέσω NVLink-C2C, το εσωτερικό του ράκα συνδέεται από NVLink,και οι διακομιστές και τα ράκ είναι συνδεδεμένα από ένα δίκτυο κλιμάκωσης όπως το Ethernet ή το InfiniBand, το σχέδιο τους:
Παρέχει 8 φορές αύξηση των επιταχυντών που συντονίζονται απευθείας από έναν μόνο CPU, από 2 σε 16,
Επιτρέπει έως και 960 επιταχυντές να λειτουργούν από κοινού σε έναν ενιαίο τομέα συνοχής,
Μειώνει την καθυστέρηση πρόσβασης δεδομένων από το επίπεδο του μικροδευτερόλεπτου σε αρκετές εκατοντάδες νανοδευτερόλεπτα.
Η μονάδα αντικατάστασης αποτυχίας γίνεται μια ελαττωματική ενιαία συσκευή αντί για έναν διακομιστή.Το διαχωρισμό των πόρων ανά τύπο επιτρέπει στο σύστημα να αντικαταστήσει μόνο τις συσκευές που λειτουργούν λανθασμένα και όχι ολόκληρο τον διακομιστή, αποφεύγοντας την σπατάλη πόρων και τις παρατεταμένες διακοπές λειτουργίας.
Η Panmnesia έχει ήδη εφαρμόσει τα βασικά στοιχεία της αρχιτεκτονικής στο πυρίτιο, ολοκλήρωσε την επικύρωση και τώρα τα προετοιμάζει για εμπορική προμήθεια.Οι μελλοντικές εξελίξεις εξετάζουν τις οπτικές διασυνδέσεις για την αύξηση της ταχύτητας και της κλιμακωτότητας.
Σημείωση εκκίνησης
Η αναφορά του άρθρου NREE είναι διαθέσιμη.
Πεκίνο Qianxing Jietong Technology Co., Ltd.
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμουΟ αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!
Το μήνυμά σας πρέπει να αποτελείται από 20-3.000 χαρακτήρες!
Greek
