Το rack Groq 3 LPX που παρουσίασε η Nvidia στο GTC θα αναπτυχθεί παράλληλα με τα racks NVL72, παρέχοντας αποκλειστική ικανότητα για συμπεράσματα τεχνητής νοημοσύνης και φορτία εργασίας AI.το ράφι Groq 3 LPX μπορεί να χωρέσει έως και 256 επιταχυντές LPUΤο rack παρέχει μέχρι και 640TB ανά δευτερόλεπτο συνολικού εύρους ζώνης,και η Nvidia σημειώνει ότι θα μπορούσε τελικά να κλιμακωθεί για να φιλοξενήσει περισσότερα από 1Χιλιάδες LPUs.
Η σύνδεση ενός φορτιστή Groq 3 LPX με ένα σύστημα Rubin NVL72 επιτρέπει στους πελάτες να δημιουργήσουν ένα εκατομμύριο tokens για μόλις 45 δολάρια σε ένα μοντέλο GPT 1 τρισεκατομμυρίου παραμέτρων με ένα παράθυρο περιεχομένου 400k tokens,Σύμφωνα με την NvidiaΑυτός ο αριθμός αντιπροσωπεύει 35 φορές περισσότερες μάρκες από ό, τι το σύστημα Rubin NVL72 μπορεί να παράγει από μόνο του.
Οι Groq 3 LPUs δεν είναι τα μόνα νέα τσιπ που η Nvidia χρησιμοποιεί για να ενισχύσει την ικανότητα συμπεράσματος AI.Η εταιρεία ανακοίνωσε επίσης ένα ειδικό ράκ για τις Vera CPUs της, τους επεξεργαστές που βασίζονται σε ARM σε συνδυασμό με δύο GPUs Rubin για να κατασκευάσουν τα superchips στον πυρήνα των συστημάτων NVL72 και NVL8 της Nvidia..
Καθώς οι CPUs έχουν αναδειχθεί ως ένα βασικό μπουκάλιο για το συμπέρασμα της τεχνητής νοημοσύνης και τα φορτία εργασίας της αντιπροσωπευτικής τεχνητής νοημοσύνης, οι επιχειρήσεις απαιτούν όλο και μεγαλύτερους πόρους CPU.Η Nvidia κυκλοφόρησε ένα αυτόνομο rack μόνο με CPU, με το όνομα Vera CPU Rack, το οποίο διαθέτει 256 Vera CPUs συνδεδεμένες με 400TB μνήμης LPDDR5x που λειτουργούν με 300TBps.
Το Vera CPU Rack είναι επίσης εξοπλισμένο με μια σπονδυλική στήλη Ethernet Spectrum-X και 64 μονάδες επεξεργασίας δεδομένων BlueField-4.Αυτές οι DPU συντονίζονται με τις GPU στα συστήματα NVL72 μέσω της διασύνδεσης NVLink-C2C της Nvidia, παρέχοντας 1,8 TBps συνεκτικού εύρους ζώνης ¢ επτά φορές το εύρος ζώνης του PCIe Gen 6, ανά εταιρεία.
Η Nvidia δηλώνει ότι η Vera rack μπορεί να υποστηρίξει 22.500 ταυτόχρονα περιβάλλοντα CPU, καλύπτοντας την τεράστια ζήτηση CPU που απαιτείται για την ομαλή εκτέλεση συμπερασμάτων AI και εργασιακών φορτίων.Το ράκ χρησιμοποιεί υγρή ψύξη και είναι χτισμένο πάνω στην αρχιτεκτονική αναφοράς MGX της Nvidia, που η εταιρεία τονίζει ότι υποστηρίζεται από 80 εταίρους του οικοσυστήματος, και θα διανεμηθεί μέσω του παγκόσμιου δικτύου εταίρων της Nvidia.
Η Nvidia ανακοίνωσε επίσης ένα νέο ράφι γεμάτο με BlueField-4 DPUs, ένα από τα επτά νέα τσιπ που η Nvidia ανέφερε ότι αποτελούν τον νέο υπερυπολογιστή AI.Το BlueField-4 STX είναι η πρώτη υλοποίηση σε κλίμακα ράκα της νέας πλατφόρμας CMX της NvidiaΗ εταιρεία παρουσίασε το CMX τον Ιανουάριο και τους συνεργάτες αποθήκευσης της Nvidia, όπως το VAST Data,που παρουσίασε την προσφορά αποθήκευσης CMX στο συνέδριο του πριν από μερικές εβδομάδες, αρχίζουν να το υιοθετούν μέσω της αρχιτεκτονικής αναφοράς Nvidia STX.
Το STX είναι ένα υψηλού εύρους ζώνης, κοινόχρηστο στρώμα βελτιστοποιημένο για την αποθήκευση και ανάκτηση των τεράστιων δεδομένων cache βασικής αξίας που παράγονται από ροές εργασίας αντιπροσώπων, δήλωσε ο Buck.Ενώ η Nvidia δεν πρόκειται να το παρέχει απευθείας, we’re providing [the reference architecture] to all of our storage partners and the entire storage ecosystem so that they can build the next generation of storage for AI factories that has 4x the performance per watt, διπλασιάζοντας τις σελίδες ανά δευτερόλεπτο για τα δεδομένα της επιχείρησης και παρέχοντας 5 φορές τα tokens ανά δευτερόλεπτο της αναλογικής μνήμης που απαιτούνται για τα εργοστάσια τεχνητής νοημοσύνης που εκτελούν ροές εργασίας.
Κλάουντιαν, DDN, Dell Technologies, Everpure (πρώην Pure Storage), Hitachi Vantara, HPE, IBM, MinIO, NetApp, Nutanix,και WEKA είναι όλα την κατασκευή νέων αποθηκευτικών εγκαταστάσεων στην BlueField-4 STX αρχιτεκτονική αναφοράς, δήλωσε η Nvidia, ενώ εταιρείες όπως η CoreWeave, η Crusoe, η IREN, η Lambda, η Mistral AI, η Nebius, η Oracle Cloud Infrastructure (OCI) και η Vultr την υιοθετούν.
Συνολικά, η Nvidia παρουσιάζει επτά νέα τσιπ στο GTC που έχουν ο καθένας έναν ρόλο για την τροφοδοσία της τεχνητής νοημοσύνης στην πλατφόρμα Vera Rubin.BlueField-4 DPU, Groq 3 LPU, και SpectrumX CPO, το νέο co-packaged optics Ethernet switch που παρέχει συνδεσιμότητα 200 Gbps μέσω φωτονικής πυριτίου.Και τώρα είναι σε παραγωγή., δήλωσε ο διευθύνων σύμβουλος Jensen Huang στην ομιλία του.
Πεκίνο Qianxing Jietong Technology Co., Ltd.
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμουΟ αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!
Το μήνυμά σας πρέπει να αποτελείται από 20-3.000 χαρακτήρες!
Greek
