Ο παγκόσμιος τομέας flash και μνήμης είδε έντονη δραστηριότητα το Σαββατοκύριακο, με μια διαφορά Micron-Apple, συζητήσεις προμήθειας τσιπ της Anthropic με την SK Hynix, μια νέα συνεργασία Nvidia-SK Hynix,Η πρόοδος της 3D DRAM της SK Hynix, και της Samsung CXL μνήμης συγκέντρωση καινοτομία.
Ο αναλυτής της Citrini, Jukan, επιβεβαίωσε ότι η εταιρεία αναπτύσσει 3D DRAM,Υποστηρίζεται από τη στρατηγική πρόσληψη μηχανικών σχεδιασμού 3D DRAM-on-logic μέσω του πανεπιστημίου του San JoseΗ πρόσληψη στοχεύει ταλέντο ικανό να συν-σχεδιάσει 3D στοιβαγμένη λογική DRAM πεθαίνει με πολλούς πελάτες με έδρα τις ΗΠΑ.
Η νέα αρχιτεκτονική στρώσεις 3D DRAM στοίβες πάνω από το σύστημα ημιαγωγούς επεξεργαστές.Η ενσωμάτωση της DRAM και της λογικής σε ένα ενιαίο πίνακα προσφέρει ταχύτερη συνδεσιμότητα μεταξύ των τσιπ και χαμηλότερη κατανάλωση ενέργειας από την παραδοσιακή σύνδεση πακέτου σε πακέτο (PoP) χωριστών πακέτων μνήμης και λογικής.
Ο Jukan σημειώνει ότι η τεχνολογία στοχεύει σε συσκευές φορτίου εργασίας AI που απαιτούν υψηλό εύρος ζώνης μνήμης και χαμηλή κατανάλωση ενέργειας,κυρίως επεξεργαστές εφαρμογών για κινητά τηλέφωνα ̇ τοποθετώντας την Apple ως βασικό δυνητικό πελάτη της SK Hynix.
Ο Όμιλος SK έχει επεκτείνει τη στρατηγική του συνεργασία με την Nvidia μέσω επίσημων επιστολών προθέσεων, σχηματίζοντας μια συνεργασία αξίας άνω των 500 δισ. δολαρίων.Η SK Telecom θα κατασκευάσει ένα εργοστάσιο τεχνητής νοημοσύνης Nvidia Vera Rubin DSX 2 gigawatt ως νέος πάροχος cloud για την κάλυψη της παγκόσμιας ζήτησης υπολογιστώνΤα τσιπ Vera Rubin θα υιοθετήσουν μνήμη HBM4 της SK Hynix, με το πρώτο εργοστάσιο τεχνητής νοημοσύνης προγραμματισμένο να ξεκινήσει το 2027.
Η εταιρική σχέση αποσκοπεί στην επιτάχυνση της ανάπτυξης υποδομών τεχνητής νοημοσύνης μεγάλης κλίμακας, που καλύπτει τις υπηρεσίες της τεχνητής νοημοσύνης σε εθνικό, φυσικό, πρακτικό και επιχειρηματικό επίπεδο,και την αντιμετώπιση της αυξανόμενης ζήτησης τεχνητής νοημοσύνης στην Νότια Κορέα και την ευρύτερη περιοχή της Ασίας-ΕιρηνικούΗ SK Hynix θα ξεκινήσει επίσης μια μακροπρόθεσμη συνεργασία μνήμης τεχνητής νοημοσύνης με την Nvidia, εξασφαλίζοντας σταθερή προμήθεια μνήμης τεχνητής νοημοσύνης επόμενης γενιάς για την Nvidia, ενώ θα αυξάνει την παραγωγική ικανότητα της SK Hynix.Οι δύο πλευρές θα αναπτύξουν και θα βελτιστοποιήσουν από κοινού την HBM και άλλες λύσεις μνήμης τεχνητής νοημοσύνης για την εκπαίδευση LLM, αντιπροσωπευτικά και φυσικά σενάρια τεχνητής νοημοσύνης.
Ο πρόεδρος του ομίλου SK, Chey Tae-won δήλωσε ότι η συνεργασία θα αξιοποιήσει τη μνήμη AI της SK Hynix και τα δυνατά σημεία υποδομής της SK Telecom για την κατασκευή ενός εργοστασίου AI παγκόσμιας κλάσης.μετατροπή της Νότιας Κορέας από χώρα υιοθέτησης τεχνητής νοημοσύνης σε παγκόσμιο κέντρο καινοτομίας τεχνητής νοημοσύνης.
Ο πρώην διευθύνων σύμβουλος της Intel, Pat Gelsinger, επέκρινε ανοιχτά την HBM κατά τη διάρκεια μιας συζήτησης στην κορεατική βιομηχανία, αποκαλώντας την μια ατελή λύση μνήμης.όρια συνδεσιμότητας που περιορίζονται από τις ακτογραμμές GPU edgeΟ Gelsinger αναγνώρισε ωστόσο ότι η HBM είναι η καλύτερη βιώσιμη λύση που είναι διαθέσιμη σήμερα.
Ο SVP της SK Hynix Hoshik Kim εν μέρει ενέκρινε την άποψη του Gelsinger, δηλώνοντας ότι η HBM δεν μπορεί να επιλύσει θεμελιωδώς το εγγενές μπουκάλιο του τοίχου μνήμης της AI.Εξήγησε ότι η HBM χρησιμεύει μόνο ως προσωρινό μέτρο μετριασμού., ενώ η SK Hynix αναπτύσσει ενεργά εναλλακτικές λύσεις για την αντιμετώπιση της πρόκλησης του βασικού τοίχου μνήμης.
Σύμφωνα με το Bloomberg, η κορυφαία αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic διαπραγματεύεται με την SK Hynix για την προμήθεια chip μνήμης για την υποστήριξη των προσαρμοσμένων εσωτερικών επεξεργαστών τεχνητής νοημοσύνης.Ο πρόεδρος του ομίλου SK, Τσέι Τάε Γουόν, αποκάλυψε τα νέα στη σύνοδο κορυφής AI του Ιουλίου του 2024 στο Σαν Φρανσίσκο., όπου ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, μίλησε επίσης, επαινώντας τους φιλόδοξους στόχους ανάπτυξης υλικού της Anthropic εν μέσω ευρείας προσπάθειας της βιομηχανίας να σπάσει την κυριαρχία της GPU της Nvidia.Η Amodei δεν απάντησε δημόσια στα σχόλια..
Η Samsung έχει επιτύχει σχεδόν εγγενείς επιδόσεις DRAM για φορτία εργασίας συμπεράσματος τεχνητής νοημοσύνης χρησιμοποιώντας εξωτερική συγκεντρωτική μνήμη CXL για την εκφόρτωση KV cache, σύμφωνα με το επίσημο τεχνολογικό blog της.Τα LLM βασίζονται στην KV cache για την αποθήκευση υπολογισμένων κλειδιών προσοχής και τιμών για τη μείωση της καθυστέρησης συμπεράσματος και της περιττής υπολογιστικής, όμως τα μεγάλα μοντέλα απαιτούν εκατοντάδες gigabytes cache, ξεπερνώντας εύκολα την ενσωματωμένη μνήμη επεξεργαστή AI.Η παραδοσιακή αποφόρτιση SSD ή δικτυακή αποφόρτιση ελαφρύνει τα όρια χωρητικότητας, αλλά εισάγει επιπλέον καθυστέρηση και έξοδα άνω του εύρους ζώνης.
Η τεχνολογία CXL σπάει τους παραδοσιακούς φυσικούς περιορισμούς της DRAM μέσω συνεκτικών διασύνδεσεων PCIe υψηλού εύρους ζώνης, επιτρέποντας την επεκτατική συγκέντρωση μνήμης σε πολλαπλές συσκευές μέσω διακόπτες CXL.Το CMM-D της Samsung (CXL Memory Module-DRAM) είναι ειδικά κατασκευασμένο για αυτή την εκτεταμένη αρχιτεκτονική μνήμης.
Η Samsung δοκίμασε τις ενότητες CMM-D της με GPU Nvidia RTX PRO 6000 Blackwell πάνω από το PCIe Gen5, δημιουργώντας μια δεξαμενή μνήμης CXL 1TB με βελτιστοποιήσεις λογισμικού vLLM και LMCache.Οι δοκιμές επαλήθευσαν ότι η δεξαμενή υποστηρίζει την αποφόρτιση αποθήκευσης σε μεγάλη κλίμακα KV με σχεδόν DRAM απόδοση. Σε ρυθμίσεις με ένα μόνο GPU, η βελτιστοποιημένη συγκέντρωση CXL ταιριάζει με την απόδοση DRAM ως το backend LMCache.διατήρησε το 92% της εγγενούς ροής της DRAM με πολύ μεγαλύτερη χωρητικότητα μνήμης.
Περαιτέρω δοκιμές συνέκριναν μια τοπική εγκατάσταση DRAM 512GB και ένα συγκρότημα CXL 1TB υπό αυξανόμενα φορτία cache KV.Το τοπικό DRAM υπέστη σοβαρές μειώσεις απόδοσης από επαναλαμβανόμενο επανακαταλογισμό της μνήμης αποθήκευσης μετά την υπέρβαση της χωρητικότηταςΟι πλήρεις λεπτομέρειες των δοκιμών είναι διαθέσιμες στο διαβαθμισμένο λευκό έγγραφο της Samsung.
Η Samsung σημειώνει ότι οι τρέχουσες αναπτύξεις CXL switch απαιτούν προσαρμογές στον πυρήνα σε επίπεδο host και λογισμικό για το LMCache και άλλα εξαρτήματα.Η συγκέντρωση μνήμης με βάση το 0 δείχνει ισχυρές δυνατότητες εφαρμογής, με τη συνεχιζόμενη ωρίμανση του οικοσυστήματος μέσω της Intel DMR, της AMD Venice και των νέων πλατφορμών CXL 3.0 για την εξάλειψη των υφιστάμενων τεχνικών περιορισμών.
Τέλος, μια αυξανόμενη ρήξη έχει προκύψει μεταξύ της Micron και της Apple.Ο Jukan της Citrini αποκαλύπτει ότι η Apple ασκεί πίεση στον Λευκό Οίκο για την έγκριση της ανάπτυξης της CXMT DRAM της Κίνας στις συσκευές τηςΗ τριβή προέρχεται από μια μακροχρόνια πικρία που κρατείται από τον διευθύνοντα σύμβουλο της Micron, Sanjay Mehrotra,που χρονολογείται από την θητεία του Sandisk όταν η Apple επέβαλε χαμηλές τιμές μνήμης flash κατά τη διάρκεια της αγοράς αγοραστήΜε την τρέχουσα αγορά μνήμης να ευνοεί τους προμηθευτές, η Mehrotra δεν είναι πρόθυμη να χαλαρώσει τις τιμές και τους περιορισμούς παροχής για την Apple.
Πεκίνο Qianxing Jietong Technology Co., Ltd.
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμουΟ αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!
Το μήνυμά σας πρέπει να αποτελείται από 20-3.000 χαρακτήρες!
Greek
