Greek
Στο RAISE Summit του Παρισιού, η DDN παρουσίασε τη συνεχιζόμενη συνεργασία της με την Nebul, έναν ευρωπαϊκό προμηθευτή υβριδικών νέφων, με επίκεντρο την αύξηση της αποδοτικότητας για μεγάλες κλίμακες ανάπτυξης εικονικής νοημοσύνης.Αποκάλυψε την περασμένη εβδομάδα, η κοινή πρωτοβουλία ενώνει την πλατφόρμα συμπεράσματος του Nebul, την αρχιτεκτονική νοημοσύνης δεδομένων του DDN, και την επιταχυνμένη υπολογιστική της NVIDIA για να επιλύσει ένα βασικό πρόβλημα παραγωγής AI:data movement costs and performance limitations during inference workloads (κόστος μετακίνησης δεδομένων και περιορισμοί απόδοσης κατά τη διάρκεια εργασιών συμπεράσματος).
Το DDN πλαισιώνει τη συνεργασία γύρω από κρίσιμες μετρήσεις παραγωγής: GPU χρήση, token throughput, cost per token, and latency.inference defines its operational and commercial returns (Κατάληψη ορίζει τις λειτουργικές και εμπορικές της αποδόσεις)Η αυξανόμενη υιοθέτηση της αντιδραστικής νοημοσύνης, αναζήτηση-υποβαθμισμένη γενιά (RAG),and high-concurrency inference means storage and data infrastructure directly impact accelerator efficiency and AI response speeds (Κατάσταση αποθήκευσης και υποδομής δεδομένων που επηρεάζουν άμεσα την αποδοτικότητα επιταχυντή και τις ταχύτητες ανταπόκρισης AI).
Αυτό το ενεργό πρότζεκτ απόδειξης-συμπληρώματος έχει αποφέρει πολλά υποσχόμενα αποτελέσματα.Οι εταίροι έχουν καταγράψει μετρήσιμες βελτιώσεις στο time-to-first-token με KV cache enabled και ολοκληρώθηκε η επικύρωση για RoCE-based infrastructure.Η συνεχιζόμενη αξιολόγηση καλύπτει μακρύτερα μήκη αλληλουχίας συμπεράσματος, ξεκλειδώνοντας περαιτέρω δυναμικό βελτιστοποίησης για την πλατφόρμα Infinia.Η συνεργασία επεκτείνεται επίσης σε κοινά NVIDIA efforts on benchmarking frameworks., scalability verification, and upcoming technical publications. Η μελέτη αυτή έχει ως στόχο την επίτευξη των στόχων που αναμένεται να επιτευχθούν.
Η ολοκληρωμένη πλατφόρμα αξιοποιεί τις διανεμημένες υπηρεσίες αποθήκευσης KV, την GPU-native κίνηση δεδομένων, την έξυπνη ενορχήστρωση δεδομένων και την υψηλής απόδοσης αρχιτεκτονική αποθήκευσης.Η KV cache επιτάχυνση παραδίδει αξιοσημείωτα οφέλη συμπεράσματος με τη διατήρηση και την ταχεία ανάκτηση προ-υπολογισμένων καταστάσεων προσοχής., κόβοντας περιττούς υπολογισμούς και εξαλείφοντας καθυστερήσεις παράδοσης δεδομένων που προκαλούν αδράνεια GPU.
Οι ηγέτες από την DDN, Nebul και NVIDIA τόνισαν μια σημαντική αλλαγή στον κλάδο: Οι προτεραιότητες υποδομής AI μετακινούνται από την πρώιμη ανάπτυξη GPU στην επιχειρησιακή αποτελεσματικότητα,maximizing returns from existing accelerator hardware (μεγιστοποιώντας τα οφέλη από το υπάρχον υλικό επιταχυντή). DDN CEO Alex Bouzari and Nebul CEO Arnold Juffer noted that past focus on larger model scales has given way to optimizing inference economics to make production AI commercially viable via lower per-token costsΟ Ροντ Έβανς, αντιπρόεδρος του NVIDIA Cloud Infrastructure, πρόσθεσε ότι τα μεγάλα κλίμακα agentic workloads τώρα μετρούν την επιτυχία της υποδομής από τη χρήση GPU και την καθυστέρηση, παρά από καθαρή υπολογιστική ισχύ.
Το DDN τονίζει ότι η υποδομή AI πρέπει να εξελιχθεί πέρα από τις βασικές λειτουργίες αποθήκευσης για να υποστηρίξει ενεργά τις ροές εργασίας εκτέλεσης AI.Οι πλατφόρμες υποδομής της εταιρείας τρέχουν σήμερα πάνω από ένα εκατομμύριο GPUs παγκοσμίως., εξυπηρετώντας hyperscalers, cloud providers, επιχειρήσεις, κυβερνήσεις, και ερευνητικά ιδρύματα.
Οι σύγχρονες ομάδες υποδομής τεχνητής νοημοσύνης τώρα δίνουν προτεραιότητα σε αυτές τις βασικές μετρήσεις παραγωγής:
Χρήση GPU: Μετρά αποτελεσματική δραστηριότητα επιταχυντή κατά τη διάρκεια της συμπεράσματος, μεγιστοποιώντας την αξία του υψηλού επιπέδου υλικού GPU.
Κόστος ανά token: Συνδέει την απόδοση υποδομής απευθείας με το μοντέλο τεχνητής νοημοσύνης για την έκδοση λειτουργικών δαπανών.
Τόκενς ανά βατΑξιολογεί την ενεργειακή απόδοση του προϊόντος συμπεράσματος.
Ώρα για το πρώτο σήμα: καθορίζει την ανταπόκριση εφαρμογών διαδραστικής τεχνητής νοημοσύνης και την εμπειρία χρήστη.
Χρόνος παραγωγής: ποσοτικοποιεί την επιχειρησιακή προσπάθεια για τη μετανάστευση υπηρεσιών AI από δοκιμές σε κλιμακωτή εμπορική ανάπτυξη.
Καθώς η συμπερίληψη γίνεται το κυρίαρχο φορτίο εργασίας AI, παραδίδοντας αποθηκευμένο πλαίσιο και δεδομένα επιχειρήσεων σε GPUs με χαμηλό,Η σταθερή καθυστέρηση θα είναι κρίσιμη για τη διατήρηση υψηλής χρήσης GPU και τον έλεγχο των μακροπρόθεσμων λειτουργικών δαπανών..
Πεκίνο Qianxing Jietong Technology Co., Ltd.
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμουΟ αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!
Σάντι Γιανγκ, Διευθυντής Παγκόσμιας Στρατηγικής
WhatsApp / WeChat: +86 13426366826
Ηλεκτρονικό μήνυμα: yangyd@qianxingdata.com
Ιστοσελίδα: www.qianxingdata.com/www.storagesserver.com
Επικεντρώσου στις επιχειρήσεις:
Διανομή προϊόντων ΤΠΕ/Ενσωμάτωση συστημάτων και υπηρεσίες/Λύσεις υποδομής
Με 20+ χρόνια εμπειρίας διανομής πληροφορικής, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
Χρησιμοποιώντας την τεχνολογία για την οικοδόμηση ενός ευφυούς κόσμουΟ αξιόπιστος πάροχος υπηρεσιών προϊόντων ΤΠΕ!