Greek
Η DeepInfra εγκαινίασε επίσημα ένα νέο κέντρο δεδομένων AI στο Τορόντο, σηματοδοτώντας την πρώτη διεθνή ανάπτυξη της εταιρείας εκτός ΗΠΑ και την ένατη εγκατάστασή της παγκοσμίως. Το νέο αυτό κέντρο, που αποκαλύφθηκε στις 8 Ιουλίου, επεκτείνει το παγκόσμιο αποτύπωμα υποδομής συμπερασμάτων της DeepInfra, εν μέσω μιας ευρείας μετατόπισης της βιομηχανίας στη ζήτηση AI από την εκπαίδευση μοντέλων σε εμπορικά φορτία εργασίας συμπερασμάτων.
Το κέντρο δεδομένων του Τορόντο διαθέτει χωρητικότητα ισχύος 1,7 MW και θα φιλοξενήσει πάνω από 1.000 GPU NVIDIA Blackwell B300. Με την πλήρη λειτουργία του, το νέο υπολογιστικό σύμπλεγμα θα ενισχύσει την παγκόσμια κλίμακα συμπερασμάτων της DeepInfra και θα προσφέρει μειωμένη καθυστέρηση δικτύου για τους τελικούς χρήστες σε όλο τον Καναδά και σε άλλες παγκόσμιες περιοχές.
Αυτή η επέκταση ευθυγραμμίζεται με μια σαφή, ευρεία τάση της βιομηχανίας. Καθώς οι επιχειρήσεις επιταχύνουν την παραγωγική διάθεση εργαλείων παραγωγικής AI, η ζήτηση για υποδομές κέντρων δεδομένων εστιάζεται όλο και περισσότερο σε φορτία εργασίας συμπερασμάτων παρά σε εργασίες εκπαίδευσης. Τα συμπεράσματα μεγάλων γλωσσικών μοντέλων απαιτούν σταθερή διαθεσιμότητα GPU, δικτύωση χαμηλής καθυστέρησης και γεωγραφικά κατανεμημένες υποδομές για την τροφοδοσία διαδραστικών εφαρμογών, έξυπνων πρακτόρων AI και υπηρεσιών API υψηλής απόδοσης. Σύμφωνα με έρευνα της McKinsey & Company που αναφέρεται στην ανακοίνωση, τα φορτία εργασίας συμπερασμάτων θα ξεπεράσουν το 40% της συνολικής ζήτησης των κέντρων δεδομένων έως το 2030, με σύνθετο ετήσιο ρυθμό ανάπτυξης 35%.
Η DeepInfra δηλώνει ότι η ανάπτυξη στο Τορόντο είναι ειδικά σχεδιασμένη για να καλύψει αυτές τις εξελισσόμενες ανάγκες, τοποθετώντας τους πόρους υπολογιστικής ισχύος GPU πιο κοντά στους τελικούς χρήστες και στις τοπικές πηγές δεδομένων, ενώ παράλληλα επεκτείνει τη συνολική απόδοση της πλατφόρμας. Η εταιρεία κατέχει και λειτουργεί ανεξάρτητα ολόκληρη τη στοίβα υποδομής GPU, υποστηρίζοντας πάνω από 200 μοντέλα AI ανοιχτού κώδικα. Η διαχειριζόμενη πλατφόρμα συμπερασμάτων της επεξεργάζεται σχεδόν πέντε τρισεκατομμύρια tokens εβδομαδιαίως, καλύπτοντας αναπτύξεις τόσο ανοιχτών όσο και ιδιόκτητων μοντέλων.
Το λανσάρισμα υπογραμμίζει επίσης την αυξανόμενη υιοθέτηση της αρχιτεκτονικής Blackwell της NVIDIA από τη βιομηχανία για σύγχρονες υποδομές συμπερασμάτων. Σε σύγκριση με το προηγούμενο υλικό της γενιάς Hopper, οι GPU Blackwell προσφέρουν βελτιωμένη απόδοση συμπερασμάτων και καλύτερη ενεργειακή απόδοση για μεγάλα γλωσσικά μοντέλα και πολυτροπικά φορτία εργασίας AI. Αν και η DeepInfra δεν έδωσε περαιτέρω λεπτομέρειες σχετικά με την αρχιτεκτονική δικτύωσης και αποθήκευσης, οι μεγάλης κλίμακας αναπτύξεις αυτού του διαμετρήματος συνήθως αξιοποιούν διασυνδέσεις υψηλού εύρους ζώνης και κατανεμημένη αποθήκευση για να διατηρήσουν την πλήρη αξιοποίηση των GPU.
Όπως σημείωσε ο Nikola Borisov, Διευθύνων Σύμβουλος και συνιδρυτής της DeepInfra, η εταιρική AI έχει μεταβεί από πειραματικές δοκιμές σε μεγάλης κλίμακας παραγωγικές αναπτύξεις, οδηγώντας σε μεγαλύτερη ζήτηση για παγκοσμίως κατανεμημένες υποδομές με χαμηλή καθυστέρηση και κλιμακούμενες δυνατότητες συμπερασμάτων. Εξήγησε ότι το σύμπλεγμα του Τορόντο σηματοδοτεί την εναρκτήρια διεθνή επέκταση της εταιρείας πέρα από τα σύνορα των ΗΠΑ, τοποθετώντας τους υπολογιστικούς πόρους κοντά στους παγκόσμιους πελάτες και τα σύνολα δεδομένων τους.
Η εγκατάσταση στο Τορόντο έρχεται μετά τον πρόσφατο γύρο χρηματοδότησης Series B της DeepInfra και αποτελεί βασικό μέρος του μακροπρόθεσμου οδικού χάρτη επέκτασης των υποδομών της. Η εταιρεία επιβεβαιώνει ότι αξιολογεί πρόσθετες διεθνείς τοποθεσίες κέντρων δεδομένων για να καλύψει την αυξανόμενη ζήτηση της αγοράς για υπηρεσίες συμπερασμάτων που τροφοδοτούνται από GPU.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Επιχειρηματική Εστίαση:
Διανομή Προϊόντων ICT/Ενοποίηση Συστημάτων & Υπηρεσίες/Λύσεις Υποδομών
Με πάνω από 20 χρόνια εμπειρίας στη διανομή IT, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για να παρέχουμε αξιόπιστα προϊόντα και επαγγελματικές υπηρεσίες.
“Χρησιμοποιώντας την Τεχνολογία για να Χτίσουμε έναν Έξυπνο Κόσμο”Ο Αξιόπιστος Πάροχος Υπηρεσιών Προϊόντων ICT σας!
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Επιχειρηματική Εστίαση:
Διανομή Προϊόντων ICT/Ενοποίηση Συστημάτων & Υπηρεσίες/Λύσεις Υποδομών
Με πάνω από 20 χρόνια εμπειρίας στη διανομή IT, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για να παρέχουμε αξιόπιστα προϊόντα και επαγγελματικές υπηρεσίες.
“Χρησιμοποιώντας την Τεχνολογία για να Χτίσουμε έναν Έξυπνο Κόσμο”Ο Αξιόπιστος Πάροχος Υπηρεσιών Προϊόντων ICT σας!