Greek
Η NVIDIA και πάνω από 35 ιδρυτικά μέλη έχουν εγκαινιάσει την Συμμαχία Ανοιχτού Ασφαλούς AI (Open Secure AI Alliance) για τη δημιουργία εργαλείων AI ανοιχτού κώδικα, μοντέλων, πλαισίων πρακτόρων και τεχνολογιών ασφαλείας. Η συμμετοχή της τραβάει την προσοχή τόσο από τους απόντες όσο και από τους συμμετέχοντες: Η Microsoft, η IBM, η Cisco και η Palantir είναι μέλη, ενώ οι κορυφαίοι προγραμματιστές μοντέλων κλειστού συνόρου, OpenAI, Google και Anthropic, δεν έχουν ενταχθεί.
Υποστηριζόμενη από την πρωτοβουλία Akrites του Linux Foundation και το OpenSSF, η συμμαχία στοχεύει να εξοπλίσει τις ομάδες ασφαλείας με ελέγξιμες, προσαρμόσιμες τεχνολογίες για την προστασία μοντέλων AI, πρακτόρων και των αλυσίδων εφοδιασμού λογισμικού τους. Τα ιδρυτικά μέλη καλύπτουν υποδομές cloud, κυβερνοασφάλεια, λογισμικό επιχειρήσεων, έρευνα AI και κοινότητες ανοιχτού κώδικα, συμπεριλαμβανομένων των Adobe, Box, Capital One, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, Fortinet, GitHub, HPE, Hugging Face, IBM, LangChain, Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Uber, vLLM και Zscaler.
Η συμμαχία τονίζει ότι η αξιολόγηση της ασφάλειας της AI πρέπει να καλύπτει ολόκληρη τη στοίβα του πράκτορα – όχι μόνο τα βάρη του μοντέλου. Ένας πράκτορας AI περιλαμβάνει μοντέλα, επίπεδα ενορχήστρωσης, ενσωματώσεις εργαλείων, κανόνες ταυτότητας, δικαιώματα, απομόνωση, προστατευτικά κιγκλιδώματα ασφαλείας, καταγραφή και ροές εργασίας αξιολόγησης. Παρόλο που τα ανοιχτά μοντέλα ενέχουν κινδύνους κατάχρησης, όπως απενεργοποιημένα προστατευτικά κιγκλιδώματα ή κατάχρηση για κυβερνοεπιθέσεις, η συμμαχία υποστηρίζει ότι τα κλειστά μοντέλα δεν επιλύουν τέτοιους κινδύνους και εμποδίζουν τους αμυντικούς από τον έλεγχο της συμπεριφοράς του μοντέλου, την επαλήθευση ελέγχων ή την εκτέλεση AI εντός των εγκαταστάσεων.
Υποστηρίζει την ευέλικτη υιοθέτηση τόσο κλειστών όσο και ανοιχτών AI: τα κλειστά μοντέλα ταιριάζουν σε επιλεγμένες περιπτώσεις χρήσης αιχμής, ενώ οι ανοιχτές εναλλακτικές προσφέρουν διαφάνεια, τοπικό έλεγχο και προσαρμογή για αμυντικές εργασίες. Αυτό είναι ιδιαίτερα σημαντικό για ρυθμιζόμενες βιομηχανίες και κυρίαρχες οντότητες που απαιτούν άμεση εποπτεία ευαίσθητων δεδομένων, συμπεριφοράς μοντέλων, αρχείων καταγραφής ασφαλείας και απόκρισης σε περιστατικά.
Η NVIDIA θα δωρίσει ανοιχτά μοντέλα, βάρη, σύνολα δεδομένων και έρευνα για πλαίσια πρακτόρων στη συμμαχία, με το πλαίσιο NOOA της – που φιλοξενείται στο GitHub – ως πρώιμη συνεισφορά. Το NOOA βελτιώνει την ασφάλεια και την ελεγξιμότητα των πλαισίων πρακτόρων AI, απλοποιώντας τη δοκιμή, την παρακολούθηση, τη διακυβέρνηση και την αξιολόγηση όταν οι πράκτορες αλληλεπιδρούν με εργαλεία, εξωτερικά δεδομένα, βάσεις κώδικα και εταιρικά συστήματα. Η προγραμματισμένη κοινή εργασία εκτείνεται σε λύσεις ταυτότητας πρακτόρων, απομόνωση φόρτου εργασίας, ασφαλείς μορφές μοντέλων, σάρωση μοντέλων και ασφαλή ανάπτυξη λογισμικού ενισχυμένη με AI.
Τα ιδρυτικά μέλη θα κατασκευάσουν στοιχεία μιας ανοιχτής στοίβας άμυνας AI. Η HPE υποστηρίζει το SPIFFE/SPIRE για ταυτότητα φόρτου εργασίας μηδενικής εμπιστοσύνης για την πιστοποίηση πρακτόρων AI μέσω κρυπτογραφίας. Το Safetensors της Hugging Face, που φιλοξενείται υπό την PyTorch Foundation, εξαλείφει τους κινδύνους εκτέλεσης αυθαίρετου κώδικα στην αποθήκευση βαρών μοντέλων για ασφαλέστερη κοινή χρήση μοντέλων ανοιχτού κώδικα. Η IBM και η Red Hat προωθούν το Lightwell, αξιοποιώντας υπογεγραμμένες ενημερώσεις για την προστασία της ακεραιότητας της αλυσίδας εφοδιασμού ανοιχτού κώδικα. Η Microsoft προσφέρει το MDASH, έναν σαρωτή πρακτόρων πολλαπλών μοντέλων που ανιχνεύει εκμεταλλεύσιμα σφάλματα λογισμικού. Η SpaceXAI έκανε open-source το Grok Build, έναν πράκτορα κωδικοποίησης AI τερματικού, και σχεδιάζει να κυκλοφορήσει τα βάρη του μοντέλου Grok, ευθυγραμμιζόμενη με την εστίαση της συμμαχίας στην ανεξάρτητη επαλήθευση και τροποποίηση εργαλείων AI εστιασμένων στην ασφάλεια.
Σε θέματα πολιτικής, η συμμαχία προτρέπει τις ρυθμιστικές αρχές να πλαισιώσουν τα εργαλεία ανοιχτού AI ως υποδομές κυβερνοασφάλειας αντί για καθολικούς κινδύνους. Οι γενικοί περιορισμοί στα προηγμένα ανοιχτά μοντέλα κινδυνεύουν να αναγκάσουν τους οργανισμούς να βασίζονται σε μια μικρή ομάδα ιδιόκτητων προμηθευτών και να αποδυναμώσουν τις δυνατότητες αμυντικών δοκιμών για επιχειρήσεις και κυβερνήσεις. Ζητά συλλογικές επενδύσεις σε ανοιχτά σύνολα δεδομένων, πλατφόρμες αξιολόγησης, προσομοιωτές επιθέσεων, βοηθήματα red-teaming, ασφαλή διανομή μοντέλων και ελέγχους ασφαλείας πρακτόρων.
Για τις ομάδες υποδομών επιχειρήσεων, η πρωτοβουλία τονίζει ότι οι αναπτύξεις AI πρέπει να ασφαλίζονται ως διασυνδεδεμένα συστήματα που ενσωματώνουν μοντέλα, εφαρμογές, διαχείριση ταυτότητας, αποθήκευση, δίκτυα, παρατηρησιμότητα και αυτοματοποιημένα συστήματα αποφάσεων.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Επιχειρηματική Εστίαση:
Διανομή Προϊόντων ICT/Ολοκλήρωση Συστημάτων & Υπηρεσίες/Λύσεις Υποδομών
Με πάνω από 20 χρόνια εμπειρίας στη διανομή IT, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
“Χρησιμοποιώντας την Τεχνολογία για να Δημιουργήσουμε έναν Έξυπνο Κόσμο”Ο Αξιόπιστος Πάροχος Υπηρεσιών Προϊόντων ICT σας!
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
Email: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Επιχειρηματική Εστίαση:
Διανομή Προϊόντων ICT/Ολοκλήρωση Συστημάτων & Υπηρεσίες/Λύσεις Υποδομών
Με πάνω από 20 χρόνια εμπειρίας στη διανομή IT, συνεργαζόμαστε με κορυφαίες παγκόσμιες μάρκες για την παροχή αξιόπιστων προϊόντων και επαγγελματικών υπηρεσιών.
“Χρησιμοποιώντας την Τεχνολογία για να Δημιουργήσουμε έναν Έξυπνο Κόσμο”Ο Αξιόπιστος Πάροχος Υπηρεσιών Προϊόντων ICT σας!