Η Mandia βρήκε ότι τα ανοιχτά μοντέλα AI χακάρουν εξίσου καλά με τα κλειστά, πρόβλημα για το στρατόπεδο της επιβράδυνσης

Στις 6 Οκτωβρίου δύο διευθύνοντες σύμβουλοι εταιρειών ασφαλείας και ο επικεφαλής τεχνολογίας του Πενταγώνου δήλωσαν, με διαφορετικούς τρόπους, ότι όσοι ζητούν να επιβραδυνθεί η ανάπτυξη της AI έχουν άδικο. Ο George Kurtz της CrowdStrike χαρακτήρισε ανοησία την εκτίμηση για 10% πιθανότητα καταστροφής στο CNBC. Ο επικεφαλής τεχνολογίας του Πενταγώνου είπε ότι κάθε περιστατικό AI μέχρι στιγμής ήταν προληπτό. Το πιο χρήσιμο πράγμα που ειπώθηκε όλη την ημέρα, ωστόσο, ήρθε από τον Kevin Mandia, σε επεισόδιο του a16z που κυκλοφόρησε την ίδια ημέρα. Η εταιρεία του δοκίμασε ανοιχτά και κλειστά μοντέλα σε 20 πραγματικές εισβολές, και ολοκλήρωσαν τον ίδιο αριθμό. Αν αυτό ισχύει, η επιβράδυνση των κορυφαίων εργαστηρίων κάνει ελάχιστα για το hacking με AI, επειδή τα ανοιχτά μοντέλα είναι ήδη εκεί.

Το τεστ του Mandia είναι ο αριθμός που πρέπει να θυμάστε

Ο Mandia έχτισε τη Mandiant, την πούλησε, και επέστρεψε στα μέσα της δεκαετίας των πενήντα του για να διευθύνει την Armadin, μια νεοφυή επιχείρηση που επιτίθεται στους δικούς της πελάτες με πράκτορες AI πριν το κάνουν οι εγκληματίες. Το SecurityWeek ανέφερε την 1η Οκτωβρίου ότι είχε συγκεντρώσει 255,5 εκατομμύρια δολάρια σε αποτίμηση 2,5 δισεκατομμυρίων δολαρίων, με συν-επικεφαλής τις Andreessen Horowitz και Accel. Άρα ο οικοδεσπότης του a16z είναι επενδυτής. Κρατήστε το αυτό κατά νου, και μετά δείτε τι ανέφερε πραγματικά ο Mandia, επειδή είναι πιο προσεκτικό από ό,τι χρειάζεται μια παρουσίαση.

Η ομάδα του έγραψε 20 πλήρεις ακολουθίες επιθέσεων που έχουν εκτελέσει ανθρώπινοι χειριστές σε πραγματικούς ιστότοπους θυμάτων, από το πρώτο σημείο εισόδου μέχρι τον στόχο. Στη συνέχεια άφησαν τα μοντέλα να προσπαθήσουν.

Δοκιμάσαμε τα μοντέλα ανοιχτού βάρους και τα πιο προηγμένα κλειστά μοντέλα. Όλα βρήκαν οκτώ.

Kevin Mandia, a16z, κυκλοφόρησε στις 6 Οκτωβρίου 2026, πηγή

Οκτώ στα 20 διαβάζεται με δύο τρόπους ταυτόχρονα. Κανένα μοντέλο, κλειστό ή ανοιχτό, δεν μπόρεσε να ολοκληρώσει το μεγαλύτερο μέρος μιας πραγματικής εισβολής από μόνο του, κάτι που είναι ένα κρύο ντους για τα πιο τρομακτικά σενάρια. Και το μόνο πλεονέκτημα των κλειστών μοντέλων ήταν η ταχύτητα και το κόστος. Ο Mandia λέει ότι η ομάδα του άφησε τα ανοιχτά να τρέξουν περισσότερο και "έφτασαν στο ίδιο σημείο." Αυτό το δεύτερο σημείο είναι αυτό που έχει παραλείψει η συζήτηση για την επιβράδυνση.

Γιατί τα ανοιχτά μοντέλα έχουν μεγαλύτερη σημασία από τα κορυφαία

Ο Mandia δεν υπεκφεύγει όσον αφορά το τι προκύπτει από αυτό. Το εμπόδιο για τους εγκληματίες, σύμφωνα με τον ίδιο, είναι η ανωνυμία, όχι η ποιότητα του μοντέλου.

Τα ανοιχτά μοντέλα είναι ήδη αρκετά καλά, και αυτά τα πράγματα είναι κοινά πλέον. Είναι απλώς θέμα της στιγμής που θα έχεις ανώνυμη διαθεσιμότητα GPU, θα δεις πολύ περισσότερες εγκληματικές επιθέσεις.

Kevin Mandia, a16z, κυκλοφόρησε στις 6 Οκτωβρίου 2026, πηγή

Ο Nikesh Arora της Palo Alto Networks έφτασε στο ίδιο σημείο από την πλευρά της πολιτικής. Η συνέντευξή του στο Tech Download του CNBC ηχογραφήθηκε στα τέλη Σεπτεμβρίου στο HumanX στο Άμστερνταμ και δημοσιεύθηκε στις 6 Οκτωβρίου, οπότε αντιμετωπίστε την ως υπόβαθρο. Είπε ότι αρχικά χαρακτήρισε την πρόταση επιβράδυνσης των εργαστηρίων "κίνηση νίντζα", ένα παιχνίδι για τη συμπάθεια των ρυθμιστών, και στη συνέχεια άλλαξε γνώμη για έναν πιο απλό λόγο. Κανείς δεν μπορεί να την επιβάλει.

Νομίζω ότι αυτό είναι μη ρεαλιστικό. Δεν πρόκειται όλοι να επιβραδύνουν τον ρυθμό τους.

Nikesh Arora, The Tech Download, ηχογραφήθηκε στα τέλη Σεπτεμβρίου, δημοσιεύθηκε στις 6 Οκτωβρίου 2026, πηγή

Νωρίτερα στην ίδια συνομιλία ο Arora είπε ότι η Palo Alto είχε προβλέψει ότι τα ανοιχτά μοντέλα θα ταίριαζαν με το Mythos μέσα σε τρεις έως έξι μήνες, και ότι "υπάρχουν μοντέλα ανοιχτού κώδικα που είναι σχεδόν εξίσου καλά με το Mythos" τώρα. Βάλτε το δίπλα στο οκτώ στα 20 του Mandia και έχετε μια συνεπή ιστορία από δύο ανταγωνιστές. Το κορυφαίο εργαστήριο θέτει το ανώτατο όριο για νέες δυνατότητες. Για την παραβίαση δικτύων, το κατώτατο όριο έχει ήδη φτάσει.

Ο Kurtz λέει ότι τα μαθηματικά της καταστροφής είναι ανοησία

Ο Jim Cramer άνοιξε το τμήμα του Squawk Box σημειώνοντας ότι η CrowdStrike είχε φτάσει σε ιστορικό υψηλό την προηγούμενη ημέρα. Το Yahoo Finance έθεσε το ενδοημερήσιο ρεκόρ της 5ης Οκτωβρίου στα 274,23 δολάρια, με τη μετοχή να έχει ανέβει 147% από τα τέλη Ιανουαρίου. Στη συνέχεια, ο Cramer πίεσε τον Kurtz για τους ερευνητές που λένε ότι υπάρχει πραγματική πιθανότητα η AI να σκοτώσει τους πάντες μέχρι το τέλος της δεκαετίας.

Ανοησίες, Jim. Δεν πρόκειται να είμαστε νεκροί το 2030 με πιθανότητα 10%.

George Kurtz, CNBC Squawk Box, 6 Οκτωβρίου 2026, πηγή

Η λύση του είναι ένας "καταγραφέας πτήσης" για τους πράκτορες, ένα αρχείο καταγραφής κάθε αρχείου που αγγίζει ένας πράκτορας και κάθε ενέργειας που κάνει, συνδεδεμένο με έναν τρόπο να τον σταματήσει. Θέλει πρότυπα NIST και αυτορρύθμιση, όχι πέντε χρόνια πιστοποίησης. Είχε επίσης μια αιχμηρή παρατήρηση για τους ερευνητές ασφαλείας: "θα έπρεπε να συμβουλεύονται τους ειδικούς ασφαλείας πιο συχνά."

Παίρνω στα σοβαρά το επιχείρημα της μηχανικής, και παρόλα αυτά θα εξέταζα τον τόνο με επιφύλαξη. Ένας διευθύνων σύμβουλος του οποίου η μετοχή έχει ανέβει 147% λόγω της ζήτησης για ασφάλεια AI έχει κάθε λόγο να πει ότι το πρόβλημα είναι αρκετά πραγματικό για να αγοράσει κανείς ένα προϊόν και όχι τόσο πραγματικό ώστε να επιβραδύνει κανείς. Το καλύτερο παράδειγμά του κόβει κόντρα στην ηρεμία. Ανέφερε ένα hack στην Αυστραλία που πέρασαν 84 ημέρες πριν κάποιος μάθει τι είχε συμβεί. Αυτό ταιριάζει με το κενό μεταξύ του πράκτορα της OpenAI που μπήκε στην πύλη στατιστικών Medicare της Αυστραλίας στις 18 Ιουνίου και της ενημέρωσης της OpenAI στην Καμπέρα στις 10 Σεπτεμβρίου, το οποίο καλύψαμε τον Σεπτέμβριο. Ένας καταγραφέας πτήσης δεν κάνει τίποτα αν κανείς δεν τον διαβάσει για 84 ημέρες.

Το Πεντάγωνο χαρακτηρίζει κάθε περιστατικό προληπτό

Ο Emil Michael, υφυπουργός Έρευνας και Μηχανικής, ήταν στο CNBC το ίδιο πρωί για να μιλήσει για το βραβείο του Ναυτικού στην Anduril, ένα συμβόλαιο αξίας έως 2,9 δισεκατομμυρίων δολαρίων για ένα ναυπηγείο ανταλλακτικών υποβρυχίων στην κομητεία Βαλτιμόρης που το DefenseScoop αναφέρει ότι η Anduril υποστηρίζει με 3,7 δισεκατομμύρια δολάρια δικά της χρήματα. Ερωτηθείς για τον κίνδυνο της AI, πήγε παραπέρα από τον Kurtz και κατηγόρησε μέρος του φόβου σε "τακτικές εκφοβισμού" που διαδίδονται "ενδεχομένως με κάποια ξένη επιρροή." Δεν προσέφερε καμία απόδειξη για αυτό, και δεν θα το επαναλάμβανα ως γεγονός.

Έτσι, νομίζω ότι ό,τι έχουμε δει μέχρι στιγμής ήταν προληπτό από τα ίδια τα εργαστήρια. Και αυτό είναι ένα βασικό σημείο που πρέπει να κρατήσουμε.

Emil Michael, CNBC, 6 Οκτωβρίου 2026, πηγή

Προληπτό είναι μια δίκαιη λέξη για αποτυχίες sandbox και αρχεία καταγραφής που δεν διαβάστηκαν. Είναι επίσης ένας τρόπος να πούμε ότι το πρόβλημα ανήκει στα εργαστήρια και στους δικηγόρους τους, όχι στην κυβέρνηση. Ο Michael το είπε αυτό όταν μίλησε για το να διασφαλιστεί ότι οι εταιρείες "γνωρίζουν ότι είναι υπεύθυνες σε ορισμένες περιπτώσεις."

Ο Mandia δεν πιστεύει ότι ο επόμενος χρόνος θα είναι ήρεμος

Εδώ είναι που το στρατόπεδο της ασφάλειας χωρίζεται, και είναι το μέρος του επεισοδίου του a16z που τα αποσπάσματα θα παραλείψουν. Ο Mandia συμφωνεί με τον Kurtz ότι η επιβράδυνση των μοντέλων είναι άσκοπη. Δεν συμφωνεί ότι τα πράγματα είναι υπό έλεγχο. Λέει ότι η Armadin έχει βρει περισσότερα από 90 zero days σε ιστότοπους πελατών από τον Ιανουάριο, και ότι τα τελευταία βρέθηκαν από την AI και όχι από τους ανθρώπους του. Σχετικά με τη στελέχωση είναι ειλικρινής: "αν έχεις ανθρώπους στον βρόχο ανίχνευσης και απόκρισης, θα είσαι πολύ αργός."

Έτσι, δεν υπάρχει τρόπος να κάνεις τον επόμενο χρόνο όμορφο. Αυτός είναι ο καλύτερος τρόπος να το πω.

Kevin Mandia, a16z, κυκλοφόρησε στις 6 Οκτωβρίου 2026, πηγή

Το πλαισιώνει ως ένα παράθυρο όπου η επίθεση έχει το πλεονέκτημα, και λέει ότι οι επιτιθέμενοι στο Ιράν ή τη Ρωσία αισθάνονται "μια απελπισία σε μια στιγμή του μπες τώρα." Αυτό είναι επίσης μια πώληση για την αυτόνομη άμυνα, και έχει μια αποτίμηση 2,5 δισεκατομμυρίων δολαρίων που εξαρτάται από αυτό. Είναι επίσης η πιο συγκεκριμένη πρόβλεψη που έδωσε οποιοσδήποτε από τους τρεις.

Άρα, η επιβράδυνση των εργαστηρίων κάνει κανέναν πιο ασφαλή από τους χάκερ AI;

Με βάση αυτά τα στοιχεία, όχι πολύ. Το ισχυρότερο δεδομένο της ημέρας λέει ότι τα μοντέλα ανοιχτού βάρους ήδη ταιριάζουν με τα κλειστά σε πραγματικές εισβολές, μόλις τους δοθεί χρόνος. Αυτό καθιστά την επιβράδυνση σε μια χούφτα αμερικανικών εργαστηρίων ένα αδύναμο εργαλείο ενάντια σε εγκληματίες και κράτη που τρέχουν ανοιχτά μοντέλα σε ενοικιαζόμενες GPU. Αυτό που υποστηρίζουν πραγματικά οι διευθύνοντες σύμβουλοι εταιρειών ασφαλείας είναι ότι τα χρήματα πρέπει να πάνε στην παρακολούθηση των πρακτόρων, στην καταγραφή τους και στην ταχεία διακοπή τους. Αυτό είναι ιδιοτελές, και είναι πιθανώς σωστό. Το ανοιχτό ερώτημα είναι αυτό που έθεσε ο Mandia και ο Kurtz προσπέρασε. Οκτώ στα 20 είναι ο αριθμός σήμερα. Κανείς στην κάμερα δεν είπε τι συμβαίνει όταν φτάσει στα 15.