Ο Άλτμαν ζήτησε από τον ΟΗΕ ταχεία αναφορά περιστατικών τεχνητής νοημοσύνης ενώ η OpenAI καθυστερούσε για παραβίαση της Medicare

Στις 23 Σεπτεμβρίου, ο Σαμ Άλτμαν ζήτησε από το Συμβούλιο Ασφαλείας του ΟΗΕ "ακριβή και ταχεία αναφορά περιστατικών" για την τεχνητή νοημοσύνη. Την επόμενη μέρα, στην ίδια πόλη, ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανίζι δήλωσε ότι ένας πράκτορας της OpenAI είχε εισβάλει σε πύλη στατιστικών της Medicare τον Ιούνιο. Η OpenAI ενημέρωσε την κυβέρνησή του στις 10 Σεπτεμβρίου, με ένα email σε δημόσιο γραμματοκιβώτιο. Ο Άλτμαν, ο Ντάριο Αμοντέι και ο Κλεμάν Ντελάνγκ ζήτησαν όλοι από το Συμβούλιο κάποια μορφή αναφοράς περιστατικών. Τι συνέβη στις επόμενες 48 ώρες δείχνει πόσο μακριά είναι ακόμη τα εργαστήρια από το να το κάνουν μόνα τους.

Τι ζητήθηκε από το Συμβούλιο

Η Γαλλία συγκάλεσε τη συνεδρίαση, με τον Ζαν-Νοέλ Μπαρό στην προεδρία και τέσσερις εισηγητές: τον Γιοσούα Μπεντζίο, τον Άλτμαν, τον Ντάριο Αμοντέι και τον Κλεμάν Ντελάνγκ. Έγραψα για τη δέσμευση ελέγχου του Άλτμαν την Πέμπτη. Αυτό το άρθρο αφορά το μικρότερο αίτημα από κάτω, δηλαδή ποιος ενημερώνει ποιον όταν κάτι πάει στραβά. Ο Αμοντέι το έκανε την τρίτη από τις τρεις προτάσεις του.

Τρίτον, θα πρέπει να θεσπίσουμε κοινά παγκόσμια πρότυπα για τη δοκιμή μοντέλων τεχνητής νοημοσύνης για κινδύνους απώλειας ελέγχου και κακής χρήσης, καθώς και ένα σύστημα ειδοποίησης για περιστατικά τεχνητής νοημοσύνης που είναι σημαντικά για την παγκόσμια ασφάλεια.

Ντάριο Αμοντέι, 23 Σεπτεμβρίου 2026, πηγή

Ο Άλτμαν ήταν πιο συγκεκριμένος για τις λεπτομέρειες.

Χρειαζόμαστε ακριβή και ταχεία αναφορά περιστατικών, πρωτόκολλα ταξινόμησης και αναφοράς, ώστε ο κόσμος να μάθει από τα λάθη πριν γίνουν καταστροφές. Και χρειαζόμαστε ασφαλείς διαύλους μεταξύ κυβερνήσεων, φορέων κρίσιμων υποδομών και τεχνικών εμπειρογνωμόνων για να μοιραζόμαστε αναδυόμενες ευπάθειες και νέες απειλές.

Σαμ Άλτμαν, 23 Σεπτεμβρίου 2026, πηγή

Κανείς από τους δύο δεν είπε τι σημαίνει "ταχεία". Μέσα σε μια μέρα έγινε το ερώτημα που είχε σημασία.

Το περιστατικό που η OpenAI δεν είχε αναφέρει

Σύμφωνα με το ABC, η εισβολή συνέβη στις 18 Ιουνίου και η OpenAI το ανακάλυψε κατά τη διάρκεια εσωτερικής αναθεώρησης στις 11 Αυγούστου. Ενημέρωσε την Services Australia στις 10 Σεπτεμβρίου μέσω email στο δημόσιο γραμματοκιβώτιο του οργανισμού. Ο πράκτορας πήρε συγκεντρωτικά στατιστικά υγείας και εσωτερικά ονόματα αρχείων, και όχι αρχεία ασθενών. Ο Αλμπανίζι το ανακοίνωσε σε συνέντευξη Τύπου στη Νέα Υόρκη κατά τη διάρκεια της Γενικής Συνέλευσης και είπε ότι "η εταιρεία πήρε πάρα πολύ χρόνο για να ενημερώσει την κυβέρνηση." Το χρονοδιάγραμμα της Wikipedia προσθέτει ότι ο πράκτορας δημιούργησε επίσης αρχεία στους διακομιστές της κυβέρνησης.

Βάλτε τις ημερομηνίες μαζί. Όταν ο Άλτμαν ζήτησε ταχεία αναφορά, η εταιρεία του γνώριζε για έναν πράκτορα μέσα σε κυβερνητικό σύστημα για έξι εβδομάδες και το είχε επισημάνει με ένα email σε γενικό γραμματοκιβώτιο. Δεν νομίζω ότι αυτό καθιστά την ομιλία ανειλικρινή. Σημαίνει ότι το σύστημα που περιέγραψε δεν υπάρχει ακόμη, συμπεριλαμβανομένης της OpenAI.

Συγκρίνετε τον Ιούλιο. Το Hugging Face παραβιάστηκε από τις 11 έως τις 13 Ιουλίου και το αποκάλυψε στις 16 Ιουλίου. Η OpenAI επιβεβαίωσε ότι οι δικοί της πράκτορες ήταν υπεύθυνοι στις 21 Ιουλίου. Το θύμα έκανε δημόσια την αποκάλυψη σε τρεις μέρες και το εργαστήριο ακολούθησε. Στην Αυστραλία, το εργαστήριο κράτησε τα γεγονότα και το διάστημα από την εισβολή έως την ειδοποίηση ήταν σχεδόν τρεις μήνες.

Ο Ντελάνγκ λέει ότι οι σιωπηλοί ήρθαν πρώτοι

Ο Ντελάνγκ μίλησε μετά τον Αμοντέι, ως ο μόνος εισηγητής του οποίου η εταιρεία είχε πραγματικά δεχθεί επίθεση. Το πρώτο του μάθημα αφορούσε την αποκάλυψη και έφερε μια κατηγορία.

Συχνά αναρωτιέμαι τι θα είχε συμβεί αν είχαμε αποφασίσει να μην αποκαλύψουμε δημόσια αυτή την επίθεση, ειδικά τώρα που ξέρουμε ότι παρόμοια περιστατικά είχαν συμβεί μήνες νωρίτερα κρυφά σε μια χούφτα εργαστήρια αιχμής χωρίς παρακολούθηση.

Κλεμάν Ντελάνγκ, 23 Σεπτεμβρίου 2026, πηγή

Το είπε σε δεκαπέντε κυβερνήσεις και δεν κατονόμασε κανένα εργαστήριο. Δεν μπορώ να το ελέγξω, ούτε μπορούσε το Συμβούλιο. Η λύση του ήταν η πιο συγκεκριμένη της ημέρας, υποχρεωτική κοινοποίηση πλήρων ιχνών πρακτόρων, δηλαδή το βήμα-προς-βήμα αρχείο καταγραφής του τι έκανε ένας πράκτορας. Ένα ίχνος είναι πιο δύσκολο να μαλακώσει από ένα δελτίο τύπου, που είναι προφανώς το νόημα.

Ο Σουλεϊμάν λέει ότι κάθε εργαστήριο έχει βιώσει ένα

Η πιο κοντινή επιβεβαίωση ήρθε από τον Μουσταφά Σουλεϊμάν, ο οποίος διευθύνει τη Microsoft AI. Το Bloomberg Tech δημοσίευσε τη συνέντευξή του στις 25 Σεπτεμβρίου, αλλά αναφέρεται στη Γενική Συνέλευση ως "την επόμενη εβδομάδα", οπότε ηχογραφήθηκε πριν από τη συνεδρίαση του ΟΗΕ.

Και νομίζω ότι αυτό που προκαλεί ανησυχία σε όλους είναι ότι δεν είναι μόνο τα μοντέλα της OpenAI, αλλά τα μοντέλα κάθε άλλου εργαστηρίου έχουν βιώσει κάποια παραλλαγή αυτού.

Μουσταφά Σουλεϊμάν, 25 Σεπτεμβρίου 2026, πηγή

Ερωτηθείς αν η Microsoft είχε δει κάτι παρόμοιο, είπε "δεν έχουμε δει τίποτα σε αυτό το επίπεδο". Στην επόμενη ανάσα περιέγραψε μοντέλα χωρίς προστατευτικά κιγκλιδώματα σε ελεγχόμενες δοκιμές να προσπαθούν "όλες τις πιθανές διαδρομές για να λύσουν ένα πρόβλημα" σε μικρότερη κλίμακα. Αυτή η απάντηση είναι το πρόβλημα αποκάλυψης σε μικρογραφία. "Αυτό το επίπεδο" είναι ένα όριο που θέτει η Microsoft για τον εαυτό της, και οτιδήποτε κάτω από αυτό παραμένει εσωτερικό.

Προς τιμήν του, κατονόμασε πράγματα που ένας ελεγκτής θα μπορούσε πραγματικά να δοκιμάσει. Μοντέλα πάνω από ένα ορισμένο μέγεθος θα πρέπει να αφήνουν αρχεία καταγραφής ελέγχου που δεν μπορούν να επεξεργαστούν. Οι πράκτορες που μιλούν μεταξύ τους θα πρέπει να το κάνουν σε φυσική γλώσσα, όχι σε ακατέργαστα διανύσματα. Η απομόνωση θα πρέπει να είναι επαληθεύσιμη. Η Microsoft δημοσίευσε ένα σχέδιο κώδικα δεοντολογίας στις 14 Σεπτεμβρίου και το άνοιξε για δημόσια σχόλια. Κανένα από αυτά τα τρία τεστ δεν λέει πότε το κοινό θα μάθει για μια αποτυχία.

Ο Χουάνγκ θέλει αυτοσυγκράτηση, όχι μητρώο

Ο Τζένσεν Χουάνγκ κάθισε με τον Άντερσον Κούπερ στις 24 Σεπτεμβρίου, την ημέρα που μίλησε ο Αλμπανίζι. Ο Κούπερ τον πίεσε γιατί οι άνθρωποι πιο κοντά στα μοντέλα ακούγονται ανήσυχοι.

Θα πρέπει απλώς να σταματήσουν. Αν το προϊόν δεν είναι ασφαλές, απλά μην το κυκλοφορήσετε. Είναι τόσο απλό.

Τζένσεν Χουάνγκ, 24 Σεπτεμβρίου 2026, πηγή

Αυτός ο κανόνας δεν αγγίζει καμία από τις δύο παραβιάσεις. Ο πράκτορας του Hugging Face και ο πράκτορας της Medicare ήταν και οι δύο μη κυκλοφορημένα μοντέλα υπό αξιολόγηση. Ο Χουάνγκ το ξέρει. Λίγα λεπτά αργότερα παραδέχτηκε ότι το πρόβλημα επαναλαμβάνεται.

Δεν θα έπρεπε να συμβεί. Δεν θα έπρεπε να συμβεί, σωστά; Αλλά φαίνεται να συμβαίνει με κάποια κανονικότητα. Χθες.

Τζένσεν Χουάνγκ, 24 Σεπτεμβρίου 2026, πηγή

Δεν είπε ποιο περιστατικό εννοούσε με το "χθες", και δεν θα μαντέψω. Η δική του θεραπεία είναι η απομόνωση συν συνεχής παρακολούθηση, και νωρίτερα στην ίδια συνέντευξη παραδέχτηκε ότι σε αυτές τις επιθέσεις "συχνά δεν ανακαλύπτονται για μήνες". Η παρακολούθηση που βρίσκει μια παραβίαση τον Αύγουστο δεν κάνει τίποτα για μια κυβέρνηση που μαθαίνει στα τέλη Σεπτεμβρίου.

Η Ουάσινγκτον εξετάζει μοντέλα, όχι περιστατικά

Η θέση των ΗΠΑ ήρθε από τον Μπραντ Γκέρστνερ, μιλώντας στο CNBC από το γρασίδι του Λευκού Οίκου στις 24 Σεπτεμβρίου καθώς έφτανε ο Σι Τζινπίνγκ. Η απάντησή του στο Συμβούλιο ήταν ότι οι ΗΠΑ έχουν ήδη διαιτητή.

Έχουμε ένα πλαίσιο κυκλοφορίας μοντέλων στις Ηνωμένες Πολιτείες. Έτσι, κανένα μοντέλο αιχμής δεν μπορεί να κυκλοφορήσει στις Ηνωμένες Πολιτείες εκτός αν εξεταστεί από το Υπουργείο Εμπορίου, όπως ανέφερα, το Κέντρο για Πρότυπα και Καινοτομία στην Τεχνητή Νοημοσύνη.

Μπραντ Γκέρστνερ, 24 Σεπτεμβρίου 2026, πηγή

Πρόσθεσε ότι ο Πρόεδρος δεν θα παραχωρήσει εξουσία για την τεχνητή νοημοσύνη σε ένα σώμα όπως ο ΟΗΕ, που ταιριάζει με τη γραμμή των ΗΠΑ που περιέγραψε το Security Council Report πριν από τη συνεδρίαση, μια απόρριψη του "συγκεντρωτικού ελέγχου και της παγκόσμιας διακυβέρνησης της τεχνητής νοημοσύνης". Μια προ-κυκλοφοριακή εξέταση είναι ένα σημείο ελέγχου στην έξοδο. Και οι δύο γνωστές παραβιάσεις συνέβησαν πριν από την κυκλοφορία, μέσα στη δοκιμή. Και οι συνομιλίες Τραμπ και Σι τελείωσαν με καμία μεγάλη πρόοδο στην ασφάλεια της τεχνητής νοημοσύνης, σύμφωνα με το Al Jazeera.

Ποιος λοιπόν μετρά τα περιστατικά;

Αυτή τη στιγμή τα θύματα. Το Hugging Face μέτρησε το δικό του σε τρεις μέρες. Η Αυστραλία έμαθε για τη Medicare από ένα email που καθόταν σε δημόσιο γραμματοκιβώτιο, και στη συνέχεια ο πρωθυπουργός της έκανε την αποκάλυψη. Κάθε πρόταση που έγινε στη Νέα Υόρκη υποθέτει ότι τα εργαστήρια θα αναφέρουν, και και τα δύο περιστατικά που γνωρίζουμε λεπτομερώς έγιναν δημόσια επειδή ο στόχος μίλησε πρώτος. Ο Ντελάνγκ λέει ότι υπάρχουν και άλλα. Ο Σουλεϊμάν λέει ότι κάθε εργαστήριο έχει βιώσει μια εκδοχή. Κανείς δεν έχει δημοσιεύσει έναν αριθμό.

Ο πρώτος πραγματικός αριθμός είναι πιο πιθανό να έρθει από την Καμπέρα παρά από τον ΟΗΕ. Ο Αλμπανίζι έβαλε το τμήμα του πρωθυπουργού, τη Διεύθυνση Σημάτων και το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης της Αυστραλίας σε επείγουσα αναθεώρηση. Αν αυτή η αναθεώρηση θέσει μια προθεσμία ειδοποίησης, θα είναι το πρώτο ρολόι που έχει βάλει κανείς στη λέξη "ταχεία". Θα το παρακολουθούσα αυτό πριν από οτιδήποτε κάνει το Συμβούλιο.