Ο Amodei θέλει αξιολογητές μέσα στα εργαστήρια και ο AI τσάρος το αποκαλεί επιχείρηση

Το Σάββατο 12 Σεπτεμβρίου ο Dario Amodei δημοσίευσε ένα δοκίμιο ζητώντας από τη βιομηχανία AI να επιβραδύνει, και στη συνέχεια κάθισε με τον Anderson Cooper και είπε ότι συμφωνεί με τον ερευνητή που μόλις είχε παραιτηθεί από την Anthropic και είχε πει στη χώρα ότι η τεχνολογία θα μπορούσε να σκοτώσει τους πάντες. Μέσα σε λίγες ώρες η πρόταση είχε δημόσια υποστήριξη από τον Sam Altman και τον Elon Musk. Είχε επίσης, μια μέρα νωρίτερα, χαρακτηριστεί επιχείρηση που στοχεύει στην καταστροφή του λογισμικού ανοιχτού κώδικα από τον ίδιο τον σύμβουλο AI του προέδρου. Διάβασα και τις τρεις συνομιλίες ολόκληρες. Η διαφωνία δεν αφορά πραγματικά το πόσο επικίνδυνα είναι τα μοντέλα. Είναι ότι κάθε μηχανισμός ασφάλειας που προτάθηκε την περασμένη εβδομάδα τυχαίνει να ενισχύει όποιον τον πρότεινε.

Ο Amodei δεν αποστασιοποιήθηκε από τον doomer

Ο Jacob Coxon παραιτήθηκε από την Anthropic στις 9 Σεπτεμβρίου μετά από τρία χρόνια προ-εκπαίδευσης μοιρασμένα μεταξύ OpenAI και Anthropic, γράφοντας ότι καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Η προφανής κίνηση για έναν CEO είναι να το χαρακτηρίσει υπερβολικό και να προχωρήσει. Στο CNN ο Amodei είπε ότι συμφωνεί με τον Coxon πολύ περισσότερο από όσο διαφωνεί, και στη συνέχεια τον υπερασπίστηκε.

"Δεν μας κατήγγειλε εμάς. Κατήγγειλε τη δυναμική της βιομηχανίας στο σύνολό της που κινείται πολύ γρήγορα."

Dario Amodei, 12 Σεπτεμβρίου 2026, συνέντευξη στο CNN

Η πρόταση, We Must Pace the Frontier, έχει τρία βήματα που γίνονται πιο δύσκολα όσο προχωράς. Η Anthropic δεσμεύεται πρώτα και μόνη της να επιτρέψει σε μια εξωτερική ομάδα αναθεώρησης να εργαστεί μέσα στην εταιρεία με γραφεία, ταυτότητες, φορητούς υπολογιστές και άδειες όπως μια εσωτερική ομάδα κινδύνου, και να επιτρέψει σε αυτή την ομάδα να δημοσιεύσει τα ευρήματά της χωρίς η Anthropic να έχει συντακτικό έλεγχο. Στη συνέχεια, τα εργαστήρια αιχμής στις δημοκρατίες συμφωνούν σε κοινά πρότυπα. Μετά κάποιος προσπαθεί την ίδια συζήτηση με την Κίνα. Ο Amodei κατέφυγε στη ρύθμιση των τραπεζών για να εξηγήσει το πρώτο βήμα. Οι επόπτες κάθονται στο κτίριο κάθε μέρα και ελέγχουν τις πρακτικές αντί να διαβάζουν αργότερα τις αναφορές.

Το βασικό αίτημα είναι μια αντιμονοπωλιακή εξαίρεση

Τα βήματα ένα και δύο είναι εθελοντικά. Μόνο ένα πράγμα στο δοκίμιο χρειάζεται την κυβέρνηση να δράσει, και ο Amodei το είπε καθαρά. Οι εταιρείες δεν μπορούν νόμιμα να συμφωνήσουν μεταξύ τους για το πόσο γρήγορα θα κυκλοφορήσουν προϊόντα.

"μπορεί να καθίσει στο δωμάτιο με όλους τους παίκτες της βιομηχανίας και να μιλήσουμε όλοι μαζί και η κυβέρνηση να διασφαλίσει ότι δεν κάνουμε τίποτα κακόβουλο από την άποψη των αντιμονοπωλιακών κανόνων και της σύμπραξης."

Dario Amodei, 12 Σεπτεμβρίου 2026, συνέντευξη στο CNN

Αυτό είναι όλο το παιχνίδι και δεν καλύπτεται σχεδόν καθόλου. Μια στενή εξαίρεση είναι πώς ο χρόνος κυκλοφορίας γίνεται κάτι που οι μεγαλύτεροι πάροχοι μοντέλων μπορούν νόμιμα να συζητούν μεταξύ τους. Ο Amodei δεν το κρύβει. Το δοκίμιο λέει ότι η κυβέρνηση δεν χρειάζεται να συμμετάσχει, μόνο να εκδώσει την εξαίρεση. Το αν αυτό διαβάζεται ως συνετό ή ως καρτέλ με συνοδό εξαρτάται από το πόσο εμπιστεύεσαι το δωμάτιο.

Ο Sacks λέει ότι η πρόταση είναι το ζητούμενο

Ο David Sacks μίλησε στο Open Source AI Summit στο Presidio στις 11 Σεπτεμβρίου, μια μέρα πριν δημοσιευθεί το δοκίμιο. Όταν του ζητήθηκε να διαβάσει την εβδομάδα πολιτικά, δεν ασχολήθηκε ποτέ με το επιχείρημα περί κινδύνου. Πήγε κατευθείαν στο ποιος ωφελείται.

"Νομίζω ότι αυτό που συμβαίνει τώρα είναι μέρος μιας μεγαλύτερης εκστρατείας της οποίας ο στόχος είναι τελικά το AI ανοιχτού κώδικα. Δεν είναι ο μόνος στόχος. Αλλά θα πρέπει να καταλάβετε ότι το AI ανοιχτού κώδικα είναι ο πραγματικός στόχος εδώ."

David Sacks, 11 Σεπτεμβρίου 2026, Open Source AI Summit

Το επιχείρημά του είναι μια ακολουθία τριών κινήσεων που λέει ότι μπορεί ήδη να δει να έρχεται. Οι ρυθμιστικές αρχές υπόσχονται ότι κανείς δεν θέλει να απαγορεύσει τα ανοιχτά βάρη, θέλουν μόνο να είναι ασφαλή. Στη συνέχεια, οι απαιτήσεις ισχύουν εξίσου για ανοιχτά και κλειστά μοντέλα, επειδή η ίση μεταχείριση ακούγεται δίκαιη. Τότε κάποιες από αυτές τις απαιτήσεις αποδεικνύονται κεντρική παρακολούθηση και η δυνατότητα ανάκλησης ενός μοντέλου, κάτι που ένα αρχείο βαρών που έχει ληφθεί φυσικά δεν μπορεί να κάνει. Έχει δίκιο για τη μηχανική, και ο Amodei έχει πει το ίδιο πράγμα υπό όρκο.

Στη συνέχεια προχώρησε παραπέρα, και εδώ θα ζητούσα αποδείξεις.

"πώς δημοσίευσε η Wall Street Journal τα νέα για την καταιγίδα tweets σας 18 λεπτά πριν τα δημοσιεύσετε; Προφανώς καθίσατε με τη Wall Street Journal"

David Sacks, 11 Σεπτεμβρίου 2026, Open Source AI Summit

Μια συντονισμένη δημοσιογραφική προβολή και μια κατασκευασμένη πεποίθηση είναι διαφορετικοί ισχυρισμοί, και ολισθαίνει μεταξύ τους. Επίσης, υπερβάλλει για τη δική του πλευρά, λέγοντας στο κοινό ότι η επιστολή υπέρ των ανοιχτών βαρών με επικεφαλής τη Nvidia και τη Microsoft είχε "μερικές εκατοντάδες υπογράφοντες." Είχε 25, με τις OpenAI, Anthropic και Google να απουσιάζουν. Μια λεπτομέρεια τον υποστηρίζει, ωστόσο. Στις 11 Σεπτεμβρίου χρησιμοποίησε τη φράση "pacing the frontier" σε εισαγωγικά, μια ολόκληρη μέρα πριν εμφανιστεί το δοκίμιο με αυτόν τον τίτλο.

Ο Gerstner επιτέθηκε στον αγγελιοφόρο, στη συνέχεια ενέκρινε το μήνυμα

Ο Brad Gerstner είναι επενδυτής και στην Anthropic και στην OpenAI, όπως αποκαλύφθηκε στα πρώτα τριάντα δευτερόλεπτα μιας εμφάνισης στο Halftime Report στις 11 Σεπτεμβρίου που χτίστηκε εξ ολοκλήρου γύρω από την αντίκρουσή του.

"αυτό που δεν μου άρεσε αυτή την εβδομάδα είναι αυτές οι υπερβολικές τακτικές τρόμου, οι οποίες νομίζω ότι κρύβονται πίσω από μια πολιτική ατζέντα"

Brad Gerstner, 11 Σεπτεμβρίου 2026, CNBC Halftime Report

Η απογραφή του για τους ελέγχους που ήδη υπάρχουν είναι το πιο χρήσιμο πράγμα που είπε κανείς όλη την εβδομάδα. Αναφέρθηκε στην κυβέρνηση που ανάγκασε την Anthropic να αποσύρει το πιο ικανό μοντέλο της, στο πλαίσιο προ-έκδοσης αναθεώρησης, και στη δική της έκθεση 154 σελίδων για κακή χρήση από τις 10 Σεπτεμβρίου, η οποία τεκμηριώνει εργασίες πυραύλων των Χούθι και μια εκστρατεία απόσταξης της Alibaba που κορυφώθηκε κοντά στα τρία εκατομμύρια ανταλλαγές την ημέρα. Μια διόρθωση. Πίστωσε το Υπουργείο Οικονομικών και το Εμπόριο από κοινού, αλλά η κατάργηση ήταν μια εντολή του Εμπορίου στις 12 Ιουνίου που απαγόρευε την πρόσβαση σε οποιονδήποτε μη Αμερικανό πολίτη οπουδήποτε, την οποία η Anthropic δεν μπορούσε να εφαρμόσει επιλεκτικά. Στη συνέχεια ζήτησε κάτι πιο παράξενο.

"Θέλω μια μικρή έρευνα: ποιος κρύβεται πίσω από όλη αυτή την αρνητικότητα; Είναι συντονισμένη; Από πού έρχονται τα χρήματα;"

Brad Gerstner, 11 Σεπτεμβρίου 2026, CNBC Halftime Report

Κάποιος που υποστηρίζει ότι οι ρυθμιστικές αρχές πρέπει να μείνουν έξω από την αγορά του, ζητώντας από την κυβέρνηση να ερευνήσει ποιος χρηματοδοτεί τους επικριτές του, δεν κάνει επιχείρημα. Η αποκάλυψη ήρθε μια μέρα αργότερα. Μόλις το πραγματικό κείμενο έγινε δημόσιο, το BBC ανέφερε ότι ο Gerstner αποκάλεσε την πρόταση του Amodei σημαντικό βήμα προόδου. Δεν πολεμούσε ποτέ την ουσία. Πολεμούσε ένα βραδινό δελτίο ειδήσεων που έφτασε μέχρι την ίδια του την αδελφή.

Η Anthropic έτρεξε ήδη αυτό το πείραμα στον εαυτό της

Η καλύτερη απόδειξη για το τι σημαίνει η λέξη ασφάλεια εδώ ήρθε από ένα podcast που δεν αναφέρει ποτέ τον Coxon. Ο Ben Thompson ηχογράφησε ένα επεισόδιο Sharp Tech γύρω στις 2 Σεπτεμβρίου που το YouTube δεν δημοσίευσε μέχρι τις 11 Σεπτεμβρίου, και αφορά την άλλη ιστορία της Anthropic. Τον Ιούνιο η εταιρεία είπε στους επιχειρηματικούς πελάτες ότι θα διατηρούσε την κίνησή τους για 30 ημέρες στα μοντέλα αιχμής της, δικαιολογώντας το ως άμυνα ενάντια σε νέες κυβερνοεπιθέσεις. Οι πελάτες αρνήθηκαν. Την 1η Σεπτεμβρίου η Anthropic υποχώρησε, υποσχέθηκε ένα υποκατάστατο που ονομάζεται Enterprise Frontier Safeguards για κάποια στιγμή αυτό το φθινόπωρο, και επανέφερε τη μηδενική διατήρηση δεδομένων στο μεταξύ.

"Και το γεγονός ότι θα κάνουν μηδενική διατήρηση δεδομένων μέχρι να είναι διαθέσιμο αυτό το νέο πρόγραμμα είναι η αποκάλυψη. Αυτό δεν αφορούσε την ασφάλεια. Αν αφορούσε την ασφάλεια, δεν θα το έκανες."

Ben Thompson, ηχογραφημένο αρχές Σεπτεμβρίου, δημοσιευμένο 11 Σεπτεμβρίου 2026, Sharp Tech

Διαβάστε αυτό δίπλα στο δοκίμιο για το pacing. Ένα σκεπτικό ασφάλειας που εξατμίστηκε τη στιγμή που οι επιχειρηματικοί αγοραστές απείλησαν να φύγουν δεν αποδεικνύει ότι το επιχείρημα περί εξαφάνισης είναι ανειλικρινές. Αποδεικνύει ότι οι ισχυρισμοί ασφάλειας εδώ επιβιώνουν ακριβώς όσο είναι προσιτοί. Ο Thompson βγάζει το συμπέρασμα στο οποίο καταλήγω συνεχώς.

"Ένας έλεγχος της αγοράς. Και είναι ο μόνος έλεγχος που κλιμακώνεται στο μέγεθος και τη δύναμη αυτών των εταιρειών."

Ben Thompson, δημοσιευμένο 11 Σεπτεμβρίου 2026, Sharp Tech

Ένα άτομο περιέγραψε ότι φοβήθηκε από ένα προϊόν αντί για ένα tweet

Όλα τα παραπάνω είναι άνθρωποι που διαφωνούν για έναν κύκλο μέσων ενημέρωσης. Ο Dave Morin άνοιξε το επεισόδιο της 11ης Σεπτεμβρίου με το ίδιο πλαίσιο συνωμοσίας με τον Sacks, και στη συνέχεια το άφησε. Χρησιμοποιούσε το Astra της OpenAI. Ο δωδεκάχρονος γιος του έχτισε ένα τρισδιάστατο μοντέλο σε μια ώρα και το έβαλε στον εκτυπωτή.

"Αυτό το πράγμα λειτουργεί σε τρισδιάστατο χώρο με ταχύτητα και με ένα 12χρονο που αν ήσουν πραγματικά κακός άνθρωπος, θα μπορούσες να βρεις τρόπους να το χρησιμοποιήσεις με τρόπους που είναι πραγματικά τρομακτικοί."

Dave Morin, 11 Σεπτεμβρίου 2026, podcast Dave, Brit and Jess

Επίσης, ανέφερε το κενό στη λίστα του Gerstner. Οι άνθρωποι που διευθύνουν τα εργαστήρια συνεχίζουν να του λένε ότι αυτό που χρησιμοποιούν εσωτερικά είναι ανησυχητικό, και ότι το να σταματήσουν δεν είναι διαθέσιμο σε αυτούς.

"Δεν μπορούμε να επιβραδύνουμε γιατί πρέπει να συνεχίσουμε να δημιουργούμε τις αποδόσεις για τους επενδυτές."

Dave Morin, 11 Σεπτεμβρίου 2026, podcast Dave, Brit and Jess

Λοιπόν, αλλάζει κάτι από αυτό τι κυκλοφορεί

Ομοσπονδιακά, όχι, και όχι σύντομα. Ο Sacks αναμένει ότι ο Λευκός Οίκος θα παραμείνει στην ελαφριά πλευρά για τουλάχιστον δύο χρόνια και λέει ότι ο αγώνας έχει μεταφερθεί σε περισσότερα από 1.500 νομοσχέδια στα νομοθετικά σώματα των πολιτειών, όπου η Anthropic και η OpenAI έχουν επιχειρήσεις λόμπι και η κοινότητα ανοιχτών βαρών δεν έχει καμία. Τίποτα στο δοκίμιο για το pacing δεν δεσμεύει κανέναν, συμπεριλαμβανομένης της Anthropic.

Δύο πράγματα θα σας έλεγαν ότι το επιχείρημα έγινε πραγματικό. Πρώτον, η αντιμονοπωλιακή εξαίρεση. Εάν το Εμπόριο ή το Υπουργείο Δικαιοσύνης εκδώσει μια στενή εξαίρεση ασφάλειας, οι ανταγωνιστές αποκτούν ένα νόμιμο δωμάτιο στο οποίο μπορούν να συζητήσουν τον χρόνο κυκλοφορίας, και αυτό αναδιαμορφώνει την αγορά περισσότερο από οποιοδήποτε κρατικό νομοσχέδιο. Δεύτερον, αν η OpenAI ή η Google ανταποκριθούν στη δέσμευση ενσωματωμένου αξιολογητή με μια εξωτερική ομάδα που μπορεί να δημοσιεύει χωρίς βέτο. Μέχρι να συμβεί ένα από αυτά, η ειλικρινής ανάγνωση είναι ότι τέσσερις ισχυροί άνθρωποι πέρασαν μια εβδομάδα περιγράφοντας το καθεστώς ασφάλειας που θα τους ταίριαζε καλύτερα, και το μόνο πράγμα που πραγματικά ανάγκασε την Anthropic να αντιστρέψει μια απόφαση φέτος ήταν μια ομάδα επιχειρηματικών πελατών που αρνήθηκαν να παραδώσουν τα δεδομένα τους.