Altman pidió reglas de IA a la ONU mientras Zuckerberg presentó la distribución como plan de seguridad

El 23 de septiembre, Sam Altman se sentó en la cámara del Consejo de Seguridad y dijo a los diplomáticos que la industria de la IA no puede confiar en sí misma para arbitrar. Ese mismo día, tarde en California, Mark Zuckerberg abrió Meta Connect con una teoría de seguridad diferente. Pon el agente en manos de todos y deja que la difusión haga la verificación. Ambos dijeron que el peligro es que el poder de la IA esté en manos de unas pocas empresas. Donde se separan es en quién lo detiene, y esa separación importa más que cualquier cosa que hayan lanzado esta semana.

Lo que Altman pidió realmente

La sesión fue de Francia, presidida por el ministro de Asuntos Exteriores Jean-Noël Barrot, con cuatro ponentes: Yoshua Bengio, Altman, Dario Amodei y Clément Delangue de Hugging Face. Ese último nombre es incómodo para OpenAI. En julio, la empresa reveló que uno de sus modelos escapó de un entorno de pruebas y hackeó Hugging Face, como contó Fortune el día de la reunión.

La lista de Altman fue concreta. Quiere estándares compartidos para medir capacidades, informes de incidentes y canales seguros entre gobiernos. Luego puso un listón.

No importa si la gente sitúa el riesgo de catástrofe en el 10% o el 1% o el 12% o el 0,1%. Ninguno de estos niveles es remotamente aceptable y no deberíamos entrenar modelos que no podamos demostrar con argumentos muy sólidos que podremos mantener bajo control humano.

Sam Altman, 23 de septiembre de 2026, fuente

Leído literalmente, es una promesa de no entrenar un modelo a menos que OpenAI pueda demostrar que seguirá siendo controlable. Nadie fuera de la empresa puede verificar esa promesa hoy. Esa es la razón por la que quiere estándares escritos por otros.

La carrera en la que dice que OpenAI no está

La frase que le exigiría llegó un minuto antes. Dijo que la competencia no es excusa para decisiones precipitadas, y fue más allá.

Tampoco creemos que estemos en una carrera en la que no podamos hacer eso. En el pasado hemos frenado unilateralmente. Lo haremos en el futuro.

Sam Altman, 23 de septiembre de 2026, fuente

En el mismo discurso usó un resultado que nadie anuncia mientras frena. Dijo al Consejo que uno de los modelos de OpenAI resolvió el problema de Navier-Stokes, uno de los problemas del Premio del Milenio de $1 millón del Clay Institute, este verano. Esa parte se confirma. Quanta informó el 8 de septiembre que la prueba, que muestra una explosión, fue verificada en Lean. Charles Fefferman de Princeton llamó a Diego Córdoba y Luis Martínez-Zoroa, dos matemáticos humanos, "los héroes de la historia". Así que la afirmación es real, y también lo es la disputa por el crédito. En cualquier caso, te dice lo rápido que se mueve el laboratorio.

El gobierno de EE. UU. no estaba de su lado de la mesa. El día anterior, el presidente Trump dijo a la Asamblea General que Estados Unidos "rechaza totalmente" cualquier "esquema globalista" para controlar la IA, según el mismo artículo de Fortune. La frase final de Altman parece una respuesta.

Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarse solo en los laboratorios de San Francisco.

Sam Altman, 23 de septiembre de 2026, fuente

La versión de Zuckerberg viene con una comisión por transacción

Zuckerberg abrió Connect rechazando también la concentración, con casi las mismas palabras. Luego sacó la conclusión opuesta sobre qué mantiene segura la IA.

Y que el camino hacia un futuro seguro es distribuir esta tecnología ampliamente y crear los contrapesos adecuados en lugar de concentrarla en manos de unos pocos.

Mark Zuckerberg, 24 de septiembre de 2026, fuente

Observa quién son los contrapesos en su versión. No hay regulador en el discurso principal. Lo que describe es un número muy grande de personas ejecutando cada una Muse, el agente personal de Meta, en una máquina virtual privada que Meta aloja. También fue claro sobre cómo se paga.

Creemos que Muse te hará ganar dinero y respaldamos esto haciendo Muse gratuito para una gran cantidad de tokens con la expectativa de que con el tiempo obtengamos ganancias al cobrar una pequeña comisión por transacciones.

Mark Zuckerberg, 24 de septiembre de 2026, fuente

Eso es un negocio de pagos. Alexandr Wang, que dirige Meta Superintelligence Labs, le siguió en el escenario y nombró a Walmart, Best Buy, Gap, Sephora y Wayfair como minoristas que se conectan a Muse, con Stripe, Shopify y PayPal manejando el dinero. Si Muse funciona, una pequeña parte de un volumen muy grande de compras va a una sola empresa. Puedes llamarlo distribución. Yo lo llamaría un peaje que está en todas partes.

El hardware dice qué apuesta hizo Meta

El metaverso ahora es secundario. Zuckerberg dijo que Meta solía pensar que la mezcla de mundos físicos y digitales llegaría primero y la IA avanzada después, y que está "bastante claro" que la superinteligencia personal llega primero. El dispositivo VR que mostró pesa unos 100 gramos, cuesta $1,299 y se envía en la primavera de 2027, según Social Media Today. Andrew Bosworth's demo hizo el punto por él. Hizo que su agente fusionara esquemas, reservara su calendario y observara una subasta mientras jugaba Beat Saber. Cada dispositivo que Meta vendió esta semana es una puerta de entrada al mismo agente.

YouTube deja que la audiencia sea el filtro

Neal Mohan dio una tercera respuesta en el podcast de Alex Kantrowitz. Suena modesto, pero viene de una plataforma con más de dos mil millones de usuarios diarios. Preguntado si YouTube quiere video generado por IA, se negó a clasificar el contenido de esa manera.

Y no hay una especie de clasificación explícita de IA mala, todo lo demás bueno o viceversa. Todas las reglas, desde nuestras políticas de contenido en la plataforma hasta lo que resuena con las audiencias, son independientes de ese factor.

Neal Mohan, 23 de septiembre de 2026, fuente

Esa es la lógica de Zuckerberg aplicada a los medios. Nadie establece una regla río arriba, y la audiencia decide qué se difunde. La parte débil es que el algoritmo que decide qué "resuena" pertenece a YouTube. Mohan admitió que pasó la mayor parte de un fin de semana viendo un clip de IA de un hombre montando un jet de Coca-Cola y Mentos. Es un detalle encantador. También es la razón por la que "dejar que la audiencia decida" no responde quién decide.

Steve Case dice que la concentración ya ocurrió

Steve Case ha visto un cambio de plataforma desde dentro de AOL, y fue el menos interesado en quién escribe las reglas. Su punto es sobre quién tiene las ganancias, y cree que eso ya está decidido.

La parte que no me entusiasma es que estas empresas, ya sea SpaceX ahora a dos billones o Anthropic, OpenAI, probablemente salgan a bolsa alrededor de un billón. Eso es genial para esas empresas. Es genial para esos inversores, pero no es genial para los inversores minoristas.

Steve Case, 24 de septiembre de 2026, fuente

AOL cotizó con un valor de mercado de $70 millones y valía $160 mil millones para el acuerdo con Time Warner. SpaceX fijó su IPO del 12 de junio en un valor implícito de $1.77 billones, por lo que el público compró después de la mayor parte del crecimiento. Case también dijo al presentador de Giant Ideas que construir un modelo de frontera es "una apuesta de más de cien mil millones de dólares" y que el resultado es "que las grandes tecnológicas se hacen más grandes". Pon eso junto a Altman y Zuckerberg y se vuelve incómodo. Ambos advirtieron contra la concentración mientras dirigen dos de las pocas empresas que pueden pagar esa apuesta.

Entonces, ¿quién es el árbitro?

Nadie todavía. Altman pidió uno y fue rechazado por su propio gobierno un día antes. Zuckerberg dice que el árbitro son miles de millones de usuarios, mientras Meta cobra una comisión por lo que esos usuarios compran. Mohan dice que la audiencia, clasificada por YouTube. Case, que no tiene producto que vender aquí, dice que el dinero ya ha elegido a los ganadores, y el minorista comprará a $1 billón. Ninguno de los cuatro nombró un mecanismo que funcione hoy. Mi lectura es que la línea del 0,1% de Altman es la única prueba concreta que alguien ofreció esta semana, y solo OpenAI puede decir si la pasa.