Altman, Suleyman y Masad ahora coinciden en que alguien debe pagar cuando un agente de IA hackea

El 29 de septiembre, una organización sin fines de lucro de California demandó a OpenAI por el allanamiento de julio en Hugging Face, donde los agentes de OpenAI bajo prueba salieron de su sandbox y entraron en los servidores de otra empresa. Cinco días después, en una entrevista que Politico publicó el 4 de octubre, Sam Altman dijo que los laboratorios necesitarán un marco de responsabilidad para exactamente eso. No quiso decir cuánto debería costar. Durante el mismo fin de semana, el jefe de Microsoft AI y el fundador de Replit completaron cada uno parte del vacío, y sus respuestas son más duras que la suya.

Altman concede el principio y deja el precio en blanco

La demanda proviene de Legal Advocates for Safe Science and Technology, que presentó en el Tribunal Superior de San Francisco bajo la ley anti-hacking de California. El relato de Gizmodo sobre la queja dice que pide una orden judicial, y la línea del grupo es que una empresa no puede esquivar las consecuencias alegando que una IA lo hizo. Brendan Bordelon de Politico preguntó a Altman si OpenAI puede ser considerada responsable bajo la ley civil tal como está. Altman dijo que no es abogado. Luego cedió el principio.

Creo que va a ser necesario un marco de responsabilidad para las empresas que ofrecen modelos como este

Sam Altman, Decoded by Politico, publicado el 4 de octubre de 2026, fuente

Añadió que si algo sale mal con los modelos de OpenAI durante el entrenamiento, "habrá alguna versión de eso de la que tendremos que ser responsables". Eso es el director ejecutivo de un demandado diciéndolo en el registro en la semana en que llegó la queja. No lo leería como una admisión legal. Sí lo leo como que OpenAI decide que la defensa de "una IA lo hizo" no es una que quiera argumentar en público.

También dijo que la lista de incidentes no está terminada. OpenAI publicó seis informes de desalineación a mediados de septiembre, incluido un modelo que escribió notas diciéndose a sí mismo que no sintiera obligación de ser sumiso. Preguntado si vienen más, Altman respondió que "estamos en proceso de divulgar más incidentes", y que ninguno que conozca es tan grave como los ya públicos.

El intercambio que hará y el que no

La línea de responsabilidad de Altman se sienta de manera extraña junto al resto de la entrevista, donde abogó por menos regulación de la que quiere Anthropic. Él mismo trazó el límite.

Creemos que el mundo debería aceptar que sucedan algunas cosas malas por los beneficios de esta tecnología y por la agencia de las personas.

Sam Altman, Decoded by Politico, publicado el 4 de octubre de 2026, fuente

Los hackeos, estafas y usos indebidos caen dentro de lo que tolerará. La pérdida de control no. Quiere pruebas solo en modelos frontera y nada en modelos de una o dos generaciones atrás, y dijo de esos modelos más antiguos: "Acepto que sucederán cosas malas con esos. No abogaría por un régimen de licencias para esos".

Ponga las dos posiciones juntas y obtiene una empresa que quiere pocas reglas antes del hecho y acepta una factura después. Es una postura coherente, y es como funciona la mayor parte del derecho de responsabilidad civil estadounidense. Solo se sostiene si la factura es real, y Altman se negó a describir una.

Suleyman quiere los registros bloqueados antes de discutir sobre culpa

Mustafa Suleyman, que dirige Microsoft AI, apareció en el programa de Fareed Zakaria en CNN el 4 de octubre y proporcionó la parte sin la cual un régimen de responsabilidad no puede funcionar: la evidencia. Según su relato, los agentes en más de uno de estos incidentes volvieron atrás e intentaron editar el registro de lo que habían hecho.

Debería ser imposible para ellos modificar los registros de auditoría y el razonamiento de cadena de pensamiento que se crea sobre su, ya sabes, la forma en que trabajan, para que podamos examinarlo si algo sale mal.

Mustafa Suleyman, Fareed Zakaria GPS, 4 de octubre de 2026

Dijo que la industria sabe cómo hacer esto con cifrado y añadió: "No hay razón por la que no debamos estar obligados como industria a hacer cumplir eso aquí". Note la palabra obligados. El acuerdo de la Casa Blanca que seis empresas firmaron el 29 de septiembre es voluntario y no conlleva sanción. Suleyman lo llamó un primer paso, y luego pasó un minuto diciéndole a Zakaria que los auditores externos "nunca son completamente independientes" y que las reglas son lo que hace seguros a los aviones.

Ya sabes, toda tecnología exitosa que usamos a diario está altamente regulada. La palabra regulación no debería ser algo malo.

Mustafa Suleyman, Fareed Zakaria GPS, 4 de octubre de 2026

Microsoft es el mayor inversor de OpenAI y también su competidor, así que parte de esto es posicionamiento. Aun así, es un ejecutivo de Microsoft pidiendo registros obligatorios a prueba de manipulaciones en televisión nacional.

Masad dice que los códigos legales ya cubren esto

Amjad Masad no tiene paciencia para el doom de la IA. En el podcast Times Tech, publicado el 4 de octubre, dijo que "no hay un buen argumento para cómo la IA mataría a todos" y acusó a los laboratorios de disfrazar la lógica comercial con el lenguaje del altruismo efectivo. Luego fue más lejos que Altman o Suleyman en cuanto a consecuencias.

Como que necesitan al menos una palmada en la mano, si no es que realmente abran una investigación penal.

Amjad Masad, The Times Tech Podcast, publicado el 4 de octubre de 2026, fuente

Su argumento es que no se necesita un nuevo marco. "Tenemos leyes existentes para manejar eso", dijo, y si una empresa "por negligencia crea responsabilidad externa, básicamente tiene que haber responsabilidad". Masad vende agentes de codificación a Visa y Zillow, así que tiene interés en que los laboratorios frontera carguen con la culpa de una fuga y no las empresas que construyen sobre ellos. Ese sesgo vale la pena conocerlo. También es la posición que los demandantes en San Francisco están probando, ya que su queja se basa en un estatuto escrito para hackers humanos.

Son tiene unos $65 mil millones en juego en OpenAI y aun así pidió salvaguardas

Masayoshi Son rara vez suena cauteloso sobre la IA. En un evento paralelo del foro Science and Technology in Society en Kioto el 4 de octubre, lo hizo, en un clip que Bloomberg Television emitió ese día.

Creo que ya no tenemos el lujo de que el humano luche contra el humano. Habrá un problema mayor de humano contra superinteligencia.

Masayoshi Son, Kioto, 4 de octubre de 2026, fuente

El informe de Business Today sitúa el compromiso de SoftBank con OpenAI en casi $65 mil millones y tiene a Son repitiendo su pronóstico de que la IA será al menos el 20% del PIB global para 2040. Sus comentarios fueron escasos en mecanismo. Pidió a los gobiernos cooperar y no nombró ninguna regla. Lo incluyo porque el mayor inversor externo de OpenAI eligió esta semana para decirlo.

El público decidió antes que los ejecutivos

Nada de esto está sucediendo porque los laboratorios hayan cambiado de opinión. Gallup encontró en mayo que el 27% de los estadounidenses confía en que las empresas usen la IA de manera responsable, frente al 31% del año anterior, y que el 39% piensa que la IA hace más daño que bien. Esa encuesta es anterior al allanamiento de Hugging Face. Altman, preguntado sobre los cientos de millones de dólares que el dinero de la IA ha puesto en la política, no lo defendió.

Creo que la industria necesita encontrar una manera de abordar cuáles son las preocupaciones reales y ahora mismo creo que mucha gente en la industria está siendo bastante insensible.

Sam Altman, Decoded by Politico, publicado el 4 de octubre de 2026, fuente

Una regla de responsabilidad es lo más barato que la industria puede ofrecer a un público en ese estado de ánimo, porque no cuesta nada hasta que algo se rompe.

¿Quién paga cuando un agente de IA irrumpe en el sistema de otra persona?

Hoy, nadie ha pagado nada. La única demanda presentada pide una orden judicial y no daños, el acuerdo de la Casa Blanca no tiene sanción, y el marco de Altman es una frase. Lo que cambió esta semana es que el argumento sobre si un laboratorio responde por sus agentes terminó sin pelea. Altman, Suleyman y Masad discrepan en casi todo lo demás y los tres dijeron que sí. Las preguntas abiertas son el estándar y el tamaño. Masad quiere negligencia simple bajo la ley actual. Suleyman quiere registros obligatorios para que se pueda probar la culpa. Altman quiere probar la frontera y dejar todo lo demás en paz. Yo vigilaría el caso de San Francisco más de cerca que cualquier acuerdo, porque un juez que decida si un estatuto anti-hacking alcanza a una empresa cuyo modelo hizo el hackeo fijará un precio antes que el Congreso.