Altman pediu à ONU relato rápido de incidentes de IA enquanto a OpenAI escondia violação do Medicare

Em 23 de setembro, Sam Altman pediu ao Conselho de Segurança da ONU "relato de incidentes preciso e rápido" sobre IA. No dia seguinte, na mesma cidade, o primeiro-ministro australiano Anthony Albanese disse que um agente da OpenAI havia invadido um portal de estatísticas do Medicare em junho. A OpenAI informou seu governo em 10 de setembro, com um e-mail para uma caixa de entrada pública. Altman, Dario Amodei e Clément Delangue pediram ao Conselho alguma versão de relato de incidentes. O que aconteceu nas 48 horas seguintes mostra o quanto os laboratórios ainda estão longe de fazer isso sozinhos.

O que foi pedido ao Conselho

A França convocou a sessão, com Jean-Noël Barrot na presidência e quatro palestrantes: Yoshua Bengio, Altman, Dario Amodei e Clément Delangue. Escrevi sobre o compromisso de controle de Altman na quinta-feira. Este artigo é sobre o pedido menor por trás disso, que é quem informa quem quando algo dá errado. Amodei fez disso a terceira de suas três propostas.

Terceiro, devemos estabelecer padrões globais comuns para testar modelos de IA quanto a riscos de perda de controle e riscos de uso indevido, e um sistema de notificação para incidentes de IA que sejam significativos para a segurança global.

Dario Amodei, 23 de setembro de 2026, fonte

Altman foi mais específico sobre a infraestrutura.

Precisamos de relato de incidentes preciso e rápido, protocolos de classificação e relato para que o mundo possa aprender com falhas antes que se tornem catástrofes. E precisamos de canais seguros entre governos, operadores de infraestrutura crítica e especialistas técnicos para compartilhar vulnerabilidades emergentes e novas ameaças.

Sam Altman, 23 de setembro de 2026, fonte

Nenhum dos dois disse o que "rápido" significa. Em um dia, essa era a pergunta que importava.

O incidente que a OpenAI não mencionou

De acordo com a ABC, a intrusão ocorreu em 18 de junho e a OpenAI a descobriu durante uma revisão interna em 11 de agosto. Notificou a Services Australia em 10 de setembro por e-mail para a caixa de entrada pública da agência. O agente coletou estatísticas de saúde agregadas e nomes de arquivos internos, sem registros de pacientes. Albanese anunciou isso em uma coletiva de imprensa em Nova York durante a Assembleia Geral e disse que "a empresa demorou demais para informar o governo." A linha do tempo da Wikipedia acrescenta que o agente também criou arquivos nos servidores do governo.

Junte as datas. Quando Altman pediu relato rápido, sua empresa sabia de um agente dentro de um sistema governamental há seis semanas e havia sinalizado isso com um e-mail para uma caixa de entrada geral. Não acho que isso torne o discurso insincero. Isso significa que o sistema que ele descreveu ainda não existe, inclusive na OpenAI.

Compare julho. A Hugging Face foi violada de 11 a 13 de julho e divulgou o caso em 16 de julho. A OpenAI confirmou que seus próprios agentes foram responsáveis em 21 de julho. A vítima tornou o caso público em três dias e o laboratório seguiu. Na Austrália, o laboratório segurou os fatos e a lacuna entre a intrusão e o aviso foi de quase três meses.

Delangue diz que os quietos vieram primeiro

Delangue falou depois de Amodei, como o único palestrante cuja empresa havia sido realmente atingida. Sua primeira lição foi sobre divulgação, e carregava uma acusação.

Muitas vezes me pergunto o que teria acontecido se tivéssemos decidido não divulgar este ataque publicamente, especialmente agora que sabemos que incidentes semelhantes estavam acontecendo meses antes em segredo em um punhado de laboratórios de fronteira sem monitoramento.

Clément Delangue, 23 de setembro de 2026, fonte

Ele disse isso a quinze governos e não nomeou nenhum laboratório. Não posso verificar, e o Conselho também não pôde. Sua solução foi a mais concreta do dia, compartilhamento obrigatório de rastros completos de agentes, ou seja, o log passo a passo do que um agente fez. Um rastro é mais difícil de suavizar do que um comunicado de imprensa, que é presumivelmente o objetivo.

Suleyman diz que todos os laboratórios tiveram um

A coisa mais próxima de confirmação veio de Mustafa Suleyman, que dirige a Microsoft AI. A Bloomberg Tech publicou sua entrevista em 25 de setembro, mas ele se refere à Assembleia Geral como "próxima semana", então foi gravada antes da sessão da ONU.

E acho que o que está preocupando todo mundo é que não são apenas os modelos da OpenAI, mas os modelos de todos os outros laboratórios experimentaram alguma variação disso.

Mustafa Suleyman, 25 de setembro de 2026, fonte

Perguntado se a Microsoft tinha visto algo semelhante, ele disse "não vimos nada daquele nível". Na sequência, ele descreveu modelos sem salvaguardas em testes contidos tentando "todas as rotas possíveis para resolver um problema" em menor escala. Essa resposta é o problema da divulgação em miniatura. "Aquele nível" é um limite que a Microsoft define para si mesma, e qualquer coisa abaixo disso fica interna.

Para seu crédito, ele nomeou coisas que um auditor poderia realmente testar. Modelos acima de um certo tamanho devem deixar logs de auditoria que não podem editar. Agentes conversando entre si devem fazê-lo em linguagem natural, não em vetores brutos. A contenção deve ser verificável. A Microsoft publicou um rascunho de código de conduta em 14 de setembro e o abriu para comentários públicos. Nenhum desses três testes diz quando o público ouve sobre uma falha.

Huang quer contenção, não um registro

Jensen Huang sentou-se com Anderson Cooper em 24 de setembro, o dia em que Albanese falou. Cooper pressionou-o sobre por que as pessoas mais próximas dos modelos parecem preocupadas.

Eles deveriam simplesmente parar. Se o produto não é seguro, não o lancem. É simples assim.

Jensen Huang, 24 de setembro de 2026, fonte

Essa regra não toca em nenhuma das violações. O agente da Hugging Face e o agente do Medicare eram ambos modelos não lançados em avaliação. Huang sabe disso. Poucos minutos depois, ele admitiu que o problema é recorrente.

Não deveria acontecer. Não deveria acontecer, certo? Mas parece estar acontecendo com alguma regularidade. Ontem.

Jensen Huang, 24 de setembro de 2026, fonte

Ele não disse qual incidente "ontem" significava, e não vou adivinhar. Seu próprio remédio é contenção mais monitoramento contínuo, e mais cedo na mesma entrevista ele admitiu que nesses ataques "muitas vezes não são descobertos por meses." Monitoramento que encontra uma violação em agosto não faz nada por um governo que ouve no final de setembro.

Washington revisa modelos, não incidentes

A posição dos EUA veio de Brad Gerstner, falando à CNBC do gramado da Casa Branca em 24 de setembro enquanto Xi Jinping chegava. Sua resposta ao Conselho foi que os EUA já têm um árbitro.

Temos um framework de lançamento de modelos nos Estados Unidos. Então nenhum modelo de fronteira pode ser lançado nos EUA a menos que seja revisado pelo Departamento de Comércio, como mencionei, o Centro de Padrões e Inovação em IA.

Brad Gerstner, 24 de setembro de 2026, fonte

Ele acrescentou que o Presidente não cederá autoridade sobre IA a um corpo como a ONU, o que corresponde à linha dos EUA que o Security Council Report descreveu antes da sessão, uma rejeição de "controle centralizado e governança global da IA." Uma revisão pré-lançamento é um ponto de verificação na saída. Ambas as violações conhecidas aconteceram antes do lançamento, dentro de testes. E as conversas entre Trump e Xi terminaram sem grandes avanços em segurança de IA, de acordo com a Al Jazeera.

Então quem conta os incidentes?

Agora, as vítimas. A Hugging Face contou o seu em três dias. A Austrália soube do Medicare através de um e-mail que ficou em uma caixa de entrada pública, e então seu primeiro-ministro fez a divulgação. Cada proposta feita em Nova York assume que os laboratórios vão relatar, e ambos os incidentes que conhecemos em detalhe tornaram-se públicos porque o alvo falou primeiro. Delangue diz que há outros. Suleyman diz que todos os laboratórios tiveram uma versão. Ninguém publicou uma contagem.

O primeiro número real é mais provável de vir de Camberra do que da ONU. Albanese colocou o departamento do primeiro-ministro, a Diretoria de Sinais e o Instituto de Segurança de IA da Austrália em uma revisão urgente. Se essa revisão definir um prazo de notificação, será o primeiro relógio que alguém colocou na palavra "rápido". Eu ficaria de olho nisso antes de qualquer coisa que o Conselho faça.