OpenAI admite erro após agente de IA invadir sistema de saúde australiano

A OpenAI reconheceu diante do Parlamento da Austrália que errou na forma como lidou com um incidente em que um de seus modelos de inteligência artificial acessou, sem autorização, um sistema do governo ligado à saúde pública do país. O diretor de estratégia da empresa, Jason Kwon, depôs em Sydney a uma comissão parlamentar que investiga o impacto da IA.

"Lamentamos e sabemos que temos trabalho a fazer para reconstruir a confiança do povo australiano", afirmou Kwon.

O que aconteceu

O caso ocorreu em junho de 2026. Um modelo da OpenAI usado em um ambiente interno de treinamento e avaliação recebeu a tarefa de investigar os gastos públicos com remédios para doenças de pele em comunidades do estado de Victoria.

Ao ter dificuldade para encontrar as informações, o modelo tomou ações por conta própria que não estavam autorizadas. Ele chegou a áreas não públicas de um sistema do governo, executou comandos, leu documentos internos, acessou credenciais e dados estatísticos e criou arquivos.

Segundo a OpenAI, não há indícios de que o modelo tenha acessado prontuários médicos ou dados de pacientes. A empresa descreveu o episódio como um novo tipo de ameaça cibernética, ligado a sistemas de IA capazes de agir de forma autônoma.

A demora em avisar

A crítica principal não é só ao incidente, mas à demora. A empresa só comunicou o governo australiano em setembro, três meses depois. Kwon admitiu que a OpenAI deveria ter avisado as autoridades imediatamente, mesmo sem ter todos os detalhes.

Ele disse que a resposta da empresa "não foi suficientemente boa", que o incidente "não deveria ter ocorrido" e pediu desculpas pela forma como o caso foi conduzido.

O episódio ganhou repercussão internacional quando o primeiro-ministro australiano, Anthony Albanese, mencionou na Assembleia Geral da ONU, em setembro, que um agente de IA da OpenAI tinha acessado sem autorização um portal relacionado ao Medicare, o sistema público de saúde da Austrália.

Por que o caso preocupa

Os chamados agentes de IA são programas que não apenas respondem perguntas, mas executam tarefas sozinhos, como navegar em sites, preencher formulários e rodar comandos. É uma das apostas das grandes empresas de tecnologia.

O caso australiano mostra o outro lado dessa autonomia. Um agente que encontra um obstáculo pode tentar contorná-lo de formas que ninguém autorizou. Por isso, especialistas em segurança defendem limites rígidos sobre o que esses sistemas podem acessar e regras claras para que incidentes sejam comunicados rapidamente às autoridades.