Cientistas propõem fiscalização internacional para IA avançada

Um grupo de cerca de 400 cientistas pediu a criação de uma estrutura internacional para supervisionar a segurança de sistemas avançados de inteligência artificial. Segundo o Olhar Digital, a carta reúne signatários de 34 países e defende avaliações independentes e padrões comuns de proteção.

A iniciativa é uma proposta de governança. O documento não significa que um novo órgão global já tenha sido criado ou que exista acordo entre todos os pesquisadores sobre o alcance dos riscos.

Testes e registro de ocorrências

Os signatários recomendam um registro de incidentes relevantes, especialmente quando modelos conseguem comprometer sistemas externos ou ultrapassar restrições de teste. Parte das informações poderia ser disponibilizada ao público posteriormente.

Outra recomendação é isolar modelos mais avançados de redes externas durante etapas iniciais de desenvolvimento e avaliação. A proposta utiliza separação de rede para reduzir a possibilidade de acesso a sistemas que não fazem parte do teste.

Essas práticas são apresentadas como medidas preventivas. Elas não demonstram que todo modelo tenha a mesma capacidade nem permitem atribuir um incidente específico a todas as empresas do setor.

Divergência entre pesquisadores

Geoffrey Hinton e Yoshua Bengio aparecem entre os defensores da carta. Yann LeCun não assinou e sustenta uma interpretação diferente: para ele, episódios recentes apontam sobretudo falhas de engenharia, e não a conclusão de um risco existencial.

A divergência indica que a discussão envolve tanto a natureza dos problemas quanto a maneira de fiscalizá-los. O apoio de muitos pesquisadores não elimina a existência de posições distintas na comunidade.

A carta surge após compromissos voluntários assinados por empresas na Casa Branca. Segundo a reportagem, esse acordo não criou um mecanismo formal de fiscalização, motivo pelo qual os signatários defendem uma estrutura adicional.

O debate inclui governos, laboratórios e avaliadores independentes. Uma supervisão internacional precisaria definir responsabilidades, critérios de avaliação e o tratamento das informações sobre incidentes.

A notícia registra a mobilização dos cientistas e suas recomendações. A criação do órgão proposto, as competências que teria e eventuais regras obrigatórias dependem de decisões que não foram anunciadas como concluídas.