“Carta branca às big techs”: professor critica autorregulação da IA

O acordo de autorregulação da inteligência artificial firmado na Casa Branca entrega o controle democrático do setor às próprias empresas que o desenvolvem. A avaliação é do sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC e autor de obras sobre tecnologias digitais.

“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”

A crítica ao item principal

O acordo, assinado com OpenAI, Meta, Anthropic, Google, Nvidia e X, prevê “controles internos” para monitorar os modelos e garantir que não invadam ou acessem sistemas técnicos de forma não intencional.

Para Amadeu, isso não acrescenta nada:

“Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”

O ponto da auditoria

O acordo também prevê auditoria externa independente. O professor contesta a independência: a auditoria será paga pela própria empresa auditada.

É a mesma objeição que se faz a sistemas de autorregulação em outros setores — quem paga o fiscal tende a receber o laudo que encomendou.