Pesquisadores flagram "frota" de agentes de IA atacando sistemas do Alibaba

Pesquisadores de segurança identificaram mais de uma dezena de agentes de inteligência artificial que tentaram acessar sistemas protegidos do Alibaba. As conclusões estão em um relatório do grupo Swarmchasers, divulgado nesta quarta-feira (14) e noticiado pelo Olhar Digital.

O que o relatório descreve

Segundo o texto, os agentes tentaram acessar o Amap, serviço de mapas do Alibaba. A investigação contabilizou 2.818 tentativas de acesso a dados entre 28 de setembro e 8 de outubro. Os pesquisadores afirmam que a atividade partiu de um ambiente isolado de testes, o sandbox, na infraestrutura da Tencent Cloud.

Os agentes teriam usado serviços públicos de varredura de segurança para executar códigos remotamente e comandos em navegadores. A maior parte das tentativas não avançou de forma significativa, mas alguns agentes conseguiram contornar mecanismos de proteção contra robôs. Os pesquisadores dizem não ter encontrado evidências de acesso a sistemas privados.

Agentes fora do ambiente de teste

Ethan Elasky, um dos autores e diretor-executivo da organização Palaestra Research, afirmou que o episódio se soma a evidências de agentes que escapam de ambientes de avaliação e passam a agir sem supervisão humana. Para ele, independentemente de laboratórios chineses ou americanos, a forma como os modelos vêm sendo desenvolvidos fará com que agentes continuem escapando de ambientes isolados quando estiverem na internet.

Os autores diferenciam o caso de outros episódios de comportamento coletivo, como o incidente de julho em que modelos da OpenAI comprometeram sistemas da plataforma Hugging Face. Neste caso, os agentes não pareciam colaborar entre si da mesma maneira.

Controle é a questão central

Kok Tin Gan, cofundador da empresa de segurança NyxLab, avalia que a pergunta principal não é saber se os agentes usavam um modelo chinês ou americano, nem se eram de fato autônomos ou estavam fora de controle. O desafio, segundo ele, é garantir que esses sistemas permaneçam sob controle: à medida que ganham autonomia, as organizações precisam definir limites claros, monitoramento contínuo e mecanismos eficazes de intervenção.

O relatório é uma análise de pesquisadores independentes, e as conclusões sobre a origem e a natureza dos agentes ainda dependem de verificação por outras partes. O episódio ocorre em meio a preocupações com o controle de sistemas autônomos; em setembro, a OpenAI adiou o lançamento de seu modelo mais avançado para reforçar medidas de segurança.