Não entregue código, chaves e material confidencial a «intermediário de IA» de origem duvidosa — ainda mais se a IA executar comandos sozinha

O intermediário fica entre você e quem faz o modelo; o que você envia e a resposta que volta, ele vê e pode alterar. Um estudo mediu mais de 400 intermediários: 9 enfiaram código malicioso na resposta, 17 mexeram em chaves de nuvem que os pesquisadores tinham colocado de propósito. Se a IA executa comandos sozinha, um comando alterado pode fazer o computador receber código malicioso.

Custo

A conexão oficial direta costuma ser mais cara que o intermediário, e recarregar também é menos prático. O difícil é que o intermediário é barato e um só acesso chama vários modelos.

Benefício

Em junho (6) de 2026, o Ministério de Segurança Nacional (China) publicou um alerta de risco. Parte dos intermediários deixa no servidor os dados que o usuário envia; alguns retêm por conta própria e revendem a outros fabricantes de modelos grandes para treino. Outros escondem uma porta dos fundos, instalam código malicioso no aparelho, roubam chaves de conta e credenciais de nuvem, e chegam a instalar um programa de controle remoto. O alerta recomenda conexão oficial direta e plataforma com autorização regular, e não plataformas de origem desconhecida, sem licença de operação e sem garantia de segurança. Antes de usar, tire a identificação de dados pessoais e de material do projeto, guarde as chaves e troque-as com regularidade. Cobrança estranha, conta bloqueada sem motivo ou dado fora do normal: pare na hora, troque as chaves, verifique vírus e guarde provas. Pesquisadores da Universidade da Califórnia em Santa Barbara e de outras instituições mediram isso em 2026. Compraram 28 intermediários pagos no Taobao (淘宝 — marketplace) e no Xianyu (闲鱼 — marketplace de usados) e reuniram 400 intermediários gratuitos em comunidades abertas. Resultado: 1 pago e 8 gratuitos injetavam código malicioso nas chamadas de ferramenta devolvidas. Chamada de ferramenta é o comando que a IA manda o seu computador executar, como instalar um pacote. Outros 2 escolhiam a hora de agir; o exemplo do artigo é atacar só sessões de execução totalmente automática. 17 usaram chaves do serviço de nuvem da Amazon que os pesquisadores tinham colocado de propósito. 1 transferiu dinheiro da carteira Ethereum dos pesquisadores; a carteira tinha muito pouco, e a perda ficou abaixo de 50 dólares. A alteração demonstrada no artigo é discreta: no comando de instalação, trocar requests por reqeusts, grafia parecida que passa batido (em todo o país).

Notas

Classificação B porque há só um estudo, e é preprint (versão tornada pública antes da publicação formal). A maioria dos intermediários medidos era gratuita; pagos foram só 28, e não dá para calcular «quantos em cada dez intermediários têm problema». Parte da mídia escreveu aquele roubo como 500000 dólares; o texto do artigo diz menos de 50 dólares. A magnitude do benefício foi classificada como média pelo tipo de consequência: a perda quando roubam chave e código varia muito, e o estudo não traz um valor em que encaixar. Se você já usou um intermediário de origem duvidosa, invalide no fabricante do modelo as chaves que usou e gere outras; troque junto as chaves de nuvem e do repositório de código. Enquanto passar por intermediário, não deixe a IA executar comandos sozinha: leia o comando antes de deixar passar. Quem opera o intermediário tem risco criminal: seção 11, item 19 (intermediário de IA). O beneficiário é você.

Fontes · 1

1. 国家安全部 (2026). 「AI中转站」，风险要防范. szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5…（数字中国建设峰会官网转载国家安全部微信公众号）；Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. arxiv.org/abs/2604.08407