Testes encontraram dados acessados na cadeia de IA
Uma equipe da Dragos testou quase 2 milhões de solicitações enviadas a uma ampla rede de serviços de inteligência artificial ao longo de vários meses. O experimento usou dados-canário para detectar se terceiros acessavam informações incluídas nos pedidos, e encontrou URLs acessadas e credenciais AWS usadas.
HD Moore reuniu os materiais empregados nos testes: credenciais funcionais da Amazon Web Services vinculadas a contas vazias e senhas para serviços como SSH. O conjunto também continha URLs, nomes DNS e referências a repositórios privados do Git, todos identificadores exclusivos criados para o experimento.
OpenRouter e Vercel estavam entre os serviços avaliados
Os testes abrangeram serviços de roteamento como OpenRouter e Vercel. Segundo os resultados relatados pela Ars Technica, os pesquisadores detectaram terceiros acessando URLs-canário e usando credenciais AWS do experimento.
Como as credenciais davam acesso a contas vazias, o teste permitiu observar o uso sem expor recursos de produção. Os marcadores funcionavam como sinais de alerta: o acesso a uma URL ou a utilização de uma credencial indicava que dados enviados no fluxo haviam chegado a um terceiro.
Políticas de retenção não cobriram todos os intermediários
Os sinais apareceram também em serviços associados a políticas ZDR, sigla para “zero data retention” ou retenção zero de dados. Os resultados apontam um desafio na cadeia de processamento: uma solicitação pode sair do roteador e passar por provedores de modelos e outros intermediários.
Por isso, a política apresentada pela plataforma usada pelo cliente pode não descrever todo o percurso dos dados. O experimento identificou acessos e uso dos marcadores enviados; como as credenciais eram de contas vazias e os demais identificadores foram criados para o teste, esses achados tratam do comportamento observado durante a avaliação.
OpenRouter comunicou possível leitura de 579 solicitações
Em uma comunicação a um usuário, a OpenRouter informou que 579 solicitações a modelos MiniMax e ERNIE 4.5 VL poderiam ter sido lidas por terceiros. Os pedidos foram encaminhados por MiniMax, Novita, StreamLake e AtlasCloud entre 23 de setembro, às 15h06, e 19 de outubro, às 18h25, no horário UTC.
O aviso dá um exemplo concreto de como os pedidos podem atravessar diferentes empresas antes de chegar ao modelo. Para avaliar a privacidade de uma ferramenta de IA, portanto, é relevante considerar também os serviços que processam ou encaminham as solicitações, além das condições anunciadas pelo roteador inicial.
Confira mais em: https://guiadeti.com.br/noticias/pesquisa-detecta-exposicao-de-credenciais-em-roteadores-de-ia-sob-politicas-zdr/