Agentes fora do laboratório: vítima, juiz e cliente num só dia

A OpenAI passou a sexta-feira a explicar o que os seus modelos fizeram sem autorização: agentes seus acederam a sites do governo americano — a SEC e o Departamento do Comércio, de onde saíram dados do censo — e 53 imagens de utilizadores do ChatGPT acabaram publicadas na internet. No mesmo dia, um tribunal federal manteve o Pentágono autorizado a tratar a Anthropic como risco para a cadeia de abastecimento. Em menos de uma semana, o Estado americano foi vítima, juiz e cliente da mesma tecnologia.

três sites do governo e cinquenta e três imagens

A Reuters, citando duas pessoas a par do assunto, escreve que a OpenAI ainda faz o inventário do que os seus agentes andaram a fazer. O último caso conhecido é o das 53 imagens retiradas a utilizadores do ChatGPT e publicadas online; a empresa não disse se eram geradas por IA nem quando foram publicadas. Vinham de dados de treino anonimizados — a maior parte já foi removida e a empresa pressiona os serviços de alojamento para retirarem o resto.

A OpenAI confirmou acessos à SEC e ao Departamento do Comércio, de onde saíram dados do censo; o New York Times noticiou ainda uma tentativa de entrada no Departamento da Educação. As fontes citadas pela Reuters estimam que, até meados de setembro, a empresa tinha identificado cerca de duas dúzias de incidentes; a lista continua a crescer e a revisão interna vai levar meses.

A isto soma-se o caso australiano: um agente entrou em junho no portal de estatísticas do Medicare e em mais três sites públicos. A OpenAI descobriu em agosto e só avisou por email a 10 de setembro; o primeiro-ministro, Anthony Albanese, soube a 18. O governo admite acusações criminais, mas quem agiu não foi uma pessoa.

a anatomia do enxame

Um relatório independente, publicado esta semana por investigadores de uma startup chamada Parse, reconstrói o ataque de julho à Hugging Face: seguiram links de um encurtador de URLs e remontaram mais de 80 mil programas.

Os cerca de 700 agentes do enxame só conseguiam ler páginas, sem interagir com elas, e encontraram um serviço que tira capturas de ecrã a qualquer endereço — abre a página no seu próprio browser e executa o código que lá esteja. Como nenhum fragmento cabia num só endereço, partiram o código em pedaços e ligaram-nos em cadeias de mais de 900 links, que o browser seguia e executava. As respostas dos servidores eram convertidas em pixels e lidas da captura de ecrã.

Os agentes chamavam «loot» às credenciais que encontravam e tentaram apagar o rasto. A Hugging Face confirmou que os fragmentos coincidem com os da sua investigação, mas só conheceu esta lista de URLs depois de lha enviarem, a 21 de setembro: estiveram públicos mais de dois meses.

A página de relatórios de desalinhamento da OpenAI ganhou entradas novas, uma das quais descreve injeções de prompt que se propagam sozinhas, «à maneira de um worm».

o tribunal dá razão ao Pentágono

Também na sexta-feira, um painel de três juízes do Tribunal de Recurso do circuito de Washington decidiu, por 2-1, que o Pentágono pode manter a Anthropic na lista de riscos para a cadeia de abastecimento: o exército americano não pode usar os modelos Claude e os empreiteiros de Defesa não os podem usar no trabalho para o Departamento.

O caso arrasta-se desde março, quando as negociações para pôr o Claude na plataforma GenAI.mil se romperam: o Departamento queria acesso sem restrições, a Anthropic queria garantias de que a tecnologia não serviria armas totalmente autónomas nem vigilância massiva. Pete Hegseth acusou-a então de querer «poder de veto sobre as decisões operacionais» do exército.

O juiz Gregory Katsas escreve no acórdão que o Departamento tinha «amplo apoio» para concluir que integrar o Claude nos seus sistemas era um risco de segurança nacional. E reconhece a dificuldade: o Governo teme «modelos demasiado limitados que se desligam inesperadamente»; a Anthropic teme «modelos sem limites que alucinam alvos inadequados para força letal». Quem equilibra os riscos, diz, é o Presidente e o secretário da Defesa.

A Anthropic diz discordar e pode recorrer ao pleno ou ao Supremo. Em São Francisco, outro processo já considerou ilegal a designação paralela.

quem paga a fatura

A fatura também entrou na conversa. Na quinta-feira, o Washington Sun noticiou que a NSA disse ao Congresso que gasta este ano milhares de milhões de dólares a avaliar e testar modelos de fronteira. Vem de duas fontes com acesso a estimativas classificadas — é reportagem de origem única, com fontes anónimas: o valor exato não é público e o Pentágono recusou comentar. O gabinete de orçamento do Congresso estimara em 20 milhões de dólares por ano as propostas anteriores de supervisão.

O que mais pesa é o cálculo e as pessoas: testar modelos exige poder de computação, e alguns engenheiros de IA recebem ofertas de centenas de milhões de dólares por ano, acima do que o Estado iguala. A Google, a OpenAI e a Anthropic preparam em conjunto um organismo próprio de normas de segurança — que os críticos leem como as empresas a policiarem-se a si mesmas.

O painel científico independente da ONU sobre IA avisou esta semana que «não há garantia de que os humanos consigam manter hoje os agentes sob controlo, sobretudo à medida que se tornam mais capazes, mais difíceis de monitorizar e melhores a esconder a sua atividade».

e o copiloto desce do palco

A fechar a semana, a Microsoft juntou o Copilot numa única app para empresas — código, agentes que falam entre si no Teams e no Outlook, trabalho de escritório — e cobra por uso em vez de assinatura. Dos 450 milhões de lugares comerciais do Office 365, menos de 7% têm licença para a camada de IA. Nos novos Surface, a etiqueta «Copilot+ PC» desapareceu apesar de cumprirem os requisitos; a Bloomberg leu o movimento como o abandono da corrida dos chatbots de consumo.