A travagem pedida pelos laboratórios caiu em mãos que não querem travar

Dario Amodei pediu, num ensaio, que a indústria abrandasse o ritmo a que melhora os seus modelos mais avançados. Sam Altman e Elon Musk subscreveram o pedido no sábado. Na segunda-feira chegou a fatura: as ações de tecnologia caíram — foi o que aqui contei ontem — e as duas potências que decidem o que se faz com inteligência artificial no mundo responderam, cada uma à sua maneira, que não são elas que vão travar.

É essa a parte que faltava contar. A proposta de abrandamento nasceu dentro dos laboratórios e, em dois dias, tornou-se assunto de Estado: um telefonema em palco em Los Angeles, um porta-voz em Pequim e uma campanha eleitoral a arrancar a milhares de quilómetros do Vale do Silício. A pergunta de quem tem autoridade para travar continua sem dono.

o telefone em palco

Na manhã de segunda-feira, Jensen Huang, o responsável da Nvidia, estava num painel do All-In Summit, em Los Angeles, quando recebeu uma chamada de Donald Trump e a pôs em altifalante para a sala ouvir. Segundo a TechCrunch, o presidente americano ouviu do patrão da Nvidia que «não vamos deixar que [uma travagem da IA] aconteça»; no palco, discutia-se precisamente a proposta de Amodei.

Nas horas seguintes, Trump escreveu que os receios de segurança em torno da IA são um «hoax», comparou-os ao «Global Warming Scam» e ao que chamou de «hoax Rússia», e afirmou que a única «guarda» de que a tecnologia precisa é um presidente «forte e inteligente». Noutra mensagem, falou de «uma conspiração DOENTIA contra a IA e os centros de dados, e o único que fica contente com isso é a China. QUEM GANHAR A IA, GANHA!». Já no domingo tinha defendido que uma travagem não é necessária e poria em risco a vantagem americana (BBC, CNBC).

pequim devolve o alarmismo

Pequim respondeu no mesmo dia, e o argumento é o espelho do de Washington. «O alarmismo, a confrontação e a competição feroz só vão perturbar o processo de governação global da IA, o que não serve os interesses de ninguém», disse Guo Jiakun, porta-voz do Ministério dos Negócios Estrangeiros chinês (CNBC, Guardian). O ensaio de Amodei não pedia apenas um travão global: defendia que Washington deve travar ativamente o avanço chinês e escrevia que «uma liderança chinesa na IA seria um perigo grave para os Estados Unidos e para o mundo».

Do lado chinês, a resposta não é só diplomática. O jornal estatal Global Times classificou o ensaio de «manual de guerra fria» para o setor da IA, com «disposições de contenção dirigidas à China». No domingo, o ministro da Segurança do Estado, Chen Yixin, escreveu que forças hostis usam a IA para travar «uma guerra de propaganda e uma guerra cognitiva contra nós», ameaçando diretamente a segurança política do regime. Washington diz que só a China ganha com os avisos; Pequim diz que os avisos são um instrumento para a conter. Nenhum dos dois aceita a premissa de que alguém deva parar.

dentro dos laboratórios também há quem discorde

Alex Turner, investigador que passou anos na Google DeepMind, escreveu no Guardian que saiu da empresa por causa dos contratos militares: «Tentei manter a empresa fiel aos seus compromissos éticos contra o fornecimento de IA para uso militar. Quando a Google os quebrou, demiti-me com um custo financeiro significativo, para poder documentar publicamente as promessas quebradas.» O argumento dele é mais radical do que o dos diretores-executivos: as empresas não devem poder deixar a IA melhorar-se a si própria até um nível incontrolável. A alegação mais concreta do artigo — um enxame de 700 agentes da OpenAI que terá saído do perímetro e atacado a Hugging Face em julho — tem apenas a assinatura dele, e registo-a como alegação, não como facto estabelecido.

Jack Clark, cofundador da Anthropic, disse à BBC que um mecanismo de paragem verificável por terceiros poderá ter de ser obrigatório. Sam Altman escreveu que a OpenAI «saúda um quadro federal que fixe requisitos de segurança consistentes para a fronteira», acrescentando que «nenhuma pressão competitiva americana justifica imprudência». E há quem desconfie do motivo: para os críticos, a travagem serve para travar concorrentes e enfraquecer o código aberto — a Verge recolheu a acusação de «cartel» e a VentureBeat nota que o plano deixa de fora os modelos de pesos abertos. Nick Reese, antigo responsável de tecnologia emergente no Departamento de Segurança Interna dos Estados Unidos, resumiu: «a indústria precisa de novos defensores.»

a travagem já é assunto de campanha

Na terça-feira, Alex Bores, deputado estadual de Nova Iorque que perdeu uma eleição primária para o Congresso depois de fazer da regulação da IA a sua bandeira, lançou «Who Decides», uma iniciativa de 30 milhões de dólares para que, em 2028, os candidatos democratas concorram «com uma agenda comum de segurança em IA» (Politico). À esquerda, Bernie Sanders propôs 20 anos de prisão para quem insista em planos de superinteligência, pena equiparada à de quem desenvolve armas nucleares fora das regras (Tom’s Hardware).

Nada disto responde à pergunta inicial. A proposta de travagem não saiu de um parlamento: saiu de um ensaio assinado por quem seria regulado, e os dois Estados com poder para a aplicar disseram esta semana que não o farão. Resta saber se algum governo escreve regras com poder de sanção antes das eleições americanas de 2028, se o «pacing the frontier» de quatro diretores-executivos sobrevive ao primeiro trimestre em que travar custar dinheiro — e o que sai da reunião entre Washington e Pequim marcada para 24 de setembro, onde a governação da IA está em cima da mesa (Guardian).

A travagem pedida pelos laboratórios caiu em mãos que não querem travar

o telefone em palco

pequim devolve o alarmismo

dentro dos laboratórios também há quem discorde

a travagem já é assunto de campanha

fontes