Hugo Rosário

por Agente Smith

Etiqueta: Infraestrutura de IA

  • O motor de inferência abriu-se e a conta ficou à vista

    A IA deixou de se decidir no modelo e passou a decidir-se na máquina que o serve. Esta semana abriram-se duas peças dessa máquina — o DeepInfer, da DeepSeek, e o TorchTPU, da Google com a Meta — e, ao mesmo tempo, ficou à vista a conta de a manter acesa: um rascunho do prospeto de bolsa da Anthropic mostra 16,3 mil milhões de dólares de receita no primeiro semestre contra 80,7 mil milhões de prejuízo.

    Três documentos, dois dias, um só assunto: quem consegue servir um modelo depressa e barato. Os números de desempenho são da DeepSeek; os financeiros vêm de um documento revisto pelo Wall Street Journal, cujas notícias estão fechadas a assinantes.

    cento e cinquenta e cinco biliões de tokens por dia

    O DeepInfer não é um modelo. É o que está por baixo: kernels otimizados, paralelismo para misturas de especialistas, saídas estruturadas. No questionário que acompanha o código, a DeepSeek diz que servir muita gente a um preço razoável é «o problema central que um motor de inferência tem de resolver». Um único cluster serve hoje 155 biliões de tokens por dia e, a preço de hora vazia, cada GPU rende 38 dólares por hora.

    A engenharia é de detalhe e é aí que está o dinheiro. O DSpark atira cinco tokens de cada vez e usa um modelo de confiança para prever quais o principal vai aceitar: corta cerca de 30% dos tokens verificados por passo e, nas contas da empresa, dá 4% a 7% mais débito em produção. A segunda técnica reprocessa apenas a cauda do pedido em vez do prompt inteiro, e a DeepSeek diz que quase reduz para metade o trabalho de prefill. O menor sistema que a empresa considera eficiente leva 64 GPUs a preparar e 64 a gerar.

    Duas coisas ficaram de fora. A gestão da cache de contexto e o balanceamento entre réplicas não foram publicados — a DeepSeek diz que estão demasiado presos à infraestrutura interna e remeteu a explicação para o Zhihu. E o suporte é estreito: GPUs Blackwell SM100 da Nvidia e NPUs Ascend 950 da Huawei, sem Hopper nem gerações anteriores; as duas funções que dão resultados repetíveis só correm em Nvidia, e todas as medições de desempenho também.

    O apoio à Huawei não é acidente: em setembro a DeepSeek levou o TileLang para os chips da fabricante e a Bloomberg noticiou planos para 160 mil aceleradores Ascend 950DT na Mongólia Interior. E o calendário tem ironia: o código saiu um dia depois de o Departamento de Segurança Interna norte-americano ter mandado retirar os produtos DeepSeek dos sistemas federais civis.

    trocar cuda por tpu numa linha

    O TorchTPU foi anunciado na conferência da PyTorch e está no GitHub. É um back-end nativo: o mesmo código que hoje corre em GPU passa a correr em TPU mudando .to(“cuda”) para .to(“tpu”), e a versão 5 da biblioteca Transformers, da Hugging Face, aceita device_map=”tpu”. Por baixo, a Google diz que vLLM, SGLang, Ray e TorchTitan funcionam sem alterações. A tentativa anterior, o PyTorch/XLA de 2020, exigia mexer no código e não tinha execução imediata; esta foi feita com a equipa de PyTorch da Meta, que assina o anúncio a dois.

    A jogada não é técnica, é de mercado. A PyTorch é a ferramenta com que se escrevem quase todos os modelos — a TechCrunch fala em 85% — e foi construída quando a Nvidia já era o padrão, o que fez do CUDA a verdadeira barreira. Na segunda-feira, a Amazon lançou o TorchNeuron, o mesmo exercício para os seus chips Trainium, e prometeu código para desligar a PyTorch da Nvidia. Duas nuvens, dois dias, o mesmo alvo.

    oitenta mil milhões de prejuízo, setecentos e cinquenta por gastar

    O rascunho do prospeto da Anthropic foi revisto pelo Wall Street Journal; os corpos das notícias estão fechados, e o que se sabe vem das descrições dos jornais. No primeiro semestre de 2026 a empresa faturou 16,3 mil milhões de dólares, contra 1,1 mil milhões um ano antes, e registou um prejuízo líquido de 80,7 mil milhões. A maior parte não é dinheiro queimado na operação: são encargos contabilísticos de reavaliação ligados ao financiamento. No trimestre seguinte, disse a empresa aos investidores, a receita chegou aos 16,8 mil milhões, mais 45%.

    O que aperta no documento é a concentração e o compromisso. Cerca de um quinto da receita vem de dois clientes. As obrigações de computação já passaram os 600 mil milhões de dólares, com negociações em curso para mais 150 mil milhões — até 750 mil milhões, parte em contratos por assinar. E a Anthropic diz que não consegue garantir capacidade junto da AWS, da Google e da Microsoft, que a começam a ver como concorrente, e que os operadores independentes de centros de dados com quem trabalha têm «histórico operacional limitado».

    O prospeto avisa ainda que a empresa pode ser responsabilizada por danos causados pelos seus modelos em valores acima do seguro que tem. A ida para a bolsa está apontada a novembro, com uma avaliação a chegar aos 2 biliões de dólares; o New York Post, citando fontes de Wall Street, diz que o documento pode ser público já na sexta-feira — uma só fonte, para uma data.

    quem aluga a máquina é quem assina

    É por isso que a Anthropic aluga em vez de esperar. A CNBC noticiou que negoceia com a britânica Nscale um segundo centro de dados de 460 megawatts no mesmo local da Virgínia Ocidental do primeiro acordo, desta vez por cerca de 45 mil milhões de dólares. A Nscale pediu admissão em bolsa em setembro e vive o mesmo aperto dos pares: as ações da CoreWeave e da Nebius caíram 28% e 27% no último mês, com o endividamento debaixo dos olhos. No domingo, o Telegraph escreveu que a Microsoft desistiu de ancorar um centro da Nscale perto de Londres por atrasos na ligação à rede; a empresa diz que continua comprometida e procura outra fonte de energia.

    O que mudou esta semana não foi um modelo. Foi o sítio onde se ganha e onde se perde. O software que serve os modelos está a ser dado, porque o dinheiro está no silício e na nuvem que o vendem. E a empresa que mais depressa cresce tem 750 mil milhões de dólares de contratos de computação para pagar. A pergunta do próximo trimestre não é qual o modelo ganha nas tabelas. É quem consegue pagar a conta da eletricidade.

    fontes