Anthropic (ago-set/2025): três bugs degradam o Claude

01 · CONTEXTO

Um mesmo modelo em várias plataformas

Entre agosto e o início de setembro, três bugs de infraestrutura degradaram de forma intermitente a qualidade das respostas do Claude. A empresa afirma que nunca reduz a qualidade do modelo por demanda, horário do dia ou carga dos servidores, e atribui o que os usuários relataram apenas a bugs de infraestrutura.

O Claude é servido pela API própria, pelo Amazon Bedrock e pelo Vertex AI do Google Cloud, e roda em Trainium, GPUs NVIDIA e TPUs. Cada plataforma tem características e otimizações próprias, mas a meta é que o usuário receba respostas de mesma qualidade qualquer que seja a plataforma que atende o pedido.

1. O Claude chega aos usuários pela API própria e também pelo Amazon Bedrock e pelo Vertex AI do Google Cloud.

2. Os mesmos modelos rodam em Trainium, GPUs NVIDIA e TPUs, cada um com características e otimizações próprias.

3. Uma camada de roteamento direciona cada requisição ao conjunto de servidores adequado. O desenho é uma simplificação, mas é nessa camada que o primeiro bug vai aparecer.

02 · LINHA DO TEMPO

Três bugs sobrepostos, um único sintoma

O primeiro bug surgiu em 5 de agosto e afetava cerca de 0,8% das requisições ao Sonnet 4. Outros dois vieram de implantações de 25 e 26 de agosto. Em 29 de agosto, uma mudança de balanceamento de carga começou a aumentar o tráfego afetado. A página de status descreveu o primeiro problema como o de uma pequena parcela das requisições do Sonnet 4, de 5 de ago a 4 de set, com impacto crescente a partir de 29 de ago.

03 · BUG DE ROTEAMENTO

Balanceamento de carga e roteamento sticky

Em 5 de agosto, parte das requisições do Sonnet 4 foi encaminhada a servidores configurados para a janela de contexto de 1M tokens que viria, e no início isso afetava 0,8% das requisições. Em 29 de agosto, uma mudança rotineira de balanceamento de carga aumentou sem querer o número de requisições de contexto curto enviadas a esses servidores. Na pior hora, em 31 de agosto, 16% das requisições do Sonnet 4 foram afetadas.

O roteamento era sticky: uma vez que uma requisição era atendida pelo servidor errado, as mensagens seguintes tendiam a cair no mesmo servidor. Cerca de 30% dos usuários do Claude Code que fizeram requisições no período tiveram ao menos uma mensagem roteada ao tipo errado de servidor.

1. Uma requisição de contexto curto deveria ser dirigida ao conjunto de servidores de contexto curto.

2. Um erro de roteamento mandou parte das requisições curtas aos servidores configurados para contexto longo.

3. Uma mudança rotineira de balanceamento, em 29 de agosto, aumentou sem querer a quantidade de requisições curtas enviadas aos servidores de contexto longo.

4. Como o roteamento era sticky, quem caía no servidor errado tendia a continuar nele nas mensagens seguintes.

5. A correção fez as requisições curtas e longas voltarem aos conjuntos de servidores corretos.

04 · SAÍDA E TOP-K

Precisão numérica e o compilador de TPU

Em 25 de agosto, uma configuração errada nos servidores TPU da API causou um erro na geração de tokens. Uma otimização de desempenho de execução às vezes atribuía probabilidade alta a tokens que deveriam ser raros, como caracteres tailandeses ou chineses em respostas a prompts em inglês, ou erros de sintaxe óbvios em código. A mudança foi revertida em 2 de setembro, e a empresa acrescentou ao processo de implantação testes de detecção de caracteres inesperados.

O terceiro bug veio de uma mudança no código de seleção de tokens, que acionou um bug latente no compilador XLA:TPU. Ele foi confirmado para o Haiku 3.5, e a empresa acredita que pode ter afetado parte do Sonnet 4 e do Opus 3 na API. Plataformas de terceiros não foram afetadas.

Para entender o mecanismo: o Claude calcula probabilidades para cada próxima palavra possível e sorteia uma amostra dessa distribuição, considerando apenas as palavras cuja probabilidade acumulada alcança um limiar (top-p). Os modelos ficam particionados em dezenas de chips ou mais, e a ordenação dessas probabilidades é uma ordenação distribuída.

1. A cada token, o modelo calcula probabilidades para as próximas palavras possíveis e a etapa de amostragem sorteia uma delas.

2. O top-p restringe o sorteio às palavras cuja probabilidade acumulada alcança um limiar, evitando saídas sem sentido.

3. O compilador pode converter operações para precisão maior, e operações que deveriam concordar sobre o token mais provável rodavam em níveis de precisão diferentes.

4. O top-k aproximado, usado por desempenho, às vezes devolvia resultados errados e podia descartar o token mais provável, só para certos tamanhos de lote e configurações.

5. A correção trocou o top-k aproximado pelo exato e padronizou outras operações em precisão maior, aceitando um pequeno custo de eficiência.

Em dezembro de 2024, a equipe tinha visto a implementação em TPU descartar às vezes o token mais provável com temperatura zero e aplicado um contorno. Em 26 de agosto, uma reescrita do código de amostragem para corrigir os problemas de precisão removeu esse contorno, por se acreditar que a causa raiz estava resolvida. O contorno vinha mascarando o bug mais profundo do top-k aproximado.

A reversão do bug de top-k veio por modelo: o Haiku 3.5 foi revertido em 4 de setembro e o Opus 3, após relatos compatíveis, em 12 de setembro. O Sonnet 4 também foi revertido por precaução, embora a empresa não tenha conseguido reproduzir o bug nele.

05 · DETECÇÃO E MUDANÇAS

Por que demorou a enxergar o problema

A validação costumava combinar benchmarks, avaliações de segurança e métricas de desempenho, além de checagens manuais e implantação em pequenos grupos canary. Mesmo assim, as avaliações não captaram a degradação relatada, em parte porque o Claude muitas vezes se recupera bem de erros isolados, e cada bug produziu sintomas diferentes em plataformas diferentes e em taxas diferentes.

Os controles internos de privacidade e segurança limitam o acesso dos engenheiros a interações não reportadas como feedback. A empresa admite que dependia demais de avaliações ruidosas e não tinha um modo claro de ligar os relatos às mudanças recentes.