Cursor (abr/2025): bot de suporte "Sam" inventa regra de login

01 · CONTEXTO

Um bot de suporte explica um logout com uma regra que não existe

Em abril de 2025, usuários do Cursor, um assistente de programação com IA desenvolvido pela Anysphere, relataram ser deslogados de forma inesperada. Segundo o registro de incidentes de IA, um bot de suporte chamado Sam teria respondido com uma política de login inventada para justificar o comportamento.

A política alucinada não se baseava em nenhuma mudança real da empresa, e o incidente teria levado a cancelamentos de assinatura.

1. Usuários que alternavam entre dispositivos passaram a ser deslogados sem uma explicação aparente.

2. Ao procurar o suporte, os usuários receberam uma resposta por e-mail vinda de Sam.

3. Sam disse que os logouts eram comportamento esperado sob uma nova política de login, mas essa política não existia.

4. Houve relatos de usuários cancelando assinaturas, e alguns reclamaram da falta de transparência.

02 · O QUE DEU ERRADO

Sem política nova e sem pessoa por trás

A Fortune relata que não havia política nova e que não havia pessoa por trás do e-mail de suporte: a resposta veio de um bot de IA, e a nova política era uma alucinação, uma explicação inteiramente inventada.

O cofundador Michael Truell reconheceu uma resposta incorreta de um bot de suporte de IA de primeira linha e disse que a empresa investigava um bug que deslogava usuários.

03 · O QUE FICOU EM ABERTO

O que as fontes não dizem sobre o sistema

Segundo Amiram Shachar, citado pela Fortune, sem as restrições certas a IA preenche lacunas com informação sem respaldo, e faz isso com confiança.

As fontes consultadas não descrevem como Sam foi construído, como ele consultava informação da empresa nem quando passava a conversa a uma pessoa. Por isso este artigo não descreve a arquitetura real do bot: o desenho da próxima seção é uma proposta didática, não um relato do que o Cursor tinha.

04 · DESENHO MAIS SEGURO

Ancorar a resposta, dizer que é IA e saber transferir

Um assistente que fala em nome da empresa precisa de uma fonte única para o que afirma. Uma saída é responder apenas com trechos recuperados da política vigente, citar a fonte, avisar que quem responde é uma IA e transferir para uma pessoa quando não houver trecho que sustente a resposta. Esse desenho se liga à conformidade regulatória no desenho de sistemas, em que a responsabilidade pelo que o sistema afirma vira requisito de projeto, e ao monitoramento e observabilidade, que mostra cedo quando muitos usuários reclamam do mesmo assunto.

1. O usuário pergunta ao assistente, que se apresenta como uma IA desde a primeira resposta.

2. O assistente busca o trecho vigente da política e monta a resposta só com ele, indicando a fonte.

3. Sem trecho que sustente a resposta, o assistente não explica nada por conta própria e transfere a conversa a uma pessoa pela fila.

4. As conversas são registradas e o monitoramento destaca quando muitos usuários reclamam do mesmo sintoma, para a equipe enxergar uma falha real cedo.

5. Quando a equipe confirma uma falha, ela entra na lista de incidentes conhecidos e o assistente passa a reconhecê-la e encaminhar, em vez de inventar uma regra.

05 · IMPACTO NO NEGÓCIO

Atendimento errado vira risco de retenção

Segundo a Fortune, o suporte por IA do Cursor saiu do controle, provocando uma onda de cancelamentos, e o episódio virou um alerta para outras startups que apostam em automação.

As fontes consultadas não quantificam os cancelamentos, e por isso este artigo não traz número. O ponto de projeto é que o canal de suporte também faz parte do produto: quando ele afirma algo falso, o custo pode aparecer em confiança e em retenção de clientes.