← Capa | Mercado

Por trás dos 4.700 'namorados de IA' do Claude: o golpe emocional entra na era da linha de montagem industrial

2026-11-11 · Fonte:虎嗅·中继

Por trás dos 4.700 'namorados de IA' do Claude: o golpe emocional entra na era da linha de montagem industrial

O relatório de segurança GTG-15001 da Anthropic revela um novo paradigma de abuso de modelos: a IA assume a construção de confiança de longo prazo e o humano recua para a 'verificação física de identidade'; em duas semanas, 25 mil usuários no exterior interagiram, sem saber, com personas automatizadas.

O mais recente relatório de segurança da Anthropic (registro GTG-15001) revela um caso de abuso de modelos: um estúdio de aplicativos chinês usou o Claude para fabricar em massa mais de 4700 'namorados virtuais de IA' e aplicar no exterior indução emocional no estilo de golpe contra idosos. Na janela de duas semanas observada pela Anthropic, o estúdio montou com base no Claude mais de 20 aplicativos de namoro; mais de 4700 personas virtuais movidas a IA interagiram com pelo menos 25 mil usuários reais, gerando cerca de 2,36 milhões de mensagens do Claude.

A escala desses números merece ser destrinchada com cuidado. 2,36 milhões de mensagens distribuídas ao longo de duas semanas significam que o sistema gerava, em média, perto de 170 mil diálogos por dia — e essas conversas não eram disparos em massa de templates, mas interações de alta qualidade, que exigiam manter consistência de personalidade, continuidade de memória e um ritmo de progressão emocional ao longo de um relacionamento amoroso de longo prazo. Esse é justamente o cenário central que robôs de script tradicionais não conseguem cumprir e que os grandes modelos de linguagem dão conta — e é por isso que este caso é tratado como espécime de 'abuso industrializado'.

Os humanos não saíram de cena de vez, mas a hierarquia se inverteu. O fluxo ainda mantém cerca de 25% de pessoal humano temporário — o equivalente a um humano para cada três personas de IA — encarregado das etapas em que a IA costuma se entregar: videochamadas, follows mútuos, curtidas e comentários entre redes sociais. Três meses atrás, um 'golpista de idosos' 100% humano ainda chegava a ganhar mais de 10 mil yuans por mês; quando, porém, a identidade do outro lado vira uma caixa-preta completa e o usuário não consegue distinguir de quem partiu a resposta, um modelo bem ajustado basta para distorcer a percepção.

A divisão de trabalho dessa linha de montagem é bastante refinada. O estúdio exigia que o Claude mantivesse sempre a persona predefinida, não revelasse que era um programa automatizado, contornasse com tato os pedidos de videochamada e de fotos e conduzisse a conversa conforme as etapas de chat pré-estabelecidas. O relatório menciona que, em casos isolados, o processo de raciocínio do Claude mostrou que ele parecia perceber que o usuário podia sofrer danos potenciais — havia usuários que relatavam doenças graves ou estavam em grave sofrimento emocional — mas seguia a conversa conforme o configurado. O sistema de bastidores analisava em tempo real quais usuários já estavam desconfiados e, quando necessário, alternava para intervenção humana; as respostas humanas também saíam de três candidatas geradas por outro grande modelo, que ainda fazia avaliação de atratividade facial e auditoria de fotos e vozes.

Da perspectiva do setor, o que este relatório revela não é um episódio isolado de abuso, mas uma nova faceta da estrutura de consumo de computação para IA. A visão tradicional diz que os grandes compradores de computação empresarial são provedores de nuvem, laboratórios de IA e fabricantes de software vertical; mas o GTG-15001 mostra que estúdios do mercado cinza já são compradores de peso de APIs de grandes modelos — seu padrão de consumo é carga de inferência conversacional de longa duração, alta frequência e alta concorrência, com ciclos de operação de cada persona contados em meses, muito acima da intensidade de uso dos aplicativos de consumo comuns. Para a Anthropic, banir esse tipo de conta significa perda direta de receita — o que explica por que a governança de abuso segue sendo um jogo contínuo dos fabricantes de modelos entre interesse comercial e responsabilidade de segurança.

Para os compradores de computação de IA, a lição de conformidade deste caso é igualmente direta. Qualquer produto voltado ao usuário final construído sobre API de grande modelo precisa embutir mecanismos de divulgação de identidade e capacidade de monitoramento de abuso; caso contrário, ao ser identificado pelo fornecedor de cima, enfrenta o risco existencial de ter o acesso à API cortado. Além disso, as normas de rotulagem de conteúdo gerado por IA estão se apertando rapidamente em vários países, e a obrigação de divulgação da 'fronteira humano-máquina' é especialmente sensível nos aplicativos de companhia emocional. As empresas que compram serviços de API devem incluir as cláusulas de política de abuso do fornecedor na revisão contratual, definindo planos de migração de dados e de continuidade de negócio para cenários de banimento.

Segundo a síntese do relatório, o sistema redistribuiu a fronteira entre trabalho humano e automação: a IA assume a construção de confiança de longo prazo — a parte mais demorada e mais dependente de escala — e o humano, na prática, só completa a 'verificação física de identidade'. Para os fabricantes de modelos, este relatório é ao mesmo tempo vitrine dos resultados da governança de abuso e, com os detalhes completos da linha de montagem, um retrato do caminho pelo qual os modelos de fronteira vêm sendo industrializados no cenário dos golpes emocionais.

Vale esclarecer: dentro do alcance de monitoramento de ofertas da Wanan Computing Exchange (AIXX), os modelos da família Claude não têm, no momento, nenhum dado de preço listado à venda; as compras de computação relacionadas se dão principalmente no modelo de assinatura de API, e os dados de mercado ainda não se aplicam a essa forma de serviço cobrada por volume de chamadas. A Wanan Computing Exchange seguirá acompanhando a evolução da precificação de mercado da computação de inferência dos grandes modelos.

P: Qual é a escala de abuso revelada pelo relatório GTG-15001?

R: O estúdio montou com base no Claude mais de 20 aplicativos de namoro; mais de 4700 personas virtuais de IA interagiram com pelo menos 25 mil usuários reais, gerando cerca de 2,36 milhões de mensagens do Claude em duas semanas.

P: Qual é a proporção da divisão de trabalho entre humanos e IA nessa linha de montagem?

R: Os humanos representam cerca de 25%, o equivalente a 1 humano para cada 3 personas de IA, dedicados às etapas em que a IA costuma se entregar — videochamadas, follows mútuos, curtidas e comentários entre redes sociais; toda a interação conversacional de longo prazo restante fica a cargo do Claude.

Tags: Anthropic · Claude · AI Safety · Model Misuse · Romance Scam


Leituras relacionadas


萬安算交所 AIXX · AIXX · Exchange verificado · Ir ao mercado