2026-11-04 · Fonte:Unite AI

Um novo estudo da Lasso Security, de Andrea Siposova, constata que a marca d'água SynthID-Text pode alterar se os modelos recusam pedidos nocivos e quais chamadas de ferramentas os agentes fazem — um efeito batizado de 'sampling drift'.
A marca d'água em texto, técnica criada para sinalizar conteúdo como gerado por máquina para fins de proveniência, pode trazer consequências comportamentais não intencionais para os grandes modelos de linguagem, segundo nova pesquisa da empresa de segurança Lasso Security. Andrea Siposova, pesquisadora da companhia, publicou o estudo — intitulado 'The Provenance Tax: Understanding the Impact of LLM Watermarking on AI Agent Behavior' — em 17 de setembro de 2026. O artigo examina o SynthID-Text, um esquema de marca d'água em texto, e relata que ele pode alterar o comportamento central do modelo.
Segundo as constatações, a marca d'água pode mudar se um modelo de linguagem recusa ou não um pedido nocivo — uma alteração com consequências diretas para as barreiras de segurança. Também pode mudar quais chamadas de ferramentas um agente de IA gera, o que significa que sistemas agênticos podem tomar ações diferentes dependendo de a saída de seu modelo subjacente carregar ou não uma marca d'água. O estudo de Siposova batiza o fenômeno de 'sampling drift', atribuindo-o ao modo como a marca d'água altera o processo pelo qual um modelo produz texto.
A distinção entre o papel pretendido da marca d'água e seus efeitos observados está no coração do artigo. A detecção de proveniência é o objetivo declarado de design da técnica, permitindo que o texto gerado seja identificado como feito por máquina. Contudo, o estudo constata que o SynthID-Text não deixa o comportamento do modelo intocado: o mecanismo remodela a própria geração de saída, alterando tanto as decisões de recusa quanto as chamadas de ferramentas que os agentes produzem.
O título do estudo explicita a troca envolvida: uma 'provenance tax'. Para as equipes que implantam LLMs e agentes autônomos, a pesquisa sugere que ativar a marca d'água não é uma camada neutra sobre a geração, mas um fator capaz de deslocar o comportamento do modelo, incluindo as respostas a prompts nocivos e as ações que os agentes escolhem. As constatações acrescentam ao fardo de avaliação das organizações que pesam a adoção de marca d'água junto com testes de segurança e confiabilidade.
Tags: Lasso Security · Andrea Siposova · SynthID-Text · Watermarking · AI Agents
萬安算交所 AIXX · AIXX · Exchange verificado · Ir ao mercado