ChatGPT implementa marca-d'água invisível em textos gerados por IA

A OpenAI revelou que o ChatGPT começará a utilizar uma nova tecnologia chamada textGrain, que insere uma marca-d'água invisível em textos gerados pela inteligência artificial. Essa inovação, que altera discretamente as escolhas de palavras, permitirá que ferramentas específicas identifiquem conteúdos produzidos pelo modelo.

A implementação do textGrain ocorrerá nas próximas semanas, inicialmente para usuários do ChatGPT e do Codex na União Europeia. Essa medida é uma resposta às exigências do AI Act europeu, que demanda que conteúdos gerados por sistemas de IA sejam identificáveis por máquinas. A Anthropic, empresa responsável pelo Claude, já havia adotado uma abordagem semelhante ao anunciar sua própria marca-d'água em agosto.

Embora o recurso esteja sendo lançado na União Europeia, a OpenAI informou que clientes da API em outros países poderão ativar a tecnologia de forma voluntária em modelos compatíveis. No entanto, usuários do ChatGPT no Brasil não receberão automaticamente essa funcionalidade.

O funcionamento do textGrain não se dá por meio de etiquetas visíveis ou caracteres ocultos. Em vez disso, a tecnologia ajusta as probabilidades de escolha de palavras durante a geração do texto, criando um padrão que pode ser reconhecido por ferramentas de identificação. "O carimbo não adiciona caracteres invisíveis ou informações escondidas ao copiar e colar uma resposta", explicou a OpenAI.

Essa mudança pode impactar a forma como empresas e usuários interagem com conteúdos gerados por IA, especialmente em relação à transparência e à conformidade com regulamentações. A tendência é que, com a crescente demanda por identificação de conteúdos de IA, mais empresas adotem medidas semelhantes para garantir a conformidade com as leis locais e internacionais.