OpenAI vai inserir marcas d'água invisíveis nos textos produzidos pelo ChatGPT e pelo Codex, segundo o Tengrinews, o Kursiv Media Kazakhstan, o Kazinform e o Zakon.kz. A medida visa permitir a identificação de conteúdo criado por inteligência artificial e será ativada inicialmente para usuários da União Europeia nas próximas semanas.
Como funciona a tecnologia textGrain
Segundo o Tengrinews e o Kursiv Media Kazakhstan, a OpenAI denominou a solução de textGrain, que acrescenta um sinal estatístico invisível aos textos gerados pelos modelos ChatGPT e Codex. Esse sinal só pode ser detectado por um detector especial mencionado pela empresa. De acordo com o Zakon.kz, o watermark não altera a aparência visível do texto e permanece presente depois da geração. O Kazinform acrescenta que a marca não é um símbolo real, mas resulta de uma mudança sutil na escolha de palavras pelo modelo, criando uma sequência característica que o detector consegue localizar. O Kursiv observa que o impacto na velocidade dos modelos é insignificante e que os testes não mostraram degradação significativa na qualidade das respostas. O Tengrinews também destaca que o detector pode indicar se o texto passou por processamento de inteligência artificial.
Limitações e avisos da OpenAI
O Tengrinews e o Zakon.kz alertam que a detecção da marca d'água é mais difícil em textos curtos; edição do conteúdo ou substituição de palavras por sinônimos pode enfraquecer significativamente o sinal. Ambos os veículos afirmam que a presença da marca não permite identificar o autor, medir a contribuição humana nem verificar a veracidade da informação. O Kursiv Media Kazakhstan e o Kazinform destacam que, por enquanto, o detector não será disponibilizado ao público em geral; apenas pesquisadores aprovados e organizações especializadas terão acesso inicial. O Tengrinews também informa que a OpenAI não pretende tornar o detector público, uma limitação comunicada pela própria empresa.
Fundamento regulatório
Segundo o Kursiv Media Kazakhstan, a iniciativa da OpenAI tem como base atender ao Regulamento Europeu de Inteligência Artificial (AI Act), que exige marcação legível por máquina de conteúdo gerado por IA. O Tengrinews acrescenta que a empresa vê a medida como alinhada com a legislação da União Europeia sobre transparência no uso de inteligência artificial.
Disponibilidade, reação e desdobramentos
De acordo com o Tengrinews, o Zakon.kz e o Kursiv Media Kazakhstan, as marcas d'água aparecerão nos textos do ChatGPT e do Codex nas próximas semanas para usuários da União Europeia; em outros países a função permanecerá desativada por padrão, podendo ser ativada mediante solicitação direta à OpenAI por clientes que desejarem. O Kursiv acrescenta que clientes de API já podem incluir voluntariamente o watermark em modelos específicos independentemente do país. Além disso, o Tengrinews e o Zakon.kz citam a saída do ex‑chefe de segurança da OpenAI, David Robinson, que deixou a empresa anteriormente, apontando problemas na cultura corporativa e falta de cautela dos desenvolvedores de IA como motivações.
