Uma ferramenta da Meta deixou de reconhecer 55% das imagens criadas pela própria inteligência artificial da empresa depois que os arquivos passaram por cortes. O resultado mostra como alterações comuns podem reduzir a eficiência dos sistemas usados para identificar conteúdo artificial na internet.
O problema foi encontrado em uma análise da Reuters com 40 imagens produzidas pelo Muse Image, modelo de geração visual apresentado pela Meta.
Resultado do teste
- 40 imagens foram criadas pelo Muse Image;
- o detector reconheceu todos os arquivos originais;
- depois dos cortes, 55% deixaram de ser identificados;
- as imagens foram reduzidas para cerca de um terço ou metade do tamanho original.
Como um corte confundiu o detector da Meta?
O Muse Image inclui nas imagens uma marca-d’água invisível chamada Content Seal. Esse sinal digital foi desenvolvido para permitir a verificação da origem do arquivo, mesmo depois de edições comuns.
Nos arquivos originais avaliados, a ferramenta conseguiu confirmar corretamente que todas as imagens haviam sido geradas pela inteligência artificial da Meta. O desempenho caiu quando partes das imagens foram removidas.
Segundo a empresa, o sistema ainda está em fase de testes. A Meta reconheceu que cortes mais intensos podem enfraquecer ou eliminar o sinal usado na identificação, apesar de a tecnologia ter sido projetada para resistir a modificações.
Marca-d’água invisível não é garantia absoluta
O resultado expõe uma limitação dos sistemas que dependem de sinais incorporados ao arquivo. Redimensionamento, compressão, recortes e outras edições podem afetar a informação necessária para confirmar que o conteúdo foi produzido por IA.
Essas marcas são diferentes de uma assinatura visível colocada sobre a fotografia. Elas ficam integradas aos dados da imagem e precisam ser encontradas por uma ferramenta compatível.
Quando o trecho que carrega parte importante desse sinal é retirado ou modificado, a verificação pode falhar. Isso não transforma a imagem em verdadeira, mas dificulta a confirmação automática de sua origem.
Falha amplia preocupação com imagens falsas
A dificuldade de reconhecer arquivos alterados representa um desafio para redes sociais, veículos de comunicação e usuários. Uma imagem artificial pode ser recortada, comprimida e publicada novamente em poucos minutos, perdendo parte dos sinais usados para rastreá-la.
O risco ganha importância com a circulação de montagens envolvendo políticos, celebridades e pessoas comuns. Conteúdos desse tipo podem ser utilizados em campanhas de desinformação, fraudes, falsas acusações e golpes digitais.
Google e OpenAI também já advertiram que ferramentas de detecção não são infalíveis diante de alterações nos arquivos. Por isso, a identificação automática não deve ser considerada uma prova isolada de que determinada imagem é real ou artificial.
Modelo também enfrentou críticas por privacidade
O teste ocorreu na mesma semana em que o Muse Image passou a enfrentar críticas por permitir a criação de imagens com referências retiradas de contas públicas do Instagram.
Após a reação de usuários e entidades, a Meta desativou essa funcionalidade. A empresa informou que a proposta não atingiu o objetivo esperado e retirou o recurso, conforme noticiado também pela Associated Press.
A combinação entre problemas de privacidade e limitações na identificação mostra que a geração de imagens por IA continua avançando mais rapidamente do que alguns mecanismos criados para controlar seus riscos.
O que observar antes de acreditar em uma imagem?
O resultado não significa que todas as ferramentas de detecção sejam inúteis. Elas podem ajudar na verificação, mas precisam ser combinadas com outros procedimentos.
- procure a publicação original e o contexto da imagem;
- verifique se veículos confiáveis divulgaram o mesmo acontecimento;
- observe inconsistências de iluminação, proporção e detalhes;
- desconfie de imagens recortadas ou sem indicação da fonte;
- não compartilhe conteúdos alarmantes antes da confirmação.
O teste reforça que pequenos ajustes podem comprometer sistemas automatizados. Enquanto as tecnologias de identificação não se tornam mais resistentes, a origem, o contexto e a confirmação por fontes confiáveis continuam essenciais.
