Os usuários do Facebook e do Instagram começarão a ver rótulos em imagens geradas por IA que aparecem em seus feeds de mídia social, como parte de uma iniciativa mais ampla da indústria de tecnologia para classificar entre o que é real e o que não é.
A Meta disse na terça-feira que está trabalhando com parceiros da indústria em padrões técnicos que facilitarão a identificação de imagens e, eventualmente, de vídeo e áudio gerados por ferramentas de inteligência artificial.
O que resta saber é até que ponto funcionará bem numa altura em que é mais fácil do que nunca criar e distribuir imagens geradas por IA que podem causar danos – desde desinformação eleitoral até nus falsos e não consensuais de celebridades.
“É uma espécie de sinal de que eles estão levando a sério o fato de que a geração de conteúdo falso online é um problema para suas plataformas”, disse Gili Vidan, professor assistente de ciência da informação na Universidade Cornell. Poderia ser “bastante eficaz” na sinalização de uma grande parte do conteúdo gerado por IA feito com ferramentas comerciais, mas provavelmente não capturará tudo, disse ela.
O presidente de assuntos globais da Meta, Nick Clegg, não especificou na terça-feira quando os rótulos apareceriam, mas disse que será “nos próximos meses” e em diferentes idiomas, observando que “uma série de eleições importantes estão ocorrendo em todo o mundo”. “
“À medida que a diferença entre conteúdo humano e sintético fica confusa, as pessoas querem saber onde está a fronteira”, disse ele em um blog.
A Meta já coloca um rótulo “Imaginado com IA” em imagens fotorrealistas feitas por sua própria ferramenta, mas a maior parte do conteúdo gerado por IA que inunda seus serviços de mídia social vem de outro lugar.
Diversas colaborações da indústria de tecnologia, incluindo a Iniciativa de Autenticidade de Conteúdo liderada pela Adobe, têm trabalhado para estabelecer padrões. Um impulso para marcas d’água digitais e rotulagem de conteúdo gerado por IA também fez parte de uma ordem executiva que o presidente dos EUA, Joe Biden, assinou em outubro.
Clegg disse que a Meta trabalhará para rotular “imagens do Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock à medida que implementam seus planos para adicionar metadados às imagens criadas por suas ferramentas”.
O Google disse no ano passado que os rótulos de IA estão chegando ao YouTube e suas outras plataformas.
“Nos próximos meses, apresentaremos rótulos que informam aos espectadores quando o conteúdo realista que eles estão vendo é sintético”, reiterou o CEO do YouTube, Neal Mohan, em um blog com um ano de antecedência após terça-feira.
Uma preocupação potencial para os consumidores é se as plataformas tecnológicas se tornarem mais eficazes na identificação de conteúdos gerados por IA a partir de um conjunto de grandes fornecedores comerciais, mas perderem o que é feito com outras ferramentas, criando uma falsa sensação de segurança.
“Muita coisa dependeria de como isso é comunicado pelas plataformas aos usuários”, disse Vidan, da Cornell. “O que esta marca significa? Com quanta confiança devo aceitá-la? O que sua ausência deveria me dizer?”