Você já se deparou com algum vídeo ou foto na internet que aparentava ser real e depois descobriu que se tratava de conteúdo gerado por inteligência artificial? Experiências como essas devem se tornar cada vez mais comuns.

Com o desenvolvimento das ferramentas de IA e sua disseminação, vídeos e fotos ultrarrealistas já circulam nas redes. E, embora alguns se divirtam com esses conteúdos, muitos internautas acabam sendo “enganados” ao acreditar que os cenários e situações apresentados são reais.

Atualmente, a maior parte desses vídeos é produzida com o Veo, do Google – ferramenta que permite criar vídeos ultrarrealistas de até 8 segundos, com diáe até som ambiente – mas é apenas uma questão de tempo até que outras empresas lancem suas próprias versões capazes de produzir imagens fiéis à realidade.

Os progressos na criação de imagens por inteligência artificial pavimentam o caminho para uma nova fase nas redes sociais, na qual se tornará cada vez mais complicado diferenciar fatos de falsidades no feed. De acordo com especialistas consultados pela CNN, o nosso futuro na internet pode depender da capacidade geral de questionar tudo.

Leia também:

China inova no policiamento de trânsito com robôs e inteligência artificial em grandes cidades

iPhone 18 Pro: Novas cores, câmera inovadora e chip A20 Pro em destaque!

Felca revela reações de crianças sobre restrições polêmicas no chat do Roblox!

As implicações de perigo associadas à inteligência artificial hiper-realista.

“A tecnologia, em si, não é ruim, ela pode ser utilizada para vários pontos positivos”, explicou Ricardo Marsili, especialista em inteligência artificial. “Mas temos riscos que devem ser considerados.”

À medida que as IAs são aprimoradas, aumenta a capacidade de que sejam utilizadas para disseminar desinformação. Por exemplo, através da criação de deepfakes extremamente convincentes.

As falsificações digitais podem ser empregadas para exaltar ou diminuir figuras públicas – incluindo políticos, que podem ser representados realizando ou declarando ações que nunca ocorreram –, mas também podem ser utilizados no âmbito pessoal, como forma de prejudicar a imagem de indivíduos comuns. Aplicativos de inteligência artificial que geram imagens íntimas falsas de adolescentes já se mostram um problema em escolas em todo o mundo, inclusive no Brasil.

Essas ferramentas também podem ser utilizadas como instrumento para fraudes financeiras, com a criação de vídeos realistas de pessoas do nosso círculo social solicitando dinheiro, por exemplo.

Contudo, os riscos coletivos decorrentes do avanço da IA podem ser ainda mais graves.

“Um dos riscos mais críticos é a erosão da confiança do público em qualquer coisa que esse público receba”, declarou Fabrício Carraro, program manager da Alura e especialista em IA.

À medida que se torna mais difícil distinguir o que é real do que é gerado por IA, a credibilidade da informação como um todo passa a ser questionada. Isso afeta não só o jornalismo, mas também as instituições democráticas, a confiança das pessoas nas interações digitais entre elas.

É necessário apresentar uma atitude de ceticismo.

De acordo com especialistas, o melhor caminho para evitar ser enganado por imagens produzidas por inteligência artificial é ter ceticismo.

“À medida que essa tecnologia evolui, fica mais difícil fazer essa distinção”, afirmou Carraro. “Se algo parecer espetacular demais para ser verdade, é preciso desconfiar e buscar em fontes confiáveis. O mais importante é sempre adotar uma postura de ceticismo crítico quando se recebe um vídeo no WhatsApp e em outras redes sociais a partir de agora.”

“O principal desafio é que, frequentemente, ao estarmos em um estado mais despreocupado, sobretudo nas nossas redes sociais, esses vídeos podem não chamar a atenção”, acrescentou Marsili. “A principal orientação ainda é o contexto. Aquele que está sendo dito, o cenário que está sendo apresentado, as roupas que estão sendo usadas?”

Os progressos em IA estão introduzindo uma nova fase na internet e nas redes sociais, e, é necessário alterar a forma como utilizamos essas plataformas. Em vez de consumir conteúdos de maneira passiva, o ideal é desconfiar de tudo, estando sempre preparado para verificar em outras fontes se algo é verdadeiro ou não.

“Infelizmente, essa desconfiança de sempre questionar se aquilo ali é real é a nossa melhor proteção. Precisamos mudar um pouco o paradigma. Mesmo que pareça real, muitas vezes não é. É necessário ficar desconfiado em dobro, em triplo, e pensar muito no contexto”, acrescentou Marsili.

Quem são as empresas responsáveis?

As empresas que desenvolvem essas ferramentas de IA frequentemente implementam algumas ações para que os vídeos gerados por computador sejam identificados. Contudo, essas medidas são facilmente contornadas, ou difíceis de serem verificadas rapidamente.

A Veo, do Google, emprega registros de direitos autorais nas imagens. Os vídeos frequentemente incluem a palavra “Veo” no canto inferior direito, além de uma marca d’água invisível chamada SynthID, que se manifesta apenas nos dados do arquivo gerado, porém é mais difícil de ser removida ou modificada.

“Mas sempre haverá pessoas que tentarão remover essa marca d’água ou alterar de alguma forma”, ressaltou Marsili.

Outras medidas incluem restrições de uso. O Veo, por exemplo, não autoriza a produção de vídeos com o rosto de personalidades públicas, como políticos ou celebridades.

É fato que todas as empresas necessitam disponibilizar novas e aprimoradas maneiras para o usuário identificar conteúdo gerado por IA.

Carraro sugeriu que, nos próximos anos, celulares ou aplicativos podem já vir com esse tipo de verificação.

O Brasil se destaca entre os países que mais empregam inteligência artificial.

Fonte por: CNN Brasil