IA - Os perigos do hiper-realismo imagético

Ou: como a geração de imagens realistas por IA, ameaça a crença no factual da imagem-técnica e põe em xeque o fotojornalismo e a democracia

Um dia desses vi uma publicação que me deixou bem pensativo. Imagina que um político posta uma imagem gerada por IA para fazer uma crítica à algo real. Pode parecer besta, mas é bem representativo do que será nosso futuro.

Existem algumas camadas e diferentes pontos de vista a serem analisados. Mas como bom fotógrafo vou começar reforçando algo que vários artistas já falaram sobre a relação do fazer arte com IAs gerativas.

A possível imagem de referência inicial, ainda que não pareça ter sido tirada por um Fotojornalista, que trabalha com isso e ganha comissão com a publicação de suas fotografias, poderia muito bem ter sido. A crítica aqui não vai a quem postou, mas a todos jornais que utilizaram e utilizam imagens de IA para tratar de fatos reais. Proponho aqui que consideremos por um momento o impacto que a escolha de uma imagem gerada por IA em vez de uma imagem de um fotógrafo tem.

Para o fotógrafo, tem-se uma diminuição do reconhecimento, das atribuições (como fonte) e das comissões - e com isso só piorando, pode levar até à uma crise profissional e existencial. Para o jornal? “Pô muito fácil, pra que pagar? Joga lá na IA a imagem que o outro jornal já pagou, e usa essa daí”. Mas e a atribuição? Bem, do ponto de vista da empresa, se você gerou uma imagem usando uma IA, não há dono. Do ponto de vista legal, boa sorte para o fotógrafo provar que a imagem de IA é uma obra derivada de sua fotografia e merece atribuição. A IA alucina não?.

Mas… tá, e para o público, quem consome e hoje em dia também faz essas imagens? Bem, esse é o segundo ponto a ser analisado, mas antes vale um breve aprofundamento na história da informação, do jornalismo e das imagens técnicas.

A arte e o simbolismo existem desde que podemos ser chamados de humanos, a informação é um pouco mais complexa, depende de qual área de estudo você perguntar, mas para a área de comunicação existe desde a criação das primeiras formas de linguagem, mas tendo ganho mais força a partir da invenção da escrita. A notícia ou o jornalismo, porém, só tomaram um grande público com a criação da Prensa de Gutenberg no século XV, quando surgiu a possibilidade de reprodução em massa do jornal. E pulando mais um pouco na história, essa reprodutibilidade nos levou ao que Vilém Flusser chama de Imagem Técnica - o registro do real a partir de um sensor fotossensível - e o que Walter Benjamin chama de Reprodutibilidade Técnica - em termos simples, a possibilidade de se reproduzir em massa qualquer símbolo/arte/imagem.

Tá, por mais breve que tenha sido, porque é importante essa contextualização? Até o primeiro registro fotográfico em 1826 (olha só, quase 200 anos), a única forma de termos absoluta certeza de um fato, era observando-o diretamente - de resto, nos restava a confiança em quem nos contava - ou retratava. O que a fotografia - o registro visual - e posteriormente o registro sonoro trazem, é a possibilidade de fixarmos um fato ou um acontecimento dado no plano real, no plano do virtual. A criação do cinema, o registro de imagem-movimento com som, traz ainda um outro patamar de realismo que não se tratará nesse texto. Mas o ponto sendo, isso trouxe uma mudança brusca na nossa relação com a arte - o que para Benjamin, com sua falta de unicidade, causa a perda de sua aura - e junto com diversas outras questões, na nossa relação de convivência e troca como sociedade, assim como criou-se uma crença na imagem.

A imagem técnica nunca foi tão reproduzida e compartilhada, como nesses últimos 10 anos, isso suscita uma relação de dependência, mas também de confiança em sua factualidade. Quando se vê uma foto, um vídeo, ou ouve-se um áudio gravado, pode até se duvidar de que seja “armação” - ou ficção, uma realidade paralela como no cinema -, mas nunca questionamos se é real - se de fato é uma representação dada no plano real (ainda que de forma fictícia) - isso tomamos como dado. Não só como público, mas como prova de uma notícia - fotojornalismo -, como prova de um crime - na tarefa de perícia e no tribunal - assim como na política, como forma de denúncia. Essa crença foi inabalável durante um período de quase 200 anos.

O que surge então nos últimos anos, com a geração de imagens a partir de um texto ou uma referência, é um precedente de chegarmos em tamanho realismo com essas imagens, que não saberemos mais distinguir o que é IA, o que é real. Nos primeiros anos disso, foi engraçado rir das imagens mal geradas, mas conforme os modelos de geração melhoraram, já estamos começando a ver o impacto que isso pode ter, principalmente no que tange fake news.

Do ponto de vista histórico, cultural e artístico, é natural que uma hora a imagem técnica pudesse ser substituída por uma outra forma de arte. O que aponto aqui, é que iremos retroceder à um mundo novamente pautado no simulacro e não mais no real. Mas com uma grande diferença. Os novos simulacros, são tão reais quanto o real, não se tem um sentimento de adoração, como se tinha no renascimento, o que se tem é uma ausência de separação entre o simulacro e o real, ou, um hiper realismo, onde o simulacro se tornará - em crença ao menos - mais real que o real.

Mas perde-se também a democratização e experimentação da arte. Explico. As IAs de difusão, não tem capacidade de criar nada do zero, elas são treinadas com materiais que já foram produzidos e que estão disponíveis no mundo, para então a partir de um modelo de predição, modelos estatísticos, formar uma imagem, ou uma resposta a qualquer questão e meio multimodal qual ela fora treinada. Mas suas respostas já estão diretamente limitadas ao seu dataset de treinamento, não há nada a se descobrir - não há para que brincar com as possibilidades do aparelho - tudo está lá, dado.

E do ponto de vista da democratização, hoje esses modelos possuẽm outras normas e orientações - limitações - que são definidas por poucas empresas - visto também que o custo de criar e treinar um modelo desses, para chegar nesse mesmo nível é quase proibitivo. O controle volta a ser centralizado não mão daqueles que tem os meios. E quem controla os meios, controla a informação, controla que imagens, o que você pode ou não gerar. Basta ver o Elon Musk, que em sua sede de poder, quis, pagou e criou uma IA. Acha exagero? Pergunta para a IA da Deepseek - empresa chinesa - se ela acha que Taiwan é uma ilha autônoma?

Não quero ser pessimista ou apocalíptico - o que eu sou, no termo de Umberto Eco -, mas o que estamos vendo hoje, é um sobre-fascínio de que a IA vai resolver todos nossos problemas. De fato é mais fácil pedir para uma IA gerar uma foto a partir de outras, do que falar com um fotógrafo, comprar os direitos de usar a foto, etc. Esse é um exemplo, mas é o sentimento geral que temos hoje - de quem quer usar e incentiva isso, mas de quem usa também.

Pode parecer uma trend boba, podemos eventualmente cansar disso, voltar a incentivar a imagem técnica e colocar a IA em desuso - como pode ser que a tese da Meta, de um mundo virtual vença. E como tudo nos dias de hoje, a complexidade para se pensar no que será o futuro disso, é tamanha, que exigiria possivelmente um mestrado inteiro só divagando sobre isso, que as possibilidades são várias.

O que sabemos hoje, é que nunca foi tão necessário um letramento, uma crítica imagética pessoal. Se a crise de educação no Brasil é um projeto político - o que é -, a falta de regulação e incentivos para uma crítica pessoal que saiba separar o nosso mundo real, do mundo virtual - o mundo dos simulacros -, também o é. Quem se beneficia com o uso generalizado da IA, tanto como forma de pesquisa, como forma de escrita, de geração de imagens, etc, é quem mais quer que essa crítica se esvaia. Ontem foi um político de esquerda, fazendo uma crítica séria e real, usando uma imagem bem similar ao acontecimento de fato. Mas amanhã a história pode ser outra, e boa sorte em tentar desmentir a crença em uma imagem que parece vinda do real.

Mas é muito simples só dizer isso. O Brasil é um país em que a cultura cinematográfica já não foi tão instaurada como na França - onde aprende-se cinema, a criticar uma imagem técnica, ainda na escola -, o culto da crítica à imagem técnica no Brasil, está nichada em certas bolhas, e no geral a crítica pessoal em relação à elas é baixa. Os projetos políticos que espalham fake news, se aproveitam disso. E se antes da IA muitas pessoas já caiam nessas fake news, imagina agora quando se tem vídeo, foto e áudio comprovando o falso fato.

A IA pode ser engraçadinha, esperta, e ter muitas utilidades de fato que podem facilitar nossas vidas. Mas temos que ter cuidado. Utilizamos isso, sem pensar no impacto psicológico, social, político e cultural que isso vai e pode ter. Não estou dizendo não usem, não estou condenando quem usou, acho que é importante aprender a usar, pois gostando ou não estará no nosso futuro. Mas todos temos que estar cientes do que estamos acordando ao utilizar algo assim, é isso que tentei elucidar.