O que é o Apagamento por IA (e como isso já está te afetando)

Recentemente, ao ler o intrigante artigo do autor australiano Leo Chau, me surpreendeu até que ponto ferramentas de inteligência artificial (IA), como geradores de imagem, geradores de áudio e sistemas como o ChatGPT, estão sendo utilizadas por movimentos fascistas e de extrema-direita globalmente.

Após concluir o Mestrado de Pesquisa no Instituto da Victoria University, em Melbourne, onde minha tese investigou como as ferramentas de IA influenciam o comportamento humano.

Minha tese atestou que as imagens sintéticas geradas de grupos humanos e indivíduos, particularmente aqueles que estão fora do universo heteropatriarcal e de corpos considerados aptos, bem como aqueles de origem não europeia, surgem cheias de estereótipos. Em resumo, mulheres, pessoas com deficiência, pessoas queer e pessoas não brancas são geradas por sistemas de IA cheios de preconceito e de vieses.

De forma alarmante, e mais do que isso, descobri que quanto mais enviesadas, preconceituosas e estereotipadas eram as imagens, mais os participantes da minha pesquisa respondiam com ainda mais preconceitos.

Historicamente, imagens tiveram o poder de encerrar conflitos, de mudar opiniões políticas e de unir pessoas ao redor do mundo. Imagens, se sabe, têm o poder de influenciar o comportamento humano. Os publicitários sabem disso muito bem e, com inteligência, vêm usando isso nas nossas televisores, nos cinemas e, mais recentemente, nos aparelhos sofisticados que carregamos nas nossas mãos.

No entanto, quando se trata de IA, a maior parte das indagações está voltada para o futuro. Para onde a IA vai nos levar? Qual será o futuro da humanidade ao lado da IA?

Eu segui um caminho diferente, e em vez disso, considerei a história e os fatos históricos. Como a IA poderia moldar a história ou, pior ainda, será que a IA é capaz de remodelar o nosso passado?

Quando Carl L. Becker escreveu, em 1955, “A história é um ramo venerável do conhecimento, e a escrita da história é a arte de perceber como o que contamos resiste ao tempo.” O que ele não poderia imaginar é como a inteligência artificial se encaixaria nessa equação. Mas em uma coisa ele estava certo: “A escrita da história é a arte de perceber como o que contamos resiste ao tempo.”

Mas minha pergunta é: quem vai permanecer? Quem vai contar a história? À medida que dependemos cada vez mais de dispositivos e serviços digitais em todas as áreas do esforço humano, o que vai acontecer se deixarmos a história nas mãos de máquinas de IA?

Como os serviços por assinatura mudaram tudo

Houve um tempo em que você pagava por algo e aquilo era seu. Simples assim. Você entrava numa loja, entregava seu dinheiro e saía com algo real e tangível. Algo que você podia segurar, empilhar e guardar. Discos, livros, enciclopédias, fitas cassete, CDs. Fitas VHS alinhadas, como troféus, embaixo da televisão.

Agora não possuímos mais nada. A música não é nossa; é uma playlist flutuando em alguma nuvem virtual. Os filmes não vivem mais em prateleiras; eles são transmitidos de algum lugar, prontos para desaparecer se o pagamento não cair no fim do mês.

A forma mais antiga de assinatura remonta ao século XIX, quando a entrega de leite passou a cobrar uma taxa semanal pelo serviço. Da forma como conhecemos hoje, no entanto, isso só começou em 1997, quando a Netflix passou a enviar fitas e DVDs aos seus usuários.

O que desapareceu sem que ninguém percebesse foi… a posse. Nós costumávamos pagar por algo e, depois disso, o que comprávamos de fato nos pertencia.

Hoje, se um filme ou uma música for removido de todas as plataformas, pode literalmente não haver forma oficial de acessá-lo. Ele pode simplesmente ser apagado da história.

Um caso interessante ocorreu no início de 2024, durante o Super Bowl, quando Alicia Keys errou uma nota ao cantar “If I Ain’t Got You”.

No dia seguinte, a mídia oficial já havia corrigido isso e, a menos que você tenha gravado em seu próprio HD, você nunca mais conseguirá acessar a versão da apresentação em que ela erra a nota. Assim, nesse caso específico, o arquivo histórico oficial desse evento é uma mentira. Trata-se de uma deturpação intencional e de uma desinformação sobre o que de fato aconteceu.

Isso pode não parecer grande coisa, mas o que aconteceria se os registros alterados não fossem apenas entretenimento? E se estivéssemos falando de história, política, cultura?

O que acontece quando alguém, em algum lugar, por alguma razão, decide o que é real e o que não é? Quem controla a verdade? Quem é dono da realidade?

Não estamos longe dessa existência surrealista. Uma versão dos fatos aqui, uma reescrita ali. E, de repente, aquilo de que você se lembra, aquilo que você viveu, já não corresponde ao que o resto do mundo diz que aconteceu.

O que vai acontecer quando o registro público começar a parecer mais real do que as suas próprias memórias? O que vai acontecer se o passado já não for mais fixo, se ele puder ser moldado, editado, atualizado, até mesmo apagado?

Apagamento por Inteligência Artificial, o futuro da construção epistemológica e dos registros da mídia de massa na era da IA

Como a minha pesquisa demonstra, se uma imagem sintética gerada por IA pode influenciar pessoas, imagine o que vídeos enviesados, músicas, áudios e desinformação poderiam fazer.

“AI erasure” (Apagamento por IA) é um conceito que eu cunhei durante a minha tese de mestrado. Esse conceito foi desenvolvido com base nas minhas observações e leituras durante a condução do meu estudo. O apagamento por IA destaca os riscos que as tecnologias de IA apresentam na moldagem e no apagamento de registros humanos.

Qual é e qual será o impacto das alterações realizadas por IA na memória cultural, na preservação histórica dos fatos e no conhecimento humano coletivo? A solução não é tão simples quanto democratizar a informação. A Wikipédia, que começou como um exercício democrático de digitalização dos registros, hoje está cheia de vieses e de desinformação. Precisamos digitalizar registros, mas com diversidade de fontes, ética, regulação e rigor.

Algumas preocupações podem ser levantadas no contexto do apagamento por IA. A anglofonização das ferramentas de IA, por exemplo.

A vasta maioria dos grandes modelos de linguagem é enviesada em direção ao inglês, que hoje é a língua predominante online. Isso significa, na prática, que ferramentas de IA podem produzir resultados que não refletem as experiências vividas por indivíduos de diferentes contextos linguísticos e culturais. Essa é uma forma de apagamento por IA que chamo de “apagamento linguístico por IA”.*

Há outros desafios; por exemplo, o fato de que a IA permite que praticamente qualquer indivíduo altere, remova ou manipule facilmente imagens, vozes, discursos, entrevistas e canções. Somado às estruturas sociais cada vez mais fraturadas e segmentadas, esse poder tem o potencial de distorcer a história, representar identidades de forma falsa e silenciar vozes marginalizadas ou pensamentos politicamente dissidentes.

Outro problema é que sistemas de IA dependem fortemente de dados digitalizados. Conhecimentos que permanecem fora do digital e não fazem parte de nenhuma base de dados, como receitas tradicionais, saberes sobre plantas, conhecimentos geográficos locais, narrativas orais, compreensões corporificadas da dor, curas não ocidentais e medicina tradicional, bem como padrões climáticos, assim como as experiências vividas de povos indígenas, quilombolas, pequenos grupos religiosos, os desfavorecidos, os sem voz e comunidades com deficiência, podem desaparecer.

Outra possibilidade é que esses conhecimentos, histórias e sabedorias se tornem difíceis de encontrar online. Como consequência, eles não poderão influenciar as novas gerações até que, eventualmente, esses próprios sistemas de conhecimento se tornem extintos. O apagamento por IA demonstra como ferramentas digitais devem ser desenhadas com cuidado e respeito para sustentar os valores, a história e a cultura, assim como a autonomia de comunidades indígenas ou marginalizadas.

Por fim, há outra abordagem do apagamento por IA, especulativa e apenas possível se sistemas institucionais, governamentais ou corporativos funcionarem em cooperação. Para isso acontecer, eles precisariam operar em escala industrial, como no exemplo de Alicia Keys no Super Bowl.

Essa dimensão destaca o risco de tecnologias de IA serem utilizadas por autocratas, elites inescrupulosas ou corporações e grandes empresas para alteração sistemática, omissão e desaparecimento de registros, narrativas ou vozes dentro dos arquivos da mídia de massa.

O apagamento por IA pode incluir manipulação deliberada por regimes autoritários para reescrever a história ou suprimir vozes. Esses regimes também podem deliberadamente embutir vieses sociais, mentiras e inverdades em bases de dados ou em algoritmos desenvolvidos de forma falha, favorecendo, assim, narrativas dominantes. Podemos chegar a ter ferramentas automatizadas que adotem processos editoriais que priorizam lucro ou ideologia acima da verdade e da representação.

Dessa forma, o apagamento por IA se torna não apenas uma consequência não intencional do avanço tecnológico, mas também uma ferramenta que pode ser instrumentalizada para remodelar a memória histórica e cultural.

Isso pode levar a representações homogeneizadas e esterilizadas da humanidade que, por sua vez, apagam sua complexidade, sua riqueza, sua diversidade e sua beleza.

Em 2023, o The New York Times noticiou como Stephanie Dinkins, uma artista que cria imagens de mulheres negras com IA, que ao interpelar por que a palavra “slave” não podia ser usada por uma ferramenta generativa, propôs uma pergunta semelhante ao meu conceito de apagamento por IA: “O que essa tecnologia está fazendo com a história… Dá para ver que alguém está tentando corrigir o viés, mas, ao mesmo tempo, isso apaga um pedaço da história.”

Existe uma possibilidade real de que, quando a IA for integrada aos marcos sociais, ela provoque mudanças significativas na forma como a história é registrada e compreendida.

Em uma passagem no seu livro Ship of Fools, a poeta Katherine Anne Porter diz: “O passado nunca está onde você acha que o deixou.” Isso nunca fez tanto sentido quanto agora.

Precisamos levantar perguntas urgentes sobre o que escolhemos lembrar, quem está representado nos arquivos digitais e como a IA pode remodelar a nossa compreensão da história e da identidade.

• *Até onde sei, e no melhor do meu conhecimento, os termos “AI erasure” e “linguistic AI erasure” foram criados e cunhados por mim, Guido Oliveira Andrade de Melo.