O que é o Apagamento por IA (e como isso já está te afetando)

Até onde sei, e no melhor dos meus conhecimentos, os termos “AI erasure” e “linguistic AI erasure” foram cunhados por mim, Guido Melo, durante a minha pesquisa de mestrado

Ao ler o intrigante artigo do autor australiano Leo Chau¹ recentemente, me surpreendeu até que ponto ferramentas de Inteligência Artificial (IA) – como geradores de imagem, geradores de áudio e sistemas, como o Chat GPT –, estão sendo utilizadas por movimentos fascistas e de extrema-direita globalmente. Isso após concluir o Mestrado de Pesquisa² no Instituto da Universidade de Victoria, em Melbourne (Austrália), onde minha dissertação investigou como as ferramentas de IA influenciam o comportamento humano.

Minha pesquisa atestou que as imagens sintéticas geradas de grupos humanos e indivíduos, particularmente aqueles que estão fora do universo heteronormativo e patriarcal, ou seja, de corpos considerados aptos; bem como aqueles de origem não europeia, surgem cheias de estereótipos. Em resumo, mulheres, pessoas com deficiência (PcDs), pessoas queer e pessoas não-brancas são geradas por sistemas de IA repletos de preconceitos e de vieses.

De forma alarmante, e, mais do que isso, descobri que, quanto mais enviesadas, preconceituosas e estereotipadas eram as imagens, mais os participantes da minha pesquisa respondiam com ainda mais preconceitos.

LEIA TAMBÉM: A gente não vê as coisas como elas são, a gente vê as coisas como nós somos

Poder de influência

Historicamente, imagens tiveram o poder de encerrar conflitos, de mudar opiniões políticas e de unir pessoas ao redor do mundo. Sabemos que as imagens têm o poder de influenciar o comportamento humano. Os publicitários sabem disso muito bem e, com inteligência, vêm usando isso nas nossas televisões, nos cinemas e, mais recentemente, nos aparelhos sofisticados que carregamos nas nossas mãos.

No entanto, quando se trata de IA, a maior parte das indagações está voltada para o futuro. Para onde a IA vai nos levar? Qual será o futuro da humanidade ao lado da IA? Eu segui um caminho diferente, e em vez disso, considerei a história e os fatos históricos. Como a IA poderia moldar a história ou, pior ainda, será que a IA é capaz de remodelar o nosso passado?

Quando Carl L. Becker³ escreveu, em 1955: “A história é um ramo venerável do conhecimento e a escrita da história é a arte de perceber como o que contamos resiste ao tempo”; o que ele não poderia imaginar é como a inteligência artificial se encaixaria nessa equação. Mas em algo ele estava certo: “A escrita da história é a arte de perceber como o que contamos resiste ao tempo”.

Mas a minha pergunta é: Quem vai permanecer? Quem vai contar a história? À medida que dependemos cada vez mais de dispositivos e serviços digitais em todas as áreas do esforço humano: o que vai acontecer se deixarmos a história nas mãos de máquinas de IA?

LEIA TAMBÉM: Algoritmos da opressão: o dilema das redes é a sociedade que as produz

Como os serviços por assinatura mudaram tudo

Houve um tempo em que você pagava por algo e aquilo era seu. Simples assim. Você entrava numa loja, entregava seu dinheiro e saía com algo real e tangível. Algo que você podia segurar, empilhar e guardar. Discos, livros, enciclopédias, fitas cassete, CDs, fitas VHS alinhadas, e, até troféus, na estante embaixo da televisão de sua casa.

Agora não possuímos mais nada. A música não é nossa; é uma playlist flutuando em alguma nuvem virtual. Os filmes não vivem mais em prateleiras; eles são transmitidos de algum lugar, prontos para desaparecer se o pagamento não cair no fim do mês.

A forma mais antiga de assinatura remonta ao século XIX, quando a entrega de leite passou a cobrar uma taxa semanal pelo serviço. Da forma como conhecemos hoje, no entanto, isso só começou em 1997, quando a Netflix passou a enviar fitas e DVDs aos seus usuários.

O que desapareceu sem que ninguém percebesse foi… a posse! Nós costumávamos pagar por algo e, depois disso, o que comprávamos, de fato, nos pertencia. Hoje, se um filme ou uma música for removido de todas as plataformas, pode literalmente não haver forma oficial de acessá-lo. Ele pode simplesmente ser apagado da história.

Um caso interessante ocorreu no início de 2024, durante o Super Bowl do artista Kendrick Lamar, quando a cantora Alicia Keys errou uma nota ao cantar “If I Ain’t Got You” (“Se eu não tiver você”).

No dia seguinte, a mídia oficial já havia corrigido isso e, a menos que você tenha gravado em seu próprio HD, você nunca mais conseguirá acessar a versão da apresentação em que ela erra a nota. Assim, nesse caso específico, o arquivo histórico oficial desse evento é uma mentira. Trata-se de uma deturpação intencional e de uma desinformação sobre o que, de fato, aconteceu.

Isso pode não parecer grande coisa, mas o que aconteceria se os registros alterados não fossem apenas os de entretenimento? E se estivéssemos falando de história, política e cultura? O que acontece quando alguém, em algum lugar, por alguma razão, decide o que é real e o que não é? Quem controla a verdade? Quem é dono da realidade?

Não estamos longe dessa existência surrealista. Uma versão dos fatos aqui, uma reescrita ali. E, de repente, aquilo de que você se lembra, aquilo que você viveu, já não corresponde ao que o resto do mundo diz que aconteceu.

O que vai acontecer quando o registro público começar a parecer mais real do que as suas próprias memórias? O que vai acontecer se o passado já não for mais fixo, se ele puder ser moldado, editado, atualizado, até mesmo apagado?

LEIA TAMBÉM: Algoritmos da repressão: a informatização do encarceramento em massa

Apagamento por Inteligência Artificial, o futuro da construção epistemológica e dos registros da mídia de massa na era da IA

Como a minha pesquisa demonstra, se uma imagem sintética gerada por IA pode influenciar pessoas, imagine o que vídeos enviesados, músicas, áudios e desinformação poderiam fazer.

“AI erasure” (Apagamento por IA) é um conceito que cunhei durante a minha pesquisa de mestrado. Esse conceito foi desenvolvido com base nas minhas observações e leituras durante a condução do meu estudo. O apagamento por IA destaca os riscos que as tecnologias de IA apresentam na moldagem e no apagamento de registros humanos.

Qual é e qual será o impacto das alterações realizadas por IA na memória cultural, na preservação histórica dos fatos e no conhecimento humano coletivo? A solução não é tão simples quanto democratizar a informação. A Wikipédia, que começou como um exercício democrático de digitalização dos registros, hoje está cheia de vieses e de desinformação. Precisamos digitalizar registros, mas com diversidade de fontes, ética, regulação e rigor.

Algumas preocupações podem ser levantadas no contexto do apagamento por IA. A ‘anglofonização das ferramentas de IA’⁴‬, por exemplo.

A vasta maioria dos grandes modelos de linguagem é enviesada em direção ao inglês, que, hoje, é a língua predominantemente online. Isso significa, na prática, que ferramentas de IA podem produzir resultados que não refletem as experiências vividas por indivíduos de diferentes contextos linguísticos e culturais. Essa é uma forma de apagamento por IA que chamo de “apagamento linguístico por IA”*.

Há outros desafios; por exemplo, o fato de que a IA permite que, praticamente, qualquer indivíduo altere, remova ou manipule facilmente imagens, vozes, discursos, entrevistas e canções. Somado às estruturas sociais cada vez mais fraturadas e segmentadas, esse poder tem o potencial de distorcer a história, representar identidades de forma falsa e silenciar vozes marginalizadas ou pensamentos politicamente dissidentes (de quem diverge).

Outro problema é que sistemas de IA dependem fortemente de dados digitalizados. Conhecimentos que permanecem fora do digital e não fazem parte de nenhuma base de dados, como receitas tradicionais, saberes sobre plantas, conhecimentos geográficos locais, narrativas orais, compreensões corporificadas da dor, curas não-ocidentais e medicina tradicional, bem como padrões climáticos, assim como as experiências vividas de povos indígenas, quilombolas, pequenos grupos religiosos, os desfavorecidos ou sem voz e comunidades com deficiências, podem desaparecer.

Outra possibilidade é que esses conhecimentos, histórias e sabedorias se tornem difíceis de encontrar online. Como consequência, eles não poderão influenciar as novas gerações até que, eventualmente, esses próprios sistemas de conhecimento se tornem extintos. O apagamento por IA demonstra como ferramentas digitais devem ser desenhadas com cuidado e respeito para sustentar os valores, a história e a cultura, assim como a autonomia de comunidades indígenas ou marginalizadas.

Por fim, há outra abordagem do apagamento por IA, especulativa e apenas possível se sistemas institucionais, governamentais ou corporativos funcionarem em cooperação. Para isso acontecer, eles precisariam operar em escala industrial, como no exemplo de Alicia Keys na performance no show do Super Bowl.

Essa dimensão destaca o risco de tecnologias de IA serem utilizadas por autocratas, elites inescrupulosas ou corporações e grandes empresas para alteração sistemática, omissão e desaparecimento de registros, narrativas ou vozes dentro dos arquivos da mídia de massa.

O apagamento por IA pode incluir manipulação deliberada por regimes autoritários para reescrever a história ou suprimir vozes. Esses regimes também podem deliberadamente embutir vieses sociais, mentiras e inverdades em bases de dados ou algoritmos desenvolvidos de forma falha, favorecendo, assim, narrativas dominantes. Podemos chegar a ter ferramentas automatizadas que adotem processos editoriais que priorizam lucro ou ideologia acima da verdade e representação.

Dessa forma, o apagamento por IA se torna não apenas uma consequência não intencional do avanço tecnológico, mas também uma ferramenta que pode ser instrumentalizada para remodelar a memória histórica e cultural. Isso pode levar a representações homogeneizadas e esterilizadas da humanidade que, por sua vez, apagam sua complexidade, riqueza, diversidade e beleza.

Mudanças significativas

Em 2023, o The New York Times noticiou como Stephanie Dinkins⁵ (uma artista transdisciplinar americana que cria imagens de mulheres negras com IA), que, ao interpelar por que a palavra “slave” (escravizado) não podia ser usada por uma ferramenta generativa, ela propôs uma pergunta semelhante ao meu conceito de apagamento por IA: “O que essa tecnologia está fazendo com a história… Dá para ver que alguém está tentando corrigir o viés, mas, ao mesmo tempo, isso apaga um pedaço da história”.

Existe uma possibilidade real de que, quando a IA for integrada aos marcos sociais, ela provoque mudanças significativas na forma como a história é registrada e compreendida.

Em uma passagem no seu livro “Ship of Fools” (1962)⁶ – em tradução livre, “Navio dos Insensatos” –, a poeta Katherine Anne Porter diz: “O passado nunca está onde você acha que o deixou”. Isso nunca fez tanto sentido quanto agora. Precisamos levantar perguntas urgentes sobre o que escolhemos lembrar, quem e o quê está representado nos arquivos digitais e como a IA pode remodelar a nossa compreensão da história e da nossa identidade.

*Até onde sei, e no melhor dos meus conhecimentos, os termos “AI erasure” e “linguistic AI erasure” foram criados e cunhados por mim, Guido Oliveira Andrade de Melo, durante a minha pesquisa de mestrado.

**Você pode acessar os demais trabalhos científicos de Guido Melo, clicando aqui.

Referências

1. Artigo “Como a música gerada por IA se tornou um elemento comum do ódio da extrema-direita” (2024), publicado no Arts Hub – de Leo Chau

2. Dissertação “Será que o viés inerente aos sistemas de IA geradores de imagens pode influenciar a percepção pública?” (2025), publicado no repositório da Universidade de Victoria (Austrália) – de Guido Oliveira Andrade de Melo

3. Artigo “O que são fatos históricos?” (1955), publicado no The Western Political Quartely (EUA) – de Carl L. Becker

4. O termo “anglofonização das ferramentas de IA” foi retirado do artigo “Uma pesquisa sobre grandes modelos linguísticos multilíngues: corpora, alinhamento e viés” (2024) – Yuemei Xu, Ling Hu, Jiayi Zhao, Zihan Qiu, Yuqi Ye, Hanwen Gu

5. Artigo “Artistas negros afirmam que a IA demonstra preconceito, com algoritmos apagando seu histórico” (2023), publicado no The New York Times – de Zachary Small

6. Livro “Ship of Fools” (1962) – em tradução livre, “Navio dos Insensatos” – de Katherine Anne Porter conta a história de um grupo de personagens disparatados que velejam do México para a Alemanha a bordo de um navio misto de carga e passageiros, retratando em sátira a ascensão do nazismo e olhando metaforicamente o progresso do mundo na sua “viagem para a Eternidade”.

Foto de capa: Aviz Media/Pexels.

LEIA TAMBÉM: Depende de quem está contando a história.

Inscreva-se na newsletter do Negrê aqui!