Autor: Professor Alexandre Basílio.
Introdução: os riscos de uma regulamentação baseada na tecnologia empregada
A dificuldade enfrentada na decisão decorre, em boa medida, da própria opção normativa adotada pela Res.-TSE nº 23.610/2019, especialmente após as alterações promovidas para as Eleições de 2024. A resolução procurou estabelecer regimes jurídicos diferentes para o conteúdo sintético produzido por inteligência artificial e para o deepfake, tratando o primeiro, no art. 9º-B, como uma categoria geral submetida a deveres de transparência e o segundo, no art. 9º-C, como uma categoria especial sujeita, quando utilizada para favorecer ou prejudicar candidatura, a um regime de proibição.
Essa diferenciação foi construída, ao menos parcialmente, sobre um critério tecnológico. O conteúdo sintético seria o produto geral da inteligência artificial, enquanto o deepfake corresponderia a uma técnica específica de criação, substituição ou alteração digital da imagem ou da voz de uma pessoa. A opção, embora compreensível à luz do estágio tecnológico existente quando o debate normativo se consolidou, revelou-se rapidamente problemática.
Deepfake não constitui propriamente uma espécie autônoma de inteligência artificial, mas um conjunto de aplicações ou técnicas de inteligência artificial voltadas à produção de representações sintéticas ou manipuladas de pessoas, especialmente por meio da substituição, modificação ou geração de sua imagem e de sua voz. Durante determinado estágio do desenvolvimento tecnológico, essas técnicas possuíam características relativamente identificáveis e diferenciáveis.
Antes da popularização dos modelos generativos multimodais, o falseamento realista da imagem de determinada pessoa normalmente dependia de procedimentos específicos de deepfake, frequentemente baseados em materiais preexistentes. Era necessário dispor de fotografias, gravações de voz ou vídeos da pessoa que se pretendia representar, além de um vídeo-base ou de uma performance de referência sobre a qual seriam realizadas a substituição facial, a sincronização labial, a clonagem de voz ou outras formas de manipulação.
Nesse contexto tecnológico, ainda era possível sustentar, com alguma segurança, uma diferenciação entre a criação genérica de conteúdo por inteligência artificial e o deepfake propriamente dito. De um lado, estavam imagens, textos, animações e outros conteúdos sintéticos produzidos com auxílio de IA; de outro, encontravam-se técnicas específicas destinadas a inserir determinada pessoa em gravação preexistente, modificar sua voz, substituir seu rosto ou atribuir-lhe manifestações e comportamentos que não ocorreram.
A partir de 2024, contudo, a evolução e a disseminação dos modelos de inteligência artificial generativa tornaram essa separação progressivamente menos nítida. Ferramentas capazes de converter comandos escritos, os chamados prompts, diretamente em imagens, vozes e vídeos realistas passaram a permitir a criação integral de cenas inexistentes, sem a necessidade de um vídeo-base preexistente nos moldes tradicionalmente associados ao deepfake.
Atualmente, não é indispensável manipular uma gravação verdadeira para representar uma pessoa em situação falsa. A inteligência artificial generativa pode criar a própria cena, o ambiente, os movimentos, a iluminação, a voz e a interação entre os personagens. Pode, inclusive, gerar acontecimentos inteiramente fictícios dotados de aparência fotográfica ou audiovisual realista. A distinção técnica entre “conteúdo gerado por inteligência artificial” e “deepfake” torna-se, por isso, cada vez menos funcional: o mesmo modelo generativo pode produzir uma ilustração manifestamente fictícia, uma sátira visual, uma fotografia sintética realista ou um vídeo capaz de ser confundido com o registro autêntico de um acontecimento.
As técnicas tradicionalmente reconhecidas como deepfake não desapareceram. A substituição facial, a clonagem de voz, a sincronização labial e a manipulação de vídeos preexistentes continuam sendo utilizadas. O que se tornou ultrapassada foi a pretensão de definir juridicamente o fenômeno apenas a partir dessas técnicas ou de pressupor uma separação estável entre elas e as ferramentas gerais de inteligência artificial generativa.
Em termos práticos, o mesmo resultado lesivo anteriormente alcançado por uma técnica especializada de deepfake pode agora ser produzido por uma ferramenta ordinária de geração de imagens ou vídeos a partir de texto. De fato, em que pese as mudanças conceituais, legais e jurisprudenciais mirem o art. 9º-C, § 1º da Res. TSE 23.610/2019, talvez, o foco devesse ser uma mudança no próprio art. 9º-B do mesmo normativo por trazer idênticos verbos vedados no dispositivo que regula o deepfake.
O risco eleitoral não depende mais do caminho tecnológico percorrido. Para a pessoa atingida e para o eleitor exposto à falsificação, pouco importa se o conteúdo foi produzido mediante substituição facial em um vídeo verdadeiro, manipulação de uma gravação preexistente ou geração integral da cena a partir de um prompt. O resultado comunicacional pode ser exatamente o mesmo: uma pessoa real é representada, com aparência de autenticidade, praticando um ato, pronunciando uma frase ou participando de um acontecimento que não ocorreu.
Esse processo demonstra um problema mais amplo: legislar diretamente sobre determinada tecnologia gera elevado risco de rápida desatualização normativa. As tecnologias digitais evoluem em velocidade muito superior à capacidade ordinária de produção e revisão das normas jurídicas. Quando a norma vincula determinada consequência jurídica a uma técnica, ferramenta ou arquitetura específica, ela pode tornar-se insuficiente ou obsoleta tão logo surja outro meio tecnológico capaz de produzir o mesmo resultado.
Por essa razão, é geralmente mais seguro adotar uma regulamentação tecnologicamente neutra, orientada não pelo instrumento utilizado, mas pelo resultado indesejado, pelo risco produzido e pelo bem jurídico ameaçado. No campo eleitoral, o problema central não é a utilização de determinada modalidade de inteligência artificial. O problema é a criação ou manipulação de conteúdo que atribua falsamente a uma pessoa determinada manifestação, comportamento, fato ou circunstância, com aparência de autenticidade e aptidão para influenciar a formação da vontade do eleitor.
Sob essa perspectiva, a distinção juridicamente relevante não deveria ser estabelecida entre “IA generativa” e “deepfake”, como se essas categorias tecnológicas fossem estáveis e reciprocamente excludentes. A separação mais segura seria entre:
conteúdos cuja natureza sintética, ficcional, alegórica, humorística ou artificial seja objetivamente perceptível; e
conteúdos sintéticos ou manipulados que, independentemente da tecnologia utilizada, sejam objetivamente aptos a ser percebidos como registros autênticos de manifestações, comportamentos, fatos ou circunstâncias inexistentes.
A Res. TSE nº 23.610/2019 foi, nesse sentido, infeliz ao construir a diferenciação entre os arts. 9º-B e 9º-C com excessiva dependência de categorias tecnológicas. O desenvolvimento dos modelos generativos tornou porosa a fronteira que a resolução procurou estabelecer. A decisão do Ministro André Mendonça representa uma tentativa interpretativa de corrigir essa insuficiência sem modificar formalmente o texto normativo, deslocando o centro da definição da técnica empregada para a aparência de autenticidade e para a aptidão enganosa do conteúdo.
Esse movimento interpretativo é necessário e, em seus fundamentos gerais, adequado. Entretanto, como se demonstrará, o conceito proposto ainda demanda aperfeiçoamentos para que não se transforme o simples realismo visual em critério suficiente para a proibição. Também será necessário estabelecer parâmetros mais objetivos para distinguir a falsificação apta a ser percebida como registro verdadeiro da realidade da obra ficcional, humorística ou satírica que utiliza recursos visuais realistas sem pretender apresentar-se como documentação de acontecimentos efetivos.
Convém registrar, ainda, que se trata de tese interpretativa proposta pelo Ministro André Mendonça para submissão ao Plenário do Tribunal Superior Eleitoral, formulada no contexto de decisão liminar. Não se está, ao menos nesse momento, diante de conceito jurisprudencial definitivamente consolidado pela Corte.
1. Síntese do conceito proposto
O Ministro estabelece uma relação de gênero e espécie entre os arts. 9º-B e 9º-C da Res.-TSE nº 23.610/2019:
Conteúdo sintético é a categoria geral. Sua utilização não é necessariamente proibida, mas está submetida aos deveres de identificação, rotulagem e transparência.
Deepfake é uma espécie qualificada de conteúdo sintético. Quando empregado para favorecer ou prejudicar candidatura, submete-se ao regime especial de proibição.
Segundo a tese proposta, deepfake seria:
"O conteúdo sintético de áudio, vídeo ou combinação de ambos que, mediante criação, substituição ou alteração digital de imagem ou voz, apresente grau de realismo ou verossimilhança objetivamente apto a produzir falsa percepção de autenticidade quanto à manifestação, comportamento, fato ou circunstância representados."
A definição contém, portanto, quatro elementos centrais:
existência de conteúdo sintético;
criação, substituição ou alteração digital de imagem ou voz;
grau relevante de realismo ou verossimilhança;
aptidão objetiva para gerar falsa percepção de autenticidade.
Não é necessário demonstrar que algum eleitor tenha sido efetivamente enganado. Trata-se de um juízo de perigo ou aptidão: examina-se se o conteúdo, por suas características e pelo contexto de apresentação, poderia ser percebido como registro autêntico da realidade.
Caricaturas, animações, memes e sátiras não seriam excluídos por pertencerem formalmente a essas categorias. O critério seria material: se a artificialidade ou a natureza alegórica for objetivamente perceptível, não haverá deepfake. Permanecerão, contudo, aplicáveis os deveres gerais de transparência previstos para conteúdos sintéticos.
2. Aspectos positivos
a) Superação de um conceito puramente tecnológico
O principal mérito está em afastar a ideia de que toda imagem produzida ou manipulada por inteligência artificial seja automaticamente um deepfake.
A tecnologia utilizada não pode ser o único critério jurídico. Caso contrário, animações, ilustrações, memes, montagens manifestamente absurdas e obras artísticas seriam submetidos à mesma proibição absoluta aplicável às falsificações realistas.
O acréscimo do requisito da falsa aparência de autenticidade impede, ao menos em tese, essa expansão excessiva.
Essa construção também contribui para reduzir os problemas decorrentes da rápida convergência entre as antigas técnicas especializadas de deepfake e os atuais modelos de inteligência artificial generativa. Ao colocar a aparência enganosa no centro da definição, a decisão começa a deslocar a análise do processo tecnológico utilizado para o resultado comunicacional produzido.
b) Distinção funcional entre transparência e proibição
A relação entre conteúdo sintético e deepfake é bem construída:
o art. 9º-B regula a transparência;
o art. 9º-C, § 1º, proíbe uma modalidade especialmente perigosa.
Essa leitura preserva utilidade normativa para os dois dispositivos. Se toda manipulação fosse deepfake, praticamente não haveria espaço autônomo para o regime geral de conteúdos sintéticos.
Também é coerente a conclusão de que a rotulagem não torna lícito um deepfake eleitoral. Se preenchidos os requisitos da categoria proibida, a identificação “produzido por IA” não afastaria a incidência do art. 9º-C. A ausência de rótulo configuraria uma infração adicional ao art. 9º-B.
c) Adoção de parâmetro objetivo
É adequada a dispensa de prova de que determinado eleitor foi concretamente enganado. Essa demonstração seria quase impossível em processos eleitorais de rito célere.
O juízo deve recair sobre a aptidão enganosa do conteúdo, e não sobre a comprovação de um resultado psicológico individual.
A adoção desse parâmetro também é compatível com a natureza preventiva de parte relevante da tutela eleitoral. Não seria razoável exigir que a falsificação já tivesse produzido erro efetivo e comprovável antes que a Justiça Eleitoral pudesse intervir.
d) Consideração do contexto
A referência às “próprias características e ao contexto de apresentação” é particularmente importante. Uma mesma imagem pode produzir significados distintos conforme:
a legenda;
a trilha sonora;
o perfil que a divulga;
a existência de aviso;
o caráter humorístico da página;
a sequência narrativa;
a forma como o conteúdo é recortado ou republicado.
Isso evita que a análise se limite à qualidade visual de um quadro isolado.
Também permite reconhecer que a aptidão enganosa pode variar ao longo da circulação do conteúdo. Um vídeo originalmente publicado com advertência clara pode ser recortado e republicado sem qualquer indicação de artificialidade. Da mesma forma, uma imagem inserida em obra ostensivamente ficcional pode ser extraída desse contexto e apresentada isoladamente como se fosse registro documental.
3. Críticas ponderadas
a) “Realismo ou verossimilhança” ainda é um critério aberto
Embora seja melhor do que um conceito puramente técnico, a expressão continua consideravelmente indeterminada. Não se esclarece:
qual grau de realismo é suficiente;
qual é o público de referência;
se a avaliação considera um eleitor médio, uma pessoa razoável ou usuários mais vulneráveis;
se basta a aparência realista de cada imagem ou se o conteúdo deve ser crível em sua narrativa integral.
A definição ganharia maior objetividade se adotasse expressamente o parâmetro do eleitor médio razoavelmente atento, considerado o contexto integral da comunicação.
Não se deve confundir a capacidade de uma imagem parecer uma fotografia com a aptidão da mensagem completa para ser entendida como relato verdadeiro. Uma fotografia sintética pode ser fotorrealista e, simultaneamente, integrar narrativa ostensivamente absurda ou ficcional.
O realismo é uma característica estética ou técnica do conteúdo. A falsa percepção de autenticidade, por sua vez, é uma característica comunicacional. Embora possam estar relacionadas, não são equivalentes. A elevada qualidade gráfica constitui indício relevante, mas não deveria encerrar a análise.
b) Tensão entre a definição abstrata e sua aplicação à sátira
A decisão afirma corretamente que a sátira não constitui exceção automática. Uma peça autodenominada satírica pode efetivamente empregar uma falsificação realista.
O problema aparece quando a análise separa excessivamente o “suporte visual” da mensagem global. Nos §§ 50 a 52, sustenta-se que uma peça pode ser evidentemente humorística e, ainda assim, constituir deepfake porque utiliza imagens realistas.
Essa formulação pode enfraquecer o próprio critério estabelecido anteriormente. Se o contexto geral torna inequívoca a natureza ficcional, musical, exagerada ou satírica da representação, pode não existir aptidão objetiva para produzir falsa percepção de que os acontecimentos efetivamente ocorreram.
Em outras palavras:
Não basta que as imagens pareçam fotografias. É necessário que o conteúdo, examinado integralmente, possa ser razoavelmente percebido como registro autêntico de fatos reais.
Se o realismo plástico, isoladamente, for suficiente, a exigência de falsa percepção de autenticidade se torna quase redundante.
A distinção entre a sátira e o deepfake não pode depender apenas do acabamento visual da obra. Uma sátira pode utilizar atores, cenários realistas, efeitos especiais sofisticados e imagens geradas por inteligência artificial sem que o público razoável a interprete como documentação de acontecimentos verdadeiros.
O problema não está em a sátira parecer tecnicamente realista. Está em ela ser apresentada de modo capaz de ocultar sua natureza ficcional e levar o destinatário a acreditar que a pessoa representada realmente praticou o comportamento ou pronunciou a manifestação que lhe foi atribuída.
c) Ausência de requisito de materialidade
A definição não exige que a alteração seja substancial ou juridicamente relevante. Isso pode alcançar intervenções triviais, como:
correção de iluminação;
remoção de ruído;
reconstrução de quadros;
sincronização labial tecnicamente assistida;
melhoria de resolução;
alteração de cenário sem modificação da mensagem atribuída à pessoa.
Para justificar um regime de proibição absoluta, seria recomendável exigir que a manipulação fosse materialmente apta a atribuir à pessoa manifestação, comportamento ou participação em fato relevante que não ocorreu daquela forma.
Sem esse requisito, intervenções meramente cosméticas podem acabar confundidas com falsificações representacionais.
O critério de materialidade também ajudaria a distinguir o uso ordinário de ferramentas automatizadas de edição, hoje incorporadas a câmeras, celulares, plataformas e programas audiovisuais, da criação de uma realidade falsa juridicamente relevante. Em um ambiente no qual quase toda imagem digital passa por algum processamento algorítmico, a simples existência de modificação tecnológica não pode ser suficiente para atrair a proibição.
d) Exclusão aparentemente indevida das imagens estáticas
A tese final refere-se a “conteúdo sintético de áudio, vídeo ou combinação de ambos”. Essa redação parece deixar de fora fotografias e outras imagens estáticas.
Contudo, uma imagem sintética isolada pode representar realisticamente um candidato:
recebendo dinheiro;
participando de uma reunião inexistente;
praticando um crime;
aparecendo em local onde nunca esteve.
Sob o ponto de vista do risco eleitoral, não existe razão suficiente para excluir uma fotografia sintética realista e proibir apenas o vídeo ou o áudio.
A formulação mais adequada seria mencionar imagem, áudio, vídeo ou combinação desses elementos.
A omissão é ainda mais significativa diante da evolução dos modelos generativos. A produção de fotografias sintéticas realistas tornou-se uma das formas mais simples, acessíveis e difundidas de falsificação visual. Uma definição que não as abranja expressamente poderá nascer parcialmente desatualizada em relação às próprias práticas que pretende disciplinar.
e) Necessidade de separar autenticidade técnica e veracidade proposicional
A decisão utiliza a expressão “falsa percepção de autenticidade”, mas é preciso esclarecer o objeto dessa autenticidade.
Há pelo menos duas situações diferentes:
o eleitor acredita que está diante de uma fotografia ou gravação verdadeira;
o eleitor sabe que se trata de criação artística, mas interpreta a obra como crítica baseada em fatos reais.
A primeira questão pertence propriamente ao conceito de deepfake. A segunda pode envolver desinformação, ofensa à honra, fato sabidamente inverídico ou propaganda eleitoral negativa, mas não necessariamente deepfake.
Essa separação é essencial para que o art. 9º-C não absorva todas as controvérsias relacionadas à verdade ou falsidade da mensagem política.
Uma obra de ficção pode transmitir alegações falsas sem se apresentar como gravação verdadeira. Inversamente, um conteúdo pode constituir falsificação audiovisual autêntica, no sentido técnico, embora a mensagem nele veiculada se refira a fatos verdadeiros. Os planos de análise não devem ser confundidos:
a falsidade ou autenticidade do suporte audiovisual;
a verdade ou falsidade da proposição comunicada;
a licitude ou ilicitude da crítica política;
a existência de finalidade eleitoral;
a responsabilidade subjetiva do agente.
A caracterização do deepfake deve concentrar-se no primeiro desses planos: a representação sintética é apresentada como registro autêntico de manifestação, comportamento, fato ou circunstância que não ocorreu da forma retratada.
f) A intenção de enganar não integra a definição
O modelo proposto adota um critério estritamente objetivo e dispensa qualquer finalidade de enganar. Isso facilita a tutela preventiva, mas pode produzir resultados excessivos em relação a obras artísticas, educativas, jornalísticas ou humorísticas.
A intenção não precisa constituir requisito absoluto, especialmente para a remoção cautelar. Entretanto, deveria ter relevância:
na aplicação de sanções;
na avaliação da gravidade;
na definição da responsabilidade;
na distinção entre erro, experimentação artística e falsificação deliberada.
Uma solução equilibrada seria manter a aptidão objetiva como requisito para a caracterização, mas considerar a finalidade enganosa e o conhecimento do agente na esfera sancionatória.
Também seria possível distinguir a qualificação objetiva do conteúdo da responsabilidade pessoal por sua criação ou divulgação. Determinado material pode possuir características objetivas de deepfake, justificando providência destinada a interromper sua circulação, sem que isso conduza automaticamente à aplicação de sanção a todos os usuários que o compartilharam, sobretudo quando inexistente prova de conhecimento sobre a natureza artificial da representação.
g) Necessidade de critérios probatórios principalmente em casos que possam gerar cassação de mandatos ou medidas mais severas.
A decisão realiza avaliação predominantemente visual, falando em “acabamento fotorrealístico” e “capacidade mimética”. Em casos menos evidentes, isso pode levar a decisões baseadas apenas na percepção subjetiva do julgador.
Seria conveniente estabelecer critérios mínimos de análise:
exame do conteúdo integral, e não de frames isolados;
contexto de postagem e circulação;
presença de sinais de artificialidade;
qualidade técnica nas condições reais de visualização;
forma de apresentação nos primeiros segundos;
avisos e rótulos efetivamente visíveis;
necessidade de inversão do ônus da prova, perícia ou análise técnica quando houver controvérsia sobre a manipulação.
O risco maior não é apenas errar sobre a tecnologia utilizada, mas errar sobre a capacidade comunicativa concreta do material.
A análise também precisa considerar as condições reais de consumo do conteúdo. Um defeito visual perceptível em monitor de alta resolução e mediante exame quadro a quadro pode ser irrelevante para o usuário que assiste ao vídeo por poucos segundos na tela de um telefone celular. Em sentido inverso, uma imagem aparentemente realista quando examinada isoladamente pode revelar-se manifestamente ficcional quando observada dentro da sequência narrativa, acompanhada da trilha sonora, das legendas e dos demais elementos da publicação.
A prova técnica pode auxiliar na demonstração de que houve geração ou manipulação digital, mas não substitui o juízo jurídico sobre a aptidão para produzir falsa percepção de autenticidade. Trata-se de análise interdisciplinar: a perícia pode explicar como o conteúdo foi produzido, enquanto o julgador deverá avaliar como ele se apresenta comunicacionalmente ao público.
h) O parâmetro do destinatário não pode ser excessivamente vulnerável
A referência abstrata à possibilidade de produzir falsa percepção pode conduzir à adoção implícita do usuário mais desatento ou vulnerável como padrão decisório. Praticamente toda sátira, montagem ou obra ficcional poderá ser mal compreendida por alguém.
A proteção do processo eleitoral não pode depender da hipótese de que qualquer pessoa, por mais desatenta que seja, possa interpretar literalmente o conteúdo. Se bastasse a possibilidade de erro individual, a liberdade de expressão ficaria subordinada às interpretações mais improváveis.
Por isso, o critério deve ser objetivo e normativo: a aptidão para enganar deve ser apreciada a partir da percepção de um destinatário razoável, considerado o contexto concreto da publicação. Isso não significa ignorar pessoas vulneráveis nem aceitar manipulações sofisticadas. Significa apenas evitar que interpretações excepcionais ou idiossincráticas se tornem fundamento para uma proibição geral.
i) A transparência não torna o deepfake lícito, mas pode interferir em sua caracterização concreta
A decisão afirma que a rotulagem exigida pelo art. 9º-B não tem aptidão para tornar lícito conteúdo que já preencha os requisitos de deepfake. A conclusão é coerente com o regime especial de proibição estabelecido pelo art. 9º-C.
Entretanto, existe uma questão anterior: uma identificação suficientemente clara, ostensiva e incorporada ao próprio conteúdo pode interferir na avaliação sobre sua aptidão para produzir falsa percepção de autenticidade.
Se o vídeo informa, desde o início e durante sua reprodução, que as cenas são fictícias e foram geradas por inteligência artificial, pode ser difícil sustentar que o conteúdo, considerado em sua integralidade, apresenta-se como registro autêntico da realidade. Nesse caso, a rotulagem não estaria “legalizando” um deepfake. Poderia, em determinadas circunstâncias, impedir que um dos próprios elementos constitutivos do conceito — a aptidão objetiva para produzir falsa percepção de autenticidade — chegasse a se formar.
A questão exige distinção cuidadosa:
se a falsificação continua objetivamente apta a ser tomada como verdadeira, um rótulo periférico, tardio ou pouco visível não afasta o deepfake;
se a advertência é clara, destacada, permanente e integrada à experiência comunicacional, ela pode impedir que o conteúdo seja razoavelmente interpretado como registro autêntico.
Portanto, a transparência não deve funcionar como salvo-conduto automático, mas também não pode ser considerada juridicamente irrelevante para a análise do contexto.
j) O emprego de referências internacionais exige cautela comparativa
A decisão recorre ao Regulamento Europeu de Inteligência Artificial, ao projeto norte-americano denominado COPIED Act e ao International AI Safety Report. Essas referências são úteis para demonstrar que o conceito contemporâneo de deepfake não se limita à técnica empregada e envolve a aparência falsa de autenticidade.
Entretanto, a importação de conceitos deve considerar as diferenças entre os regimes normativos.
O Regulamento Europeu trabalha, em grande medida, com deveres de transparência e admite tratamento contextualizado para obras artísticas, criativas, satíricas, ficcionais e análogas. A Res.-TSE nº 23.610/2019, por sua vez, estabelece uma proibição eleitoral especialmente severa. Um conceito desenvolvido para delimitar obrigações de transparência não pode ser automaticamente transposto, sem adaptações, para fundamentar a supressão integral de determinado conteúdo político.
Quanto mais intensa for a consequência jurídica, maior deve ser a precisão do conceito e mais rigoroso deve ser o controle de proporcionalidade. A convergência internacional quanto à importância da aparência de autenticidade é relevante, mas não elimina a necessidade de construir parâmetros próprios, compatíveis com a liberdade de expressão política e com a estrutura do Direito Eleitoral brasileiro.
4. Formulação conceitual aprimorada
Uma redação mais precisa poderia ser:
Para os fins do art. 9º-C, § 1º, considera-se deepfake o conteúdo sintético de imagem, áudio, vídeo ou combinação desses elementos que, mediante criação, substituição ou alteração digital materialmente relevante da imagem ou da voz, represente pessoa real ou determinado acontecimento de modo objetivamente apto, considerado o contexto integral de apresentação e a percepção do eleitor médio razoavelmente atento, a ser tomado como registro autêntico de manifestação, comportamento, fato ou circunstância que não ocorreu da forma representada.
Essa formulação:
inclui imagens estáticas;
exige relevância material da alteração;
identifica um destinatário objetivo;
determina a análise do contexto integral;
diferencia aparência fotorrealista de efetiva aptidão enganosa;
preserva sátiras e ficções manifestas sem criar uma imunidade abstrata para conteúdos humorísticos;
reduz a dependência de categorias tecnológicas sujeitas à rápida obsolescência;
concentra a proibição no resultado comunicacional indesejado, seja para favorecer, seja para prejudicar;
permanece aplicável mesmo diante do surgimento de novas ferramentas e técnicas de geração ou manipulação.
A referência à “criação, substituição ou alteração digital” preserva a conexão com o texto normativo, mas não condiciona a definição a uma técnica específica. O aspecto decisivo passa a ser o resultado: a representação materialmente falsa de uma pessoa ou acontecimento, apresentada de forma objetivamente apta a ser recebida como registro autêntico da realidade.
Conclusão
A proposta representa avanço importante porque abandona uma definição meramente tecnológica e concentra o conceito de deepfake no seu verdadeiro núcleo lesivo: a simulação realista capaz de se apresentar como registro autêntico da realidade.
Esse esforço interpretativo torna-se especialmente necessário diante da deficiência estrutural da Res.-TSE nº 23.610/2019. A distinção normativa entre conteúdo sintético e deepfake foi formulada em um contexto no qual ainda parecia possível diferenciar as ferramentas gerais de inteligência artificial das técnicas especializadas de manipulação da imagem e da voz de pessoas.
A evolução dos modelos generativos, especialmente a partir de 2024, enfraqueceu essa fronteira. Atualmente, imagens e vídeos realistas podem ser integralmente criados a partir de comandos textuais, sem necessidade de gravação-base ou de manipulação audiovisual nos moldes tradicionalmente associados ao deepfake. A mesma ferramenta pode gerar tanto uma ilustração manifestamente artificial quanto uma falsificação audiovisual capaz de ser confundida com um acontecimento verdadeiro.
Essa transformação confirma o risco de legislar sobre tecnologias específicas. Quando a norma se concentra no instrumento empregado, sua efetividade permanece condicionada à permanência das categorias técnicas existentes no momento de sua elaboração. Quando se concentra no resultado lesivo, a disciplina tende a conservar aplicabilidade mesmo diante da substituição das ferramentas, dos modelos e dos procedimentos de geração.
A interpretação proposta pelo Ministro procura corrigir esse problema ao acrescentar o realismo, a verossimilhança e a aptidão para produzir falsa percepção de autenticidade como elementos distintivos do deepfake. O caminho é correto, pois desloca o centro da análise da tecnologia para os efeitos comunicacionais do conteúdo.
A principal fragilidade está, contudo, na possibilidade de que, na aplicação concreta, o “realismo visual” passe a substituir a investigação sobre a efetiva aptidão comunicativa para produzir falsa percepção de autenticidade. Se isso ocorrer, sátiras fotorrealistas, ficções evidentes e metáforas visuais poderão ser proibidas mesmo quando nenhum observador razoável as tomaria como documentação de fatos reais.
Uma coisa é o conteúdo parecer visualmente uma fotografia ou filmagem. Outra, juridicamente distinta, é a obra, considerada em sua integralidade, apresentar-se como registro autêntico de um acontecimento. A qualidade mimética constitui elemento relevante, mas não pode funcionar como critério exclusivo.
Portanto, o conceito é dogmaticamente promissor, mas precisa ser complementado por três filtros fundamentais: materialidade da alteração, percepção do eleitor médio e análise integral do contexto comunicacional.
A esses filtros deve ser acrescentada uma orientação normativa mais ampla: a Justiça Eleitoral deve interpretar as regras sobre inteligência artificial de forma tecnologicamente neutra, concentrando-se menos na ferramenta empregada e mais no resultado proibido. O que justifica a intervenção não é a circunstância de o conteúdo ter sido produzido por deepfake, por modelo generativo, por ferramenta de edição ou por qualquer outra tecnologia presente ou futura. O que justifica a intervenção é a criação de uma realidade falsa, materialmente relevante e objetivamente apta a ser percebida pelo eleitor como registro autêntico de manifestação, comportamento, fato ou circunstância inexistente.
Essa compreensão oferece maior estabilidade normativa, reduz o risco de obsolescência regulatória e permite proteger simultaneamente a autenticidade do processo eleitoral e a liberdade de expressão política, artística, humorística e satírica.
Nenhum comentário:
Postar um comentário