O conceito jurídico de deepfake proposto pelo Ministro André Mendonça na RP 0601642-42: avanços interpretativos, limitações tecnológicas e critérios de aplicação

Autor: Professor Alexandre Basílio. 

Bacharel em Direito, em Ciência Política, em Redes de Computadores. 

Engenheiro da Computação, pós-graduado em Direito Eleitoral, Direito Digital e Cibersegurança. 

Captura de um frame do vídeo impugnado pela campanha do Flávio Bolsonaro - RP 0601642-42.2026

Introdução: os riscos de uma regulamentação baseada na tecnologia empregada

A dificuldade enfrentada na decisão decorre, em boa medida, da própria opção normativa adotada pela Res.-TSE nº 23.610/2019, especialmente após as alterações promovidas para as Eleições de 2024. A resolução procurou estabelecer regimes jurídicos diferentes para o conteúdo sintético produzido por inteligência artificial e para o deepfake, tratando o primeiro, no art. 9º-B, como uma categoria geral submetida a deveres de transparência e o segundo, no art. 9º-C, como uma categoria especial sujeita, quando utilizada para favorecer ou prejudicar candidatura, a um regime de proibição.

Essa diferenciação foi construída, ao menos parcialmente, sobre um critério tecnológico. O conteúdo sintético seria o produto geral da inteligência artificial, enquanto o deepfake corresponderia a uma técnica específica de criação, substituição ou alteração digital da imagem ou da voz de uma pessoa. A opção, embora compreensível à luz do estágio tecnológico existente quando o debate normativo se consolidou, revelou-se rapidamente problemática.

Deepfake não constitui propriamente uma espécie autônoma de inteligência artificial, mas um conjunto de aplicações ou técnicas de inteligência artificial voltadas à produção de representações sintéticas ou manipuladas de pessoas, especialmente por meio da substituição, modificação ou geração de sua imagem e de sua voz. Durante determinado estágio do desenvolvimento tecnológico, essas técnicas possuíam características relativamente identificáveis e diferenciáveis.

Antes da popularização dos modelos generativos multimodais, o falseamento realista da imagem de determinada pessoa normalmente dependia de procedimentos específicos de deepfake, frequentemente baseados em materiais preexistentes. Era necessário dispor de fotografias, gravações de voz ou vídeos da pessoa que se pretendia representar, além de um vídeo-base ou de uma performance de referência sobre a qual seriam realizadas a substituição facial, a sincronização labial, a clonagem de voz ou outras formas de manipulação.

Nesse contexto tecnológico, ainda era possível sustentar, com alguma segurança, uma diferenciação entre a criação genérica de conteúdo por inteligência artificial e o deepfake propriamente dito. De um lado, estavam imagens, textos, animações e outros conteúdos sintéticos produzidos com auxílio de IA; de outro, encontravam-se técnicas específicas destinadas a inserir determinada pessoa em gravação preexistente, modificar sua voz, substituir seu rosto ou atribuir-lhe manifestações e comportamentos que não ocorreram.

A partir de 2024, contudo, a evolução e a disseminação dos modelos de inteligência artificial generativa tornaram essa separação progressivamente menos nítida. Ferramentas capazes de converter comandos escritos, os chamados prompts, diretamente em imagens, vozes e vídeos realistas passaram a permitir a criação integral de cenas inexistentes, sem a necessidade de um vídeo-base preexistente nos moldes tradicionalmente associados ao deepfake.

Atualmente, não é indispensável manipular uma gravação verdadeira para representar uma pessoa em situação falsa. A inteligência artificial generativa pode criar a própria cena, o ambiente, os movimentos, a iluminação, a voz e a interação entre os personagens. Pode, inclusive, gerar acontecimentos inteiramente fictícios dotados de aparência fotográfica ou audiovisual realista. A distinção técnica entre “conteúdo gerado por inteligência artificial” e “deepfake” torna-se, por isso, cada vez menos funcional: o mesmo modelo generativo pode produzir uma ilustração manifestamente fictícia, uma sátira visual, uma fotografia sintética realista ou um vídeo capaz de ser confundido com o registro autêntico de um acontecimento.

As técnicas tradicionalmente reconhecidas como deepfake não desapareceram. A substituição facial, a clonagem de voz, a sincronização labial e a manipulação de vídeos preexistentes continuam sendo utilizadas. O que se tornou ultrapassada foi a pretensão de definir juridicamente o fenômeno apenas a partir dessas técnicas ou de pressupor uma separação estável entre elas e as ferramentas gerais de inteligência artificial generativa.

Em termos práticos, o mesmo resultado lesivo anteriormente alcançado por uma técnica especializada de deepfake pode agora ser produzido por uma ferramenta ordinária de geração de imagens ou vídeos a partir de texto. De fato, em que pese as mudanças conceituais, legais e jurisprudenciais mirem o art. 9º-C, § 1º da Res. TSE 23.610/2019, talvez, o foco devesse ser uma mudança no próprio art. 9º-B do mesmo normativo por trazer idênticos verbos vedados no dispositivo que regula o deepfake. 

 O risco eleitoral não depende mais do caminho tecnológico percorrido. Para a pessoa atingida e para o eleitor exposto à falsificação, pouco importa se o conteúdo foi produzido mediante substituição facial em um vídeo verdadeiro, manipulação de uma gravação preexistente ou geração integral da cena a partir de um prompt. O resultado comunicacional pode ser exatamente o mesmo: uma pessoa real é representada, com aparência de autenticidade, praticando um ato, pronunciando uma frase ou participando de um acontecimento que não ocorreu.

Esse processo demonstra um problema mais amplo: legislar diretamente sobre determinada tecnologia gera elevado risco de rápida desatualização normativa. As tecnologias digitais evoluem em velocidade muito superior à capacidade ordinária de produção e revisão das normas jurídicas. Quando a norma vincula determinada consequência jurídica a uma técnica, ferramenta ou arquitetura específica, ela pode tornar-se insuficiente ou obsoleta tão logo surja outro meio tecnológico capaz de produzir o mesmo resultado.

Por essa razão, é geralmente mais seguro adotar uma regulamentação tecnologicamente neutra, orientada não pelo instrumento utilizado, mas pelo resultado indesejado, pelo risco produzido e pelo bem jurídico ameaçado. No campo eleitoral, o problema central não é a utilização de determinada modalidade de inteligência artificial. O problema é a criação ou manipulação de conteúdo que atribua falsamente a uma pessoa determinada manifestação, comportamento, fato ou circunstância, com aparência de autenticidade e aptidão para influenciar a formação da vontade do eleitor.

Sob essa perspectiva, a distinção juridicamente relevante não deveria ser estabelecida entre “IA generativa” e “deepfake”, como se essas categorias tecnológicas fossem estáveis e reciprocamente excludentes. A separação mais segura seria entre:

1. conteúdos cuja natureza sintética, ficcional, alegórica, humorística ou artificial seja objetivamente perceptível; e

2. conteúdos sintéticos ou manipulados que, independentemente da tecnologia utilizada, sejam objetivamente aptos a ser percebidos como registros autênticos de manifestações, comportamentos, fatos ou circunstâncias inexistentes.

A Res. TSE nº 23.610/2019 foi, nesse sentido, infeliz ao construir a diferenciação entre os arts. 9º-B e 9º-C com excessiva dependência de categorias tecnológicas. O desenvolvimento dos modelos generativos tornou porosa a fronteira que a resolução procurou estabelecer. A decisão do Ministro André Mendonça representa uma tentativa interpretativa de corrigir essa insuficiência sem modificar formalmente o texto normativo, deslocando o centro da definição da técnica empregada para a aparência de autenticidade e para a aptidão enganosa do conteúdo.

Esse movimento interpretativo é necessário e, em seus fundamentos gerais, adequado. Entretanto, como se demonstrará, o conceito proposto ainda demanda aperfeiçoamentos para que não se transforme o simples realismo visual em critério suficiente para a proibição. Também será necessário estabelecer parâmetros mais objetivos para distinguir a falsificação apta a ser percebida como registro verdadeiro da realidade da obra ficcional, humorística ou satírica que utiliza recursos visuais realistas sem pretender apresentar-se como documentação de acontecimentos efetivos.

Convém registrar, ainda, que se trata de tese interpretativa proposta pelo Ministro André Mendonça para submissão ao Plenário do Tribunal Superior Eleitoral, formulada no contexto de decisão liminar. Não se está, ao menos nesse momento, diante de conceito jurisprudencial definitivamente consolidado pela Corte.

1. Síntese do conceito proposto

O Ministro estabelece uma relação de gênero e espécie entre os arts. 9º-B e 9º-C da Res.-TSE nº 23.610/2019:

• Conteúdo sintético é a categoria geral. Sua utilização não é necessariamente proibida, mas está submetida aos deveres de identificação, rotulagem e transparência.

• Deepfake é uma espécie qualificada de conteúdo sintético. Quando empregado para favorecer ou prejudicar candidatura, submete-se ao regime especial de proibição.

Segundo a tese proposta, deepfake seria:

"O conteúdo sintético de áudio, vídeo ou combinação de ambos que, mediante criação, substituição ou alteração digital de imagem ou voz, apresente grau de realismo ou verossimilhança objetivamente apto a produzir falsa percepção de autenticidade quanto à manifestação, comportamento, fato ou circunstância representados."

A definição contém, portanto, quatro elementos centrais:

1. existência de conteúdo sintético;

2. criação, substituição ou alteração digital de imagem ou voz;

3. grau relevante de realismo ou verossimilhança;

4. aptidão objetiva para gerar falsa percepção de autenticidade.

Não é necessário demonstrar que algum eleitor tenha sido efetivamente enganado. Trata-se de um juízo de perigo ou aptidão: examina-se se o conteúdo, por suas características e pelo contexto de apresentação, poderia ser percebido como registro autêntico da realidade.

Caricaturas, animações, memes e sátiras não seriam excluídos por pertencerem formalmente a essas categorias. O critério seria material: se a artificialidade ou a natureza alegórica for objetivamente perceptível, não haverá deepfake. Permanecerão, contudo, aplicáveis os deveres gerais de transparência previstos para conteúdos sintéticos.

2. Aspectos positivos

a) Superação de um conceito puramente tecnológico

O principal mérito está em afastar a ideia de que toda imagem produzida ou manipulada por inteligência artificial seja automaticamente um deepfake.

A tecnologia utilizada não pode ser o único critério jurídico. Caso contrário, animações, ilustrações, memes, montagens manifestamente absurdas e obras artísticas seriam submetidos à mesma proibição absoluta aplicável às falsificações realistas.

O acréscimo do requisito da falsa aparência de autenticidade impede, ao menos em tese, essa expansão excessiva.

Essa construção também contribui para reduzir os problemas decorrentes da rápida convergência entre as antigas técnicas especializadas de deepfake e os atuais modelos de inteligência artificial generativa. Ao colocar a aparência enganosa no centro da definição, a decisão começa a deslocar a análise do processo tecnológico utilizado para o resultado comunicacional produzido.

b) Distinção funcional entre transparência e proibição

A relação entre conteúdo sintético e deepfake é bem construída:

• o art. 9º-B regula a transparência;

• o art. 9º-C, § 1º, proíbe uma modalidade especialmente perigosa.

Essa leitura preserva utilidade normativa para os dois dispositivos. Se toda manipulação fosse deepfake, praticamente não haveria espaço autônomo para o regime geral de conteúdos sintéticos.

Também é coerente a conclusão de que a rotulagem não torna lícito um deepfake eleitoral. Se preenchidos os requisitos da categoria proibida, a identificação “produzido por IA” não afastaria a incidência do art. 9º-C. A ausência de rótulo configuraria uma infração adicional ao art. 9º-B.

c) Adoção de parâmetro objetivo

É adequada a dispensa de prova de que determinado eleitor foi concretamente enganado. Essa demonstração seria quase impossível em processos eleitorais de rito célere.

O juízo deve recair sobre a aptidão enganosa do conteúdo, e não sobre a comprovação de um resultado psicológico individual.

A adoção desse parâmetro também é compatível com a natureza preventiva de parte relevante da tutela eleitoral. Não seria razoável exigir que a falsificação já tivesse produzido erro efetivo e comprovável antes que a Justiça Eleitoral pudesse intervir.

d) Consideração do contexto

A referência às “próprias características e ao contexto de apresentação” é particularmente importante. Uma mesma imagem pode produzir significados distintos conforme:

• a legenda;

• a trilha sonora;

• o perfil que a divulga;

• a existência de aviso;

• o caráter humorístico da página;

• a sequência narrativa;

• a forma como o conteúdo é recortado ou republicado.

Isso evita que a análise se limite à qualidade visual de um quadro isolado.

Também permite reconhecer que a aptidão enganosa pode variar ao longo da circulação do conteúdo. Um vídeo originalmente publicado com advertência clara pode ser recortado e republicado sem qualquer indicação de artificialidade. Da mesma forma, uma imagem inserida em obra ostensivamente ficcional pode ser extraída desse contexto e apresentada isoladamente como se fosse registro documental.

3. Críticas ponderadas

a) “Realismo ou verossimilhança” ainda é um critério aberto

Embora seja melhor do que um conceito puramente técnico, a expressão continua consideravelmente indeterminada. Não se esclarece:

• qual grau de realismo é suficiente;

• qual é o público de referência;

• se a avaliação considera um eleitor médio, uma pessoa razoável ou usuários mais vulneráveis;

• se basta a aparência realista de cada imagem ou se o conteúdo deve ser crível em sua narrativa integral.

A definição ganharia maior objetividade se adotasse expressamente o parâmetro do eleitor médio razoavelmente atento, considerado o contexto integral da comunicação.

Não se deve confundir a capacidade de uma imagem parecer uma fotografia com a aptidão da mensagem completa para ser entendida como relato verdadeiro. Uma fotografia sintética pode ser fotorrealista e, simultaneamente, integrar narrativa ostensivamente absurda ou ficcional.

O realismo é uma característica estética ou técnica do conteúdo. A falsa percepção de autenticidade, por sua vez, é uma característica comunicacional. Embora possam estar relacionadas, não são equivalentes. A elevada qualidade gráfica constitui indício relevante, mas não deveria encerrar a análise.

b) Tensão entre a definição abstrata e sua aplicação à sátira

A decisão afirma corretamente que a sátira não constitui exceção automática. Uma peça autodenominada satírica pode efetivamente empregar uma falsificação realista.

O problema aparece quando a análise separa excessivamente o “suporte visual” da mensagem global. Nos §§ 50 a 52, sustenta-se que uma peça pode ser evidentemente humorística e, ainda assim, constituir deepfake porque utiliza imagens realistas.

Essa formulação pode enfraquecer o próprio critério estabelecido anteriormente. Se o contexto geral torna inequívoca a natureza ficcional, musical, exagerada ou satírica da representação, pode não existir aptidão objetiva para produzir falsa percepção de que os acontecimentos efetivamente ocorreram.

Em outras palavras:

Não basta que as imagens pareçam fotografias. É necessário que o conteúdo, examinado integralmente, possa ser razoavelmente percebido como registro autêntico de fatos reais.

Se o realismo plástico, isoladamente, for suficiente, a exigência de falsa percepção de autenticidade se torna quase redundante.

A distinção entre a sátira e o deepfake não pode depender apenas do acabamento visual da obra. Uma sátira pode utilizar atores, cenários realistas, efeitos especiais sofisticados e imagens geradas por inteligência artificial sem que o público razoável a interprete como documentação de acontecimentos verdadeiros.

O problema não está em a sátira parecer tecnicamente realista. Está em ela ser apresentada de modo capaz de ocultar sua natureza ficcional e levar o destinatário a acreditar que a pessoa representada realmente praticou o comportamento ou pronunciou a manifestação que lhe foi atribuída.

c) Ausência de requisito de materialidade

A definição não exige que a alteração seja substancial ou juridicamente relevante. Isso pode alcançar intervenções triviais, como:

• correção de iluminação;

• remoção de ruído;

• reconstrução de quadros;

• sincronização labial tecnicamente assistida;

• melhoria de resolução;

• alteração de cenário sem modificação da mensagem atribuída à pessoa.

Para justificar um regime de proibição absoluta, seria recomendável exigir que a manipulação fosse materialmente apta a atribuir à pessoa manifestação, comportamento ou participação em fato relevante que não ocorreu daquela forma.

Sem esse requisito, intervenções meramente cosméticas podem acabar confundidas com falsificações representacionais.

O critério de materialidade também ajudaria a distinguir o uso ordinário de ferramentas automatizadas de edição, hoje incorporadas a câmeras, celulares, plataformas e programas audiovisuais, da criação de uma realidade falsa juridicamente relevante. Em um ambiente no qual quase toda imagem digital passa por algum processamento algorítmico, a simples existência de modificação tecnológica não pode ser suficiente para atrair a proibição.

d) Exclusão aparentemente indevida das imagens estáticas

A tese final refere-se a “conteúdo sintético de áudio, vídeo ou combinação de ambos”. Essa redação parece deixar de fora fotografias e outras imagens estáticas.

Contudo, uma imagem sintética isolada pode representar realisticamente um candidato:

• recebendo dinheiro;

• participando de uma reunião inexistente;

• praticando um crime;

• aparecendo em local onde nunca esteve.

Sob o ponto de vista do risco eleitoral, não existe razão suficiente para excluir uma fotografia sintética realista e proibir apenas o vídeo ou o áudio.

A formulação mais adequada seria mencionar imagem, áudio, vídeo ou combinação desses elementos.

A omissão é ainda mais significativa diante da evolução dos modelos generativos. A produção de fotografias sintéticas realistas tornou-se uma das formas mais simples, acessíveis e difundidas de falsificação visual. Uma definição que não as abranja expressamente poderá nascer parcialmente desatualizada em relação às próprias práticas que pretende disciplinar.

e) Necessidade de separar autenticidade técnica e veracidade proposicional

A decisão utiliza a expressão “falsa percepção de autenticidade”, mas é preciso esclarecer o objeto dessa autenticidade.

Há pelo menos duas situações diferentes:

1. o eleitor acredita que está diante de uma fotografia ou gravação verdadeira;

2. o eleitor sabe que se trata de criação artística, mas interpreta a obra como crítica baseada em fatos reais.

A primeira questão pertence propriamente ao conceito de deepfake. A segunda pode envolver desinformação, ofensa à honra, fato sabidamente inverídico ou propaganda eleitoral negativa, mas não necessariamente deepfake.

Essa separação é essencial para que o art. 9º-C não absorva todas as controvérsias relacionadas à verdade ou falsidade da mensagem política.

Uma obra de ficção pode transmitir alegações falsas sem se apresentar como gravação verdadeira. Inversamente, um conteúdo pode constituir falsificação audiovisual autêntica, no sentido técnico, embora a mensagem nele veiculada se refira a fatos verdadeiros. Os planos de análise não devem ser confundidos:

• a falsidade ou autenticidade do suporte audiovisual;

• a verdade ou falsidade da proposição comunicada;

• a licitude ou ilicitude da crítica política;

• a existência de finalidade eleitoral;

• a responsabilidade subjetiva do agente.

A caracterização do deepfake deve concentrar-se no primeiro desses planos: a representação sintética é apresentada como registro autêntico de manifestação, comportamento, fato ou circunstância que não ocorreu da forma retratada.

f) A intenção de enganar não integra a definição

O modelo proposto adota um critério estritamente objetivo e dispensa qualquer finalidade de enganar. Isso facilita a tutela preventiva, mas pode produzir resultados excessivos em relação a obras artísticas, educativas, jornalísticas ou humorísticas.

A intenção não precisa constituir requisito absoluto, especialmente para a remoção cautelar. Entretanto, deveria ter relevância:

• na aplicação de sanções;

• na avaliação da gravidade;

• na definição da responsabilidade;

• na distinção entre erro, experimentação artística e falsificação deliberada.

Uma solução equilibrada seria manter a aptidão objetiva como requisito para a caracterização, mas considerar a finalidade enganosa e o conhecimento do agente na esfera sancionatória.

Também seria possível distinguir a qualificação objetiva do conteúdo da responsabilidade pessoal por sua criação ou divulgação. Determinado material pode possuir características objetivas de deepfake, justificando providência destinada a interromper sua circulação, sem que isso conduza automaticamente à aplicação de sanção a todos os usuários que o compartilharam, sobretudo quando inexistente prova de conhecimento sobre a natureza artificial da representação.

g) Necessidade de critérios probatórios principalmente em casos que possam gerar cassação de mandatos ou medidas mais severas.

A decisão realiza avaliação predominantemente visual, falando em “acabamento fotorrealístico” e “capacidade mimética”. Em casos menos evidentes, isso pode levar a decisões baseadas apenas na percepção subjetiva do julgador.

Seria conveniente estabelecer critérios mínimos de análise:

• exame do conteúdo integral, e não de frames isolados;

• contexto de postagem e circulação;

• presença de sinais de artificialidade;

• qualidade técnica nas condições reais de visualização;

• forma de apresentação nos primeiros segundos;

• avisos e rótulos efetivamente visíveis;

• necessidade de inversão do ônus da prova, perícia ou análise técnica quando houver controvérsia sobre a manipulação.

O risco maior não é apenas errar sobre a tecnologia utilizada, mas errar sobre a capacidade comunicativa concreta do material.

A análise também precisa considerar as condições reais de consumo do conteúdo. Um defeito visual perceptível em monitor de alta resolução e mediante exame quadro a quadro pode ser irrelevante para o usuário que assiste ao vídeo por poucos segundos na tela de um telefone celular. Em sentido inverso, uma imagem aparentemente realista quando examinada isoladamente pode revelar-se manifestamente ficcional quando observada dentro da sequência narrativa, acompanhada da trilha sonora, das legendas e dos demais elementos da publicação.

A prova técnica pode auxiliar na demonstração de que houve geração ou manipulação digital, mas não substitui o juízo jurídico sobre a aptidão para produzir falsa percepção de autenticidade. Trata-se de análise interdisciplinar: a perícia pode explicar como o conteúdo foi produzido, enquanto o julgador deverá avaliar como ele se apresenta comunicacionalmente ao público.

h) O parâmetro do destinatário não pode ser excessivamente vulnerável

A referência abstrata à possibilidade de produzir falsa percepção pode conduzir à adoção implícita do usuário mais desatento ou vulnerável como padrão decisório. Praticamente toda sátira, montagem ou obra ficcional poderá ser mal compreendida por alguém.

A proteção do processo eleitoral não pode depender da hipótese de que qualquer pessoa, por mais desatenta que seja, possa interpretar literalmente o conteúdo. Se bastasse a possibilidade de erro individual, a liberdade de expressão ficaria subordinada às interpretações mais improváveis.

Por isso, o critério deve ser objetivo e normativo: a aptidão para enganar deve ser apreciada a partir da percepção de um destinatário razoável, considerado o contexto concreto da publicação. Isso não significa ignorar pessoas vulneráveis nem aceitar manipulações sofisticadas. Significa apenas evitar que interpretações excepcionais ou idiossincráticas se tornem fundamento para uma proibição geral.

i) A transparência não torna o deepfake lícito, mas pode interferir em sua caracterização concreta

A decisão afirma que a rotulagem exigida pelo art. 9º-B não tem aptidão para tornar lícito conteúdo que já preencha os requisitos de deepfake. A conclusão é coerente com o regime especial de proibição estabelecido pelo art. 9º-C.

Entretanto, existe uma questão anterior: uma identificação suficientemente clara, ostensiva e incorporada ao próprio conteúdo pode interferir na avaliação sobre sua aptidão para produzir falsa percepção de autenticidade.

Se o vídeo informa, desde o início e durante sua reprodução, que as cenas são fictícias e foram geradas por inteligência artificial, pode ser difícil sustentar que o conteúdo, considerado em sua integralidade, apresenta-se como registro autêntico da realidade. Nesse caso, a rotulagem não estaria “legalizando” um deepfake. Poderia, em determinadas circunstâncias, impedir que um dos próprios elementos constitutivos do conceito — a aptidão objetiva para produzir falsa percepção de autenticidade — chegasse a se formar.

A questão exige distinção cuidadosa:

• se a falsificação continua objetivamente apta a ser tomada como verdadeira, um rótulo periférico, tardio ou pouco visível não afasta o deepfake;

• se a advertência é clara, destacada, permanente e integrada à experiência comunicacional, ela pode impedir que o conteúdo seja razoavelmente interpretado como registro autêntico.

Portanto, a transparência não deve funcionar como salvo-conduto automático, mas também não pode ser considerada juridicamente irrelevante para a análise do contexto.

j) O emprego de referências internacionais exige cautela comparativa

A decisão recorre ao Regulamento Europeu de Inteligência Artificial, ao projeto norte-americano denominado COPIED Act e ao International AI Safety Report. Essas referências são úteis para demonstrar que o conceito contemporâneo de deepfake não se limita à técnica empregada e envolve a aparência falsa de autenticidade.

Entretanto, a importação de conceitos deve considerar as diferenças entre os regimes normativos.

O Regulamento Europeu trabalha, em grande medida, com deveres de transparência e admite tratamento contextualizado para obras artísticas, criativas, satíricas, ficcionais e análogas. A Res.-TSE nº 23.610/2019, por sua vez, estabelece uma proibição eleitoral especialmente severa. Um conceito desenvolvido para delimitar obrigações de transparência não pode ser automaticamente transposto, sem adaptações, para fundamentar a supressão integral de determinado conteúdo político.

Quanto mais intensa for a consequência jurídica, maior deve ser a precisão do conceito e mais rigoroso deve ser o controle de proporcionalidade. A convergência internacional quanto à importância da aparência de autenticidade é relevante, mas não elimina a necessidade de construir parâmetros próprios, compatíveis com a liberdade de expressão política e com a estrutura do Direito Eleitoral brasileiro.

4. Formulação conceitual aprimorada

Uma redação mais precisa poderia ser:

Para os fins do art. 9º-C, § 1º, considera-se deepfake o conteúdo sintético de imagem, áudio, vídeo ou combinação desses elementos que, mediante criação, substituição ou alteração digital materialmente relevante da imagem ou da voz, represente pessoa real ou determinado acontecimento de modo objetivamente apto, considerado o contexto integral de apresentação e a percepção do eleitor médio razoavelmente atento, a ser tomado como registro autêntico de manifestação, comportamento, fato ou circunstância que não ocorreu da forma representada.

Essa formulação:

• inclui imagens estáticas;

• exige relevância material da alteração;

• identifica um destinatário objetivo;

• determina a análise do contexto integral;

• diferencia aparência fotorrealista de efetiva aptidão enganosa;

• preserva sátiras e ficções manifestas sem criar uma imunidade abstrata para conteúdos humorísticos;

• reduz a dependência de categorias tecnológicas sujeitas à rápida obsolescência;

• concentra a proibição no resultado comunicacional indesejado, seja para favorecer, seja para prejudicar;

• permanece aplicável mesmo diante do surgimento de novas ferramentas e técnicas de geração ou manipulação.

A referência à “criação, substituição ou alteração digital” preserva a conexão com o texto normativo, mas não condiciona a definição a uma técnica específica. O aspecto decisivo passa a ser o resultado: a representação materialmente falsa de uma pessoa ou acontecimento, apresentada de forma objetivamente apta a ser recebida como registro autêntico da realidade.

Conclusão

A proposta representa avanço importante porque abandona uma definição meramente tecnológica e concentra o conceito de deepfake no seu verdadeiro núcleo lesivo: a simulação realista capaz de se apresentar como registro autêntico da realidade.

Esse esforço interpretativo torna-se especialmente necessário diante da deficiência estrutural da Res.-TSE nº 23.610/2019. A distinção normativa entre conteúdo sintético e deepfake foi formulada em um contexto no qual ainda parecia possível diferenciar as ferramentas gerais de inteligência artificial das técnicas especializadas de manipulação da imagem e da voz de pessoas.

A evolução dos modelos generativos, especialmente a partir de 2024, enfraqueceu essa fronteira. Atualmente, imagens e vídeos realistas podem ser integralmente criados a partir de comandos textuais, sem necessidade de gravação-base ou de manipulação audiovisual nos moldes tradicionalmente associados ao deepfake. A mesma ferramenta pode gerar tanto uma ilustração manifestamente artificial quanto uma falsificação audiovisual capaz de ser confundida com um acontecimento verdadeiro.

Essa transformação confirma o risco de legislar sobre tecnologias específicas. Quando a norma se concentra no instrumento empregado, sua efetividade permanece condicionada à permanência das categorias técnicas existentes no momento de sua elaboração. Quando se concentra no resultado lesivo, a disciplina tende a conservar aplicabilidade mesmo diante da substituição das ferramentas, dos modelos e dos procedimentos de geração.

A interpretação proposta pelo Ministro procura corrigir esse problema ao acrescentar o realismo, a verossimilhança e a aptidão para produzir falsa percepção de autenticidade como elementos distintivos do deepfake. O caminho é correto, pois desloca o centro da análise da tecnologia para os efeitos comunicacionais do conteúdo.

A principal fragilidade está, contudo, na possibilidade de que, na aplicação concreta, o “realismo visual” passe a substituir a investigação sobre a efetiva aptidão comunicativa para produzir falsa percepção de autenticidade. Se isso ocorrer, sátiras fotorrealistas, ficções evidentes e metáforas visuais poderão ser proibidas mesmo quando nenhum observador razoável as tomaria como documentação de fatos reais.

Uma coisa é o conteúdo parecer visualmente uma fotografia ou filmagem. Outra, juridicamente distinta, é a obra, considerada em sua integralidade, apresentar-se como registro autêntico de um acontecimento. A qualidade mimética constitui elemento relevante, mas não pode funcionar como critério exclusivo.

Portanto, o conceito é dogmaticamente promissor, mas precisa ser complementado por três filtros fundamentais: materialidade da alteração, percepção do eleitor médio e análise integral do contexto comunicacional.

A esses filtros deve ser acrescentada uma orientação normativa mais ampla: a Justiça Eleitoral deve interpretar as regras sobre inteligência artificial de forma tecnologicamente neutra, concentrando-se menos na ferramenta empregada e mais no resultado proibido. O que justifica a intervenção não é a circunstância de o conteúdo ter sido produzido por deepfake, por modelo generativo, por ferramenta de edição ou por qualquer outra tecnologia presente ou futura. O que justifica a intervenção é a criação de uma realidade falsa, materialmente relevante e objetivamente apta a ser percebida pelo eleitor como registro autêntico de manifestação, comportamento, fato ou circunstância inexistente.

Essa compreensão oferece maior estabilidade normativa, reduz o risco de obsolescência regulatória e permite proteger simultaneamente a autenticidade do processo eleitoral e a liberdade de expressão política, artística, humorística e satírica.

DEEP FAKES - DESAFIOS DA REGULAMENTAÇÃO ELEITORAL.

 

Tecnologia e Eleições.

DeepFake x Inteligência Artificial Generativa.

 

* Prof. Alexandre Basílio. Engenheiro de Computadores, graduado em Redes de Computadores, em Ciência Política e em Direito. Membro da Abradep. 

 

Introdução

A evolução recente das tecnologias de criação e manipulação de conteúdo digital, notadamente os deepfakes e as Inteligências artificiais generativas, trouxe novos desafios ao Direito Eleitoral brasileiro. A Resolução TSE nº 23.732/2024 ampliou o conceito de “conteúdo fabricado ou manipulado” sem diferenciar, de forma técnica e clara, as tecnologias envolvidas. Além disso, essas tecnologias evoluíram, possibilitando a criação de simulações de imagem, vídeo e voz a partir de prompts, convertendo comandos de texto em conteúdo sintético, o que antes só era possível por meio de um vídeo usado como base. A evolução tecnológica e a imprecisão da terminologia utilizada passaram a gerar insegurança jurídica, podendo afetar tanto a proteção do eleitorado contra desinformação quanto a liberdade de inovação e redução de custos nas campanhas.

O presente estudo demonstra, de forma detalhada, as distinções técnicas entre deepfakes (manipulação de material pré‑existente) e IA generativa (text‑to‑video e similares, capazes de criar conteúdo inédito), bem como as consequências jurídicas previstas nos artigos 9‑B e 9‑C da Resolução. A análise busca subsidiar interpretações mais seguras, oferecendo elementos para futuros ajustes normativos que preservem a integridade do processo eleitoral e promovam condições equitativas entre candidatos, com rigor na repressão à desinformação e estímulo à transparência tecnológica.

O termo “deepfake” surgiu no final de 2017, criado por um usuário do site Reddit que usava exatamente esse nome. Esse usuário abriu um espaço na plataforma para compartilhar vídeos pornográficos manipulados digitalmente. Nesses vídeos, utilizava‑se uma tecnologia aberta de troca de rostos, capaz de colocar o rosto de uma pessoa famosa no corpo de outra, criando uma cena falsa, mas muito convincente.

https://www.theguardian.com/technology/2018/feb/08/reddit-bans-deepfakes-face-swap-porn-community - 2017

 

Com o tempo, e de forma atécnica, a palavra deepfake deixou de se referir apenas a esse uso inicial e passou a englobar uma variedade maior de mídias sintéticas. O conceito passou a incluir tanto as técnicas mais antigas de manipulação digital quanto novas tecnologias, como o StyleGAN, capaz de criar imagens estáticas extremamente realistas de pessoas que, na verdade, nunca existiram.

Atualmente, com o surgimento do Veo (tecnologia do Google para geração de imagens e vídeos) e do Sora, a situação tornou‑se ainda mais complexa, pois as tecnologias empregadas para geração de conteúdo inédito nada têm a ver com as técnicas usadas em 2017, quando da criação daquela terminologia. Esse avanço tecnológico criou um problema prático para a regulação eleitoral: a expressão deepfake passou a abranger realidades técnicas muito distintas, sem que haja, até o momento, clareza normativa sobre como diferenciá‑las.

Essa ausência de precisão terminológica gerou consequências jurídicas importantes, em especial no Brasil, uma vez que a regulamentação do TSE proíbe o uso de deepfakes sem especificar se a vedação se aplica apenas à tecnologia clássica de manipulação de vídeos preexistentes ou também às novas soluções de inteligência artificial generativa. Ao tratar todos esses conteúdos como sinônimos, a norma acaba por violar o princípio da taxatividade, por não definir de forma clara e precisa os comportamentos proibidos e suas respectivas sanções.

Em síntese, deepfake é uma tecnologia que permite criar imagens ou vídeos aparentemente verdadeiros a partir de um vídeo base preexistente. Contudo, o uso recente do termo passou a abarcar também a criação original, realizada por modelos como Grok, Gemini ou ChatGPT, de vídeos e imagens com grande semelhança a pessoas reais ou inexistentes, mesmo sem qualquer vídeo base. É justamente essa ampliação conceitual que questionamos no presente artigo, pois dela decorre insegurança jurídica e risco de aplicação indiscriminada de sanções.

Legislação Eleitoral

Antes de aprofundar a análise técnica, é fundamental destacar que a distinção entre deepfake e Inteligência Artificial Generativa (IA Gen) só se tornou relevante em razão da redação introduzida pela Resolução TSE nº 23.610/2019, alterada pela Resolução TSE nº 23.732/2024. Essa alteração normativa trouxe novos conceitos e vedações, exigindo, portanto, uma leitura atenta sobre como a Justiça Eleitoral está regulamentando essas tecnologias.

A Resolução TSE nº 23.732/2024 define deepfake de forma ampla como “conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia”.

Essa definição, embora avance na proteção do processo eleitoral, apresenta problemas técnicos relevantes ao englobar tecnologias fundamentalmente distintas sob um mesmo conceito jurídico. Tal amplitude conceitual gera insegurança jurídica, compromete a clareza normativa exigida pelo princípio da legalidade estrita e pode trazer potencial prejuízo à inovação tecnológica, pois inibe usos legítimos e transparentes de IA para fins de redução de custos de campanha ou de acessibilidade de candidatos aos meios de comunicação.

É nesse contexto que este estudo se propõe a fazer um verdadeiro raio‑x dos dispositivos regulamentares, demonstrando pontos de tensão, lacunas e contradições internas. Essa abordagem não apenas favorece o aprimoramento interpretativo, mas também reforça a necessidade de proteção ao eleitorado contra desinformação e de estímulo a um ambiente regulatório que assegure condições equitativas entre candidatos e liberdade controlada para inovação.

Análise do Art. 9-C da Res. TSE 23.610/2019

Diz o artigo 9‑C da Resolução nº 23.610/2019, alterada pela Resolução nº 23.732/2024:

Art. 9º-C É vedada a utilização, na propaganda eleitoral, qualquer que seja sua forma ou modalidade, de conteúdo fabricado ou manipulado para difundir fatos notoriamente inverídicos ou descontextualizados com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral. (Incluído pela Resolução nº 23.732/2024)

 

Pretendemos fazer uma análise aprofundada do texto, por partes, tendo como marco inicial o caput do dispositivo acima, ressaltando-se que se trata de dispositivo que dispõe sobre a regra geral da resolução sobre o combate à desinformação, contexto no qual foram inseridos diversos aspectos tecnológicos, os quais serão considerados adiante neste texto. 

 

1)        “É vedada a utilização, na propaganda eleitoral, qualquer que seja sua forma ou modalidade”

 

1.1 Alcance quanto ao tipo de propaganda: “É vedada a utilização, na propaganda eleitoral.”

 

A expressão “propaganda eleitoral” suscita dúvidas relevantes. Aplica-se também às propagandas partidárias veiculadas em rádio e televisão, ou a norma se restringe à propaganda eleitoral clássica, vinculada ao período oficial de campanha?

E quanto às propagandas intrapartidárias, cada vez mais disseminadas fora do contexto restrito das convenções, inclusive pelas redes sociais? Há ainda o problema das publicidades institucionais nos três meses anteriores ao pleito, cujo conteúdo, muitas vezes, repercute politicamente. Nenhuma dessas hipóteses foi enfrentada com clareza pela Resolução, criando margens de subjetividade que podem resultar em decisões judiciais divergentes e aumento da judicialização do processo.

A redação estabelece uma vedação genérica aplicável à propaganda eleitoral, em qualquer formato ou modalidade, desde que o conteúdo tenha sido fabricado ou manipulado para difundir fatos notoriamente inverídicos.

Tal amplitude alcança não apenas materiais analógicos, como folhetos, cartazes e faixas, mas também vídeos, imagens e áudios, independentemente de terem sido produzidos ou alterados com ou sem o uso de inteligência artificial.

Trata-se de um dispositivo concebido como paradigma no combate à desinformação eleitoral; contudo, sua redação excessivamente abrangente apresenta pontos criticáveis, gerando zonas de incerteza interpretativa e, por consequência, significativa insegurança jurídica.

 

1.2 Alcance temporal

Outro ponto controverso diz respeito ao período de incidência da norma. Supondo que a regra alcance apenas propagandas eleitorais, sua aplicação se daria apenas a partir de 15 de agosto, nos termos do art. 36 da Lei nº 9.504/97, ou desde a pré‑campanha?

O próprio texto regulamentar sugere interpretação extensiva, aplicando a vedação também ao período da pré‑campanha, conforme se extrai do art. 3º‑C da Resolução nº 23.732/2024.

 Essa opção interpretativa, ainda que amplie a proteção ao pleito, traz impactos diretos sobre a liberdade de expressão e a possibilidade de inovação nas estratégias de comunicação política antes do marco oficial de campanha, exigindo que candidatos, partidos e plataformas adotem cuidados redobrados.

Ao não delimitar com precisão essas fronteiras, a norma cria um ambiente de insegurança jurídica que pode desestimular a inovação legítima e aumentar o risco de punições desproporcionais. Essa lacuna também prejudica a proteção efetiva do eleitorado, já que mensagens potencialmente desinformativas podem ser difundidas antes do período oficial de campanha sem clareza quanto à aplicabilidade da sanção. Uma solução desejável seria o TSE, ou mesmo o legislador, esclarecer expressamente essas fronteiras, evitando que a regulação se torne excessivamente restritiva ou, ao contrário, ineficaz na proteção ao equilíbrio do pleito.

 1.2.1 - Art. 3º-C da Res. 23.6108/2019 

Art. 3º-C. A veiculação de conteúdo político-eleitoral em período que não seja o de campanha eleitoral se sujeita às regras de transparência previstas no art. 27-A desta Resolução e de uso de tecnologias digitais previstas nos arts. 9º-B, caput e parágrafos, e 9º-C desta Resolução, que deverão ser cumpridas, no que lhes couber, pelos provedores de aplicação e pelas pessoas e entidades responsáveis pela criação e divulgação do conteúdo. (Incluído pela Resolução nº 23.732/2024)

 

Regras trazidas pelo dispositivo:

 - Controle da veiculação de conteúdo político-eleitoral em período que não seja o de campanha.

 - Imposição de regras de transparência às bigtechs, conforme art. 27-A da Resolução, mesmo no período que não seja o de campanha eleitoral (entre 15 de agosto e a antevéspera do pleito) logo, na pré-campanha.

 - Controle no uso de tecnologia para as manifestações políticas, conforme previsto no art. 9-B (exigência de disclaimer no uso de inteligência artificial, mesmo na pré-campanha), no art. 9-C (proibição de fabricação ou manipulação de conteúdo desinformativo e vedação às deepfakes).

 

1.2.2 - Dúvida quanto à pré-campanha:

Sendo os artigos 9‑C, 9‑B e 27‑A, aplicáveis também ao período de pré‑campanha, surge uma indagação essencial: quando se considera iniciado, de fato, o período da pré‑campanha?

A norma não define esse marco temporal de forma objetiva, o que gera insegurança quanto à incidência das vedações e obrigações nelas previstas. A partir de quando esses dispositivos devem ser aplicados, considerando-se que vídeos fabricados e manipulados já circulam amplamente no ano anterior ao pleito?

Essa lacuna normativa fragiliza a efetividade do controle pretendido e impõe risco de interpretações divergentes. Sem um marco claro, candidatos e partidos ficam sujeitos a decisões casuísticas, enquanto conteúdos potencialmente desinformativos podem circular sem parâmetros definidos. Uma interpretação mais segura exigiria que o TSE, ou o legislador, delimitasse de modo expresso o início da pré‑campanha para fins de aplicação dessas regras, reduzindo a margem de incerteza e garantindo a proteção efetiva do eleitorado desde o momento adequado.

 

1.2.3 - Dificuldades terminológicas:

Além das questões relacionadas à tipologia da propaganda política e ao período de alcance das regras regulamentares, surgem dificuldades terminológicas relevantes, capazes de comprometer a correta aplicação da norma.

 

a) “Conteúdo fabricado ou manipulado” – trata-se de expressões amplamente utilizadas no cenário internacional de combate à desinformação, estando associadas às sete principais formas de desordem informacional mapeadas por entidades especializadas.

 

Segundo a The Commons Social Change Library, conteúdo fabricado é aquele que consiste em material 100% falso, criado deliberadamente para enganar e causar danos. Quando o conteúdo é completamente falso, o único limite é a imaginação do criador. Distinguir entre conteúdo real e fabricado é extremamente difícil a olho nu; basta observar exemplos de deepfakes que, muitas vezes, se enquadram nessa categoria e afetam profundamente a confiança do público nas mensagens veiculadas.

Assim, nesse contexto, conteúdo fabricado é sinônimo de material totalmente inventado, cuja finalidade é desinformar e provocar danos.

Por sua vez, o mesmo dicionário define conteúdo manipulado como aquele em que informações ou imagens genuínas são modificadas para enganar. Geralmente, trata-se de fotos ou vídeos alterados de forma a parecerem reais, mas com significado diferente do original. Esses exemplos, conforme analisados por especialistas como Dren Gerguri, PhD, demonstram como a manipulação de conteúdo legítimo pode induzir a interpretações distorcidas. Logo, conteúdos manipulados são informações ou imagens genuínas modificadas com o objetivo de causar confusão ou dano reputacional.

 

Em uma primeira leitura, parece-nos que o TSE utilizou essa terminologia para deixar clara a intenção de combater desinformação dos dois tipos, sejam conteúdos inéditos, sejam conteúdos manipulados para turbar o pleito nas propagandas eleitorais. Repito, a vedação é ampla e genérica aos conteúdos fabricados ou manipulados para desinformar, com foco naqueles que tenham potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral.

Ao importar esses conceitos do cenário internacional para a Resolução brasileira, o TSE incorporou expressões que, no campo técnico, remetem exclusivamente à desinformação. No entanto, a Resolução utiliza as mesmas expressões também no art. 9‑B, para se referir a criações ou alterações legítimas com uso de inteligência artificial, desde que acompanhadas de transparência. Essa duplicidade de sentidos amplia a insegurança jurídica e reforça a necessidade de harmonização terminológica na norma, de modo a não confundir usos lícitos com práticas de desinformação efetivamente nocivas.

Art. 9º-B. A utilização na propaganda eleitoral, em qualquer modalidade, de conteúdo sintético multimídia gerado por meio de inteligência artificial para criar, substituir, omitir, mesclar ou alterar a velocidade ou sobrepor imagens ou sons impõe ao responsável pela propaganda o dever de informar, de modo explícito, destacado e acessível que o conteúdo foi fabricado ou manipulado e a tecnologia utilizada. (Incluído pela Resolução nº 23.732/2024)

O dispositivo acima será detidamente analisado adiante. Entretanto, desde já se observa que a Resolução admite a fabricação ou manipulação de determinados conteúdos, desde que haja informação explícita, destacada e acessível de que houve a referida fabricação ou manipulação.

Essa duplicidade terminológica é problemática. Os termos “fabricação” e “manipulação” foram consagrados internacionalmente para designar práticas associadas à desinformação e, portanto, a usos nocivos. Empregar as mesmas expressões para designar conteúdos legítimos, desde que transparentes, gera um conflito semântico que compromete a clareza normativa. Em síntese, cria‑se insegurança jurídica ao atribuir dois significados distintos a um mesmo termo, com efeitos diretos na interpretação e aplicação da norma.

Assim, o texto atual faz parecer que o art. 9º‑B permite a utilização de conteúdos “fabricados” ou “manipulados”, desde que haja informação clara sobre a tecnologia utilizada, seja para criar, substituir, omitir, mesclar ou alterar a velocidade, ou ainda sobrepor imagens ou sons. À luz do contexto internacional, sabemos que a terminologia remete, de forma inequívoca, ao combate à desinformação. Todavia, não parece que o art. 9‑B tenha adotado essa acepção estrita; o dispositivo parece tratar a expressão como sinônimo de criação de conteúdo original ou alteração de conteúdo pré‑existente mediante inteligência artificial, sem qualquer conotação pejorativa ou desinformativa.

Essa interpretação harmonizadora é a mais razoável, sob pena de se chegar a uma consequência indesejável: admitir que a Resolução permite a difusão de desinformação, desde que se declare o uso da tecnologia. Isso conflitaria frontalmente com o art. 9‑C, que expressamente veda conteúdos manipulados ou fabricados com potencial de prejudicar o equilíbrio do pleito.

O ideal, portanto, seria que o TSE revisasse a nomenclatura empregada, delimitando com precisão os termos “fabricado” e “manipulado” exclusivamente para o contexto do combate à desinformação. Para usos legítimos e transparentes de IA generativa, poder-se-ia adotar terminologias neutras como “conteúdo criado” ou “conteúdo editado com tecnologia digital”, eliminando a ambiguidade e reduzindo o risco de interpretações contraditórias que comprometam a inovação tecnológica e a segurança jurídica.

 

2)        (...) com potencial para causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral.

A parte final do dispositivo introduz um elevado grau de subjetivismo. Como aferir, de forma objetiva, o potencial de dano ao equilíbrio do pleito a partir de um vídeo ou imagem manipulados?

Seria suficiente a mera existência do conteúdo? Deveria ser considerada a circulação efetiva, aferida por métricas como curtidas, compartilhamentos ou alcance orgânico? Ou seria imprescindível avaliar a intenção dos responsáveis pela fabricação ou manipulação do material, bem como daqueles que o divulgaram?

Esses questionamentos evidenciam que a aplicação prática do dispositivo é desafiadora. A ausência de parâmetros concretos pode resultar em decisões judiciais díspares, comprometendo a previsibilidade necessária ao processo eleitoral. A solução mais adequada seria adotar critérios objetivos de aferição de gravidade, nos moldes do que já se pratica em ações cassatórias eleitorais, avaliando a relevância do conteúdo, o alcance de sua divulgação e o potencial real de interferência na formação da vontade do eleitorado.

Além disso, seria recomendável que a regulamentação ou a jurisprudência futura estabelecessem indicadores mais precisos — por exemplo, parâmetros quantitativos de alcance ou provas de intenção dolosa — de forma a reduzir o espaço para interpretações subjetivas.

Do mesmo modo, o sistema sancionatório deveria ser calibrado, prevendo penas mais severas para quem cria o conteúdo manipulado ou fabricado, sobretudo quando isso ocorre a mando do próprio candidato ou quando este compartilha diretamente em suas redes, e penas mais brandas e de caráter pedagógico para quem apenas compartilha o material, especialmente quando se tratar de mero eleitor. Essas medidas contribuiriam não apenas para a segurança jurídica, mas também para a proteção efetiva do eleitorado, garantindo que apenas condutas realmente graves sejam sancionadas, sem inibir indevidamente o uso legítimo de tecnologias emergentes em campanhas políticas.

A conclusão quanto ao caput do art. 9‑C é a de que ele estabelece uma regra geral de combate à desinformação, sem mencionar expressamente o tipo de tecnologia utilizada, desde que haja fabricação ou manipulação de conteúdos destinados a difundir fatos notoriamente inverídicos ou descontextualizados e que sejam graves, com potencial de causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral.

Contudo, a análise revela que, apesar da intenção de proteção ao eleitorado, a redação atual apresenta amplitude terminológica excessiva e critérios subjetivos de aferição do dano, o que gera insegurança jurídica e pode desestimular o uso legítimo de tecnologias inovadoras. Uma regulamentação mais precisa, com indicadores objetivos e gradação de responsabilidades — punindo de forma mais severa quem cria ou divulga deliberadamente conteúdos falsos e aplicando sanções pedagógicas a meros compartilhadores — tornaria a aplicação da norma mais justa e eficaz.

Assim, antes de avançar para o §1º do art. 9‑C, que prevê vedação expressa às deepfakes, é indispensável um olhar atento ao art. 9‑B, a fim de compreender como a norma concilia o uso permitido de inteligência artificial generativa, desde que transparente, com a proibição ampla a conteúdos manipulados ou fabricados com potencial desinformativo. Essa análise comparativa será fundamental para propor interpretações coerentes e, se necessário, apontar caminhos para o aperfeiçoamento regulatório.

Análise do art. 9º-B da Res. TSE 23.610/2019

Diz o art. 9-B:

Art. 9º-B A utilização na propaganda eleitoral, em qualquer modalidade, de conteúdo sintético multimídia gerado por meio de inteligência artificial ou tecnologia equivalente para criar, substituir, omitir, mesclar ou alterar a velocidade ou sobrepor imagens ou sons, impõe ao responsável pela propaganda o dever de informar, de modo explícito, destacado e acessível, que o conteúdo foi fabricado ou manipulado e qual tecnologia foi utilizada. (Incluído pela Resolução nº 23.732/2024) (Redação dada pela Resolução nº 23.755/2026)

Vou poupar o leitor de repetições e me abster, neste ponto, de criticar novamente a terminologia utilizada pela Resolução ao se referir apenas à expressão “na propaganda eleitoral”. O foco, a partir daqui, é compreender o alcance prático do dispositivo.

Vamos, mais uma vez, por partes:

Parte 1 - A utilização, na propaganda eleitoral, em qualquer modalidade, de conteúdo sintético multimídia gerado por meio de inteligência artificial ou tecnologia equivalente...

A partir desta redação, verifica-se que a norma incide especificamente sobre conteúdos sintéticos produzidos com inteligência artificial ou por tecnologia que apresente resultados equivalentes, aplicados a qualquer modalidade de propaganda eleitoral. Isso significa que não só criações digitais originadas por ferramentas de IA, mas também aquelas que gerem resultados equivalentes — sejam elas estáticas ou dinâmicas, visuais ou sonoras — passam a estar sob o regime de transparência exigido pelo dispositivo.

Uma crítica que persiste é ambiguidade dos termos e insegurança jurídica gerada ao criar uma equivalência no resultado obtido com recursos tecnológicos para aplicação de uma norma. Esse resultado pode depender da habilidade técnica do usuário. Um usuário pode ser capaz de produzir um conteúdo com tal qualidade que chegue a ser considerado equivalente ao produzido por IA, mesmo que tal usuário seja exceção e, nesse caso, ele estaria sujeito à norma.

Importante ressaltar que o alcance do art. 9‑B não se estende a técnicas clássicas de edição ou animação, como trabalhos realizados apenas em softwares tradicionais de design ou modelagem 3D, desde que com resultados ordinários. O foco está na utilização de modelos generativos ou ferramentas automatizadas que criam, alteram ou combinam elementos audiovisuais.

Essa delimitação técnica é essencial para evitar interpretações equivocadas que ampliem indevidamente o campo de incidência da norma, preservando a possibilidade de uso legítimo de recursos tecnológicos enquanto se exige, de forma proporcional, que haja transparência quando se emprega IA generativa e tecnologias equivalentes em campanhas políticas.

Ao mesmo tempo, traz um novo desafio jurídico para os processos eleitorais, pois, em tese, passa a ser dever do autor da demanda demonstrar que na propaganda impugnada houve uso de inteligência artificial ou tecnologia equivalente sem a devida transparência.

O dispositivo alcança inúmeros verbos, delimitando um amplo espectro de ações sobre imagens e sons:

a) criar imagens ou sons;

b) substituir imagens ou sons;

c) omitir imagens ou sons;

d) mesclar imagens ou sons;

e) alterar a velocidade de imagens em vídeo ou de sons;

f) sobrepor imagens;

g) sobrepor sons.

 

Para todas essas ações, quando realizadas por meio de inteligência artificial na geração de conteúdo sintético multimídia, a Resolução impõe a observância rigorosa das regras de transparência, nos seguintes termos: é necessário informar, de modo explícito, destacado e acessível, que o conteúdo foi fabricado ou manipulado e qual tecnologia foi utilizada.

Parte2: “impõe ao responsável pela propaganda o dever de informar, de modo explícito, destacado e acessível, que o conteúdo foi fabricado ou manipulado e qual tecnologia foi utilizada.”

 

Em resumo, sempre que houver criação, substituição, mescla, alteração de velocidade ou sobreposição de imagens ou sons com o uso de inteligência artificial ou tecnologia equivalente, deve‑se informar, de modo explícito, destacado e acessível, que o conteúdo foi “fabricado ou manipulado” e qual tecnologia foi utilizada.

As exigências para o disclaimer quanto ao uso da IA na propaganda eleitoral são as seguintes:

a) Informação explícita – deve ser imediatamente perceptível, sem exigir esforço de busca por parte do usuário.

b) De forma destacada – o aviso deve sobressair no conteúdo, de modo que mesmo usuários menos atentos percebam a informação.

c) Informação acessível – deve ser obtida sem obstáculos técnicos, acessível em diferentes dispositivos, não apenas em computadores.

d) Indicação de que foi “fabricado ou manipulado” – aqui reside um ponto crítico, pois essa expressão remete internacionalmente a desinformação. Para evitar confusão conceitual, recomenda‑se que a norma passe a exigir a informação de que o conteúdo foi “criado ou alterado com o uso de inteligência artificial ou tecnologia equivalente”, utilizando terminologia neutra e precisa.

e) Tecnologia utilizada – não basta informar genericamente que se utilizou IA, uma vez que isso já é pressuposto da obrigação de transparência. O ideal é indicar o software ou plataforma específicos empregados no processo, como Kling.AI, Invideo, Napkin, Monica.AI, entre outros.

 

A clareza e a padronização dessas informações são essenciais não apenas para o cumprimento formal da norma, mas também para fortalecer a confiança do eleitorado, reduzindo ambiguidades e prevenindo interpretações conflitantes. Uma revisão terminológica pelo TSE nesse sentido contribuiria para que a regulamentação alcançasse o equilíbrio entre inovação tecnológica e proteção ao processo eleitoral.

Conclui‑se, portanto, que o art. 9º‑B permite o uso de inteligência artificial para criar, substituir, omitir, mesclar, alterar a velocidade, sobrepor imagens e sobrepor sons, desde que sejam observadas as exigências de transparência.

Ao se considerar especificamente os verbos criar e substituir, torna‑se essencial inserir no estudo os aspectos tecnológicos correspondentes, pois são eles que mais diretamente dialogam com o avanço das ferramentas de IA generativa. Até aqui, exploramos apenas dois dispositivos: o caput dos artigos 9º‑B e 9º‑C.

O art. 9º‑B estabelece que é possível utilizar inteligência artificial para criar e substituir imagens ou sons, desde que haja transparência explícita, destacada e acessível. Em outras palavras, o dispositivo legitima o uso de IA generativa para esses fins, desde que sejam cumpridas as exigências formais.

Entretanto, simultaneamente, o art. 9º‑C, § 1º veda o uso de deepfakes, ainda que para beneficiar ou prejudicar alguém, utilizando exatamente os mesmos verbos (criar, substituir, alterar), o que gera um aparente conflito interpretativo.

Por essa razão, mostra‑se essencial definir, com precisão, quais são os limites entre o art. 9º‑B e o art. 9º‑C:

De um lado, o art. 9º‑B autoriza a criação e substituição de imagens e sons mediante IA generativa, desde que observada a transparência. De outro, o art. 9º‑C, §1º proíbe o uso de deepfakes para esses mesmos atos, ainda que com autorização ou sem intenção maliciosa.

Observe, caro leitor, que a partir do artigo 9º-B é plenamente possível se criar, especialmente uma imagem ou vídeo, em que o conteúdo tenha sido gerado por inteligência artificial com visível semelhança com pessoa conhecida. Tal conduta se enquadraria no art. 9º-B ou 9º-C da resolução em análise?

Em razão dessas dificuldades, essa distinção demanda critérios técnicos objetivos: o uso de IA generativa para criar conteúdos inéditos não deve ser confundido com o uso de técnicas de deepfake que partem de material pré‑existente para manipular a identidade de pessoas reais. A ausência dessa diferenciação compromete a segurança jurídica e pode limitar indevidamente ferramentas legítimas que reduzem custos de campanha e ampliam o alcance de mensagens, sem gerar desinformação. Assim, ao avançarmos para o art. 9º‑C, §1º, será fundamental analisar detidamente essa tensão normativa.

 

Art. 9-C

§ 1º É proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake). 

 

Vamos fatiar o dispositivo:

 

Part  1- dispõe que: “§1º É proibido o uso, para prejudicar ou para favorecer candidatura.”

Isso significa que o uso da tecnologia é proibido por si só, independentemente da intenção do agente. Pouco importa, para a Resolução, se a tecnologia vedada será utilizada para beneficiar ou prejudicar um candidato; o simples emprego configura violação.

 Essa postura normativa cria um distanciamento do art. 9º‑B, que, como vimos, permite a criação ou substituição de imagens ou sons por inteligência artificial, desde que haja transparência. O art. 9º‑C, por sua vez, regulamenta a tecnologia de maneira absoluta, sem levar em conta a finalidade ou o contexto.

 

Parte 2 - dispõe: “... de conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido gerado ou manipulado digitalmente.”

 

Aqui, nota-se que o dispositivo não se restringe a regulamentar o uso da Inteligência Artificial, mas também se preocupou com a geração e a manipulação de conteúdo sintético — termo que, na prática, é sinônimo de conteúdos produzidos por inteligência artificial. Essa redação acaba sendo redundante, já que qualquer conteúdo sintético, nesse contexto, necessariamente foi gerado ou manipulado por meios digitais, não havendo tecnologias analógicas que se enquadrem.

 

Parte 3 - dispõe: “... ainda que mediante autorização, para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep fake).”

Esta cláusula estabelece uma vedação expressa, abrangendo a criação, substituição ou alteração de imagem ou voz de qualquer pessoa, viva ou falecida, ou mesmo fictícia, por meio de deepfake, independentemente de autorização e independentemente da intenção ser positiva ou negativa.

Os verbos centrais do dispositivo — usar, criar, substituir ou alterar — demonstram a amplitude da proibição, que, somada à ausência de distinção técnica entre deepfake e IA generativa, resulta em insegurança jurídica e potenciais limitações desnecessárias ao uso legítimo de tecnologia em campanhas eleitorais.

O art. 9º‑C, caput estabelece uma vedação ampla a conteúdos fabricados ou manipulados com potencial de causar danos ao equilíbrio do pleito, independentemente da tecnologia utilizada. O art. 9º‑B, por sua vez, permite expressamente a criação, substituição, mescla, alteração ou sobreposição de imagens e sons com uso de inteligência artificial, desde que haja transparência explícita, destacada e acessível, sem limitar a criação de imagens e vídeos com pessoas existentes ou fictícias.

Já o art. 9‑C, § 1º veda, de forma absoluta, o uso de deepfakes para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia, independentemente de intenção ou autorização.

Diante desse panorama, surge uma questão inevitável: como garantir segurança jurídica na prática, se, atualmente, tanto a IA generativa permitida (quando utilizada com transparência) quanto a IA generativa proibida (classificada como deepfake) são produzidas por técnicas semelhantes e plataformas similares — capazes de criar ou substituir imagens e vídeos sem um conteúdo base —, como distinguir objetivamente uma da outra?

A redação normativa é genérica e não oferece critérios técnicos claros para separar a manipulação (proibida) da criação legítima (permitida). Sem essa diferenciação explícita, abre‑se espaço para interpretações conflitantes e decisões judiciais divergentes, comprometendo a segurança jurídica de candidatos, partidos e plataformas.

O atual arcabouço normativo combina dispositivos que, ao mesmo tempo em que permitem o uso de inteligência artificial generativa com transparência (art. 9‑B), também proíbem de forma absoluta a utilização de deepfakes (art. 9‑C, §1º) e vedam conteúdos fabricados ou manipulados com potencial desinformativo (art. 9‑C, caput). Retirado o aspecto enganoso, resta apenas a análise tecnológica de conteúdos que, em essência, podem ser criados por uma técnica ou por outra.

Para se enquadrar no art. 9º-B não pode haver uso da técnica deepfake. No entanto, é totalmente possível alcançar o mesmo resultado, falsear pessoas ou vozes usando apenas IA generativa. O mesmo tipo de IA permitido pelo verbo criar do art. 9º-B, desde que conte com transparência.  

A ausência de critérios técnicos claros para distinguir entre esses usos legítimos e ilícitos cria um ambiente de insegurança jurídica, podendo inibir ferramentas tecnológicas que reduziriam custos e ampliariam a acessibilidade das campanhas, mesmo quando utilizadas com autorização e transparência.

Além disso, viola o princípio da taxatividade, uma vez que o art. 9º-C, §1º, mesmo referindo-se a técnica específica de criação de conteúdo, que pressupõe treinamento com material pré-existente (foto ou vídeo), deepfake, vem sendo utilizado para se punir criações feitas com base em IA generativa, quando se usa o treinamento oficial da própria IA ( o que não era possível quando o dispositivo foi criado em março de 2024.

Para assegurar o equilíbrio entre proteção ao eleitorado e inovação tecnológica, mostra‑se essencial uma interpretação sistemática — ou mesmo um aperfeiçoamento regulatório — que estabeleça parâmetros objetivos e gradações de responsabilidade. Somente assim será possível aplicar sanções com justiça e previsibilidade, sem sufocar avanços que podem tornar o processo eleitoral mais democrático e eficiente.

Em síntese: 

Verbo	9-B, caput	9-C (vedado, se falso)	9-C -  §º1 (deepfake)
Criar	✅	❌	❌
Substituir	✅	❌	❌
Alterar	✅	❌	❌
Omitir	✅	❌
Mesclar	✅	❌
Sobrepor imagens	✅	❌
Sobrepor sons	✅	❌

 

A tabela acima confirma, portanto, que a inteligência do art. 9º‑B possibilita criar, substituir, alterar, omitir, mesclar e sobrepor imagens e sons com o uso de inteligência artificial generativa e ou tecnologia equivalente, desde que observadas as exigências de transparência. Por outro lado, o art. 9‑C, §1º impede o uso de inteligência artificial específica para criar, substituir ou alterar imagens ou sons, restringindo‑se, entre parênteses, ao tipo de tecnologia denominado deepfake.

Dessa forma, resta evidente que a Justiça Eleitoral, ao identificar os riscos de determinadas aplicações de IA, optou por proibir a própria tecnologia deepfake em campanhas eleitorais, excluindo de forma absoluta as falsificações de rostos e vozes, ainda que com autorização.

Contudo, insisto, surge aqui uma dificuldade significativa imposta pelo avanço tecnológico. Quando o regulamento foi editado, a produção de vídeos e imagens por meio de IA generativa era ainda incipiente, e o conceito de deepfake estava atrelado a técnicas clássicas de manipulação: vídeos que sobrepunham o rosto de uma pessoa famosa em outro corpo ou alteravam vozes pré‑existentes por meio de algoritmos como GANs e VAEs. Em outras palavras, tratava‑se de manipulação a partir de um vídeo base real, gerando um conteúdo parte natural e parte sintético.

Nesse contexto original, a distinção entre os dispositivos era clara e praticamente autoevidente: o art. 9º‑B permitiria criações legítimas de conteúdo visual com transparência (incapaz, naquele tempo de simular vozes, rostos e pessoas), enquanto o art. 9º‑C, §1º proibiria manipulações enganadoras baseadas em material pré‑existente, em especial simulando pessoas e as colocando em situações que nunca estiveram.

Entretanto, a evolução tecnológica após 2024 embaralhou essas fronteiras. Hoje, ferramentas de IA generativa (art. 9º-B) são capazes de criar imagens e vídeos realistas sem qualquer vídeo base, mas utilizando técnicas semelhantes às originalmente associadas ao deepfake.

Essa nova realidade tecnológica torna os dispositivos conflitantes e evidencia a necessidade de o regulador atualizar conceitos ou fornecer parâmetros interpretativos claros. Do contrário, candidatos e equipes continuarão sem saber com segurança quando o uso transparente de IA generativa é permitido e quando será enquadrado como deepfake proibido, prejudicando tanto a inovação legítima quanto a efetiva proteção do eleitorado.

Observe que, como as tecnologias eram distintas, havia a possibilidade de se definir o uso de IA generativa para criar ou substituir imagens, desde que com transparência e, ao mesmo tempo, sugerir que, em qualquer caso, é proibido o uso de deepfake para criar ou substituir imagem ou voz.

O desafio atual reside no fato de que a inteligência artificial generativa passou a ser capaz, sem recorrer às técnicas clássicas de clonagem de voz e imagem, de produzir cópias realísticas de pessoas inserindo‑as em conteúdos digitais inéditos, a partir apenas de prompts, sem necessidade de um vídeo base.

Torna‑se, portanto, imprescindível distinguir esse tipo de conteúdo para definir, com segurança jurídica, sob qual dispositivo ele deve ser enquadrado:

– Art. 9º‑B, que exige apenas a transparência no uso da tecnologia; ou

– Art. 9º‑C, §1º, que considera o conteúdo totalmente proibido, independentemente de intenção ou autorização.

 

A dificuldade é agravada porque muitos estudiosos — e até órgãos reguladores em debates internacionais — ampliaram o alcance do termo “deepfake”, utilizando‑o como sinônimo de qualquer conteúdo digital que apresente características visuais ou sonoras de pessoas reais (ou mesmo inexistentes), ainda que criado de forma inédita por IA generativa.

Diante desse cenário, é crucial compreender com maior profundidade as diferenças técnicas entre as categorias de tecnologia envolvidas, para que se possa propor interpretações ou ajustes normativos que distingam, de maneira objetiva e fundamentada, o que constitui um uso legítimo de IA generativa com transparência e o que deve ser classificado como deepfake proibido.

A seguir, apresentamos as diferenças técnicas que auxiliam nesse enquadramento:

1. Deepfakes - Características Técnicas Distintivas

Deepfakes são tecnologias específicas de manipulação digital que operam através de:

 

a)    Arquitetura Tecnológica: Utilizam principalmente Redes Adversárias Generativas (GANs) e Autoencoders Variacionais (VAEs). O processo envolve duas redes neurais: uma geradora que cria conteúdo falso e uma discriminadora que tenta detectar falsificações.

 

b)   Metodologia Face Swap: A técnica predominante é o "face swap" - substituição completa de um rosto por outro, mantendo movimentos e expressões sincronizados.

 

c)    Requisitos de Dados: Necessitam de datasets específicos da pessoa-alvo, contendo centenas ou milhares de imagens para treinamento eficaz. Gera resultados ultrarrealistas exatamente por contar com conteúdo base verdadeiro.

 

d)   Processo de Criação: Envolve treinamento direcionado em material preexistente de uma pessoa específica, seguido da aplicação dessa "identidade aprendida" em novo conteúdo.

 

 

2. IAs Generativas Text-to-Video (Sora, Veo 3)

 

a)    Sora e Veo3 representam uma categoria tecnológica completamente distinta:

 

b)   Arquitetura Sora: Utiliza Diffusion Transformers (DiT) - modelos de difusão baseados em arquitetura transformer que processam vídeos como sequências de patches espaço-temporais. O modelo emprega um "processo de difusão" (Stable Diffusion) que transforma ruído em vídeos coerentes através de múltiplas iterações.

 

c)    Arquitetura Veo 3: Combina modelos multimodais com transformers temporais, redes de difusão e módulos semânticos que alinham imagem, som e linguagem.

 

d)   Metodologia Generativa: Criam conteúdo inteiramente novo a partir de descrições textuais (prompts), sem necessidade de material preexistente de pessoas específicas. A suavidade da pele, a transição dos vídeos, as cores e demais detalhes denotam claramente se tratar de conteúdo 100% sintético.

 

e)    Processo de Criação: Transformam prompts textuais em vídeos através de síntese generativa, não manipulação de conteúdo existente.

 

3 - Diferenciação Técnica Fundamental

a) Critérios Distintivos Objetivos

1. Fonte de Dados

·         Deepfake: Requer material específico da pessoa-alvo

·         IAGen - Text-to-Video: Utiliza datasets genéricos diversos

 

2. Processo de Criação

·         Deepfake: Manipulação de conteúdo preexistente

·         IAGen - Text-to-Video: Síntese generativa de novo conteúdo

 

3. Objetivo Tecnológico

·         Deepfake: Substituição de identidade específica

·         IAGen - Text-to-Video: Criação de conteúdo original

 

4. Arquitetura Neural

·         Deepfake: GANs, VAEs para face-swapping

·         IAGen - Text-to-Video: Diffusion Models, Transformers multimodais

 

 Conclui‑se, portanto, que, seja por meio de IA generativa (como stable diffusion), seja por técnicas de aprendizagem profunda (como redes generativas adversárias – GANs), é possível criar vídeos de impressionante realismo. Contudo, persiste a tensão normativa: o art. 9‑B deixa claro que a IA generativa está permitida, desde que acompanhado de disclaimer transparente, enquanto o art. 9‑C, §1º impede a utilização de deepfakes em qualquer hipótese.

Nos grupos de especialistas em Direito Eleitoral, duas teses distintas vêm sendo debatidas:

Primeira corrente: interpretar como deepfake qualquer vídeo que apresente semelhança com pessoa conhecida, independentemente da tecnologia empregada, tornando o conteúdo proibido em todas as circunstâncias — seja para beneficiar ou prejudicar, com ou sem autorização.

Essa leitura, embora maximize a proteção contra desinformação, tem como efeito colateral impedir o uso de avatares em chatbots e de clones digitais de candidatos em campanhas eleitorais, ainda que com plena transparência e intenção legítima. Ferramentas como ElevenLabs, HeyGen ou Invideo seriam, nesse cenário, inviáveis para criar imagens ou vozes semelhantes ao candidato, mesmo que apenas para viabilizar gravações de propostas e mensagens personalizadas com menor custo, contribuindo para o encarecimento das campanhas.

Esse entendimento rigoroso, ao ampliar indiscriminadamente o conceito de deepfake, pode sufocar usos inovadores que não têm caráter desinformativo, comprometendo a democratização do acesso às tecnologias e elevando os custos das campanhas. A alternativa seria desenvolver parâmetros objetivos que diferenciem o uso legítimo — autorizado, transparente e sem potencial de dano ao equilíbrio do pleito — daquele uso proibido que se enquadra no núcleo duro da vedação prevista no art. 9‑C, §1º.

A segunda corrente, a qual defendo, sustenta que essas tecnologias devem ser devidamente diferenciadas.

Se houver um vídeo preexistente sobre o qual se aplicaram técnicas de manipulação para beneficiar ou prejudicar um candidato no contexto da campanha eleitoral, tal vídeo ou áudio — caracterizado como modalidade clássica de deepfake — deve ser sempre proibido, dada a sua flagrante capacidade desinformacional. Nesse caso, aplica‑se integralmente o art. 9‑C, §1º, bem como as consequências do § 2º do mesmo dispositivo, inclusive a possibilidade de reconhecimento de abuso nos meios de comunicação e, conforme a gravidade, a consequente cassação do mandato.

Por outro lado, tratando‑se de vídeo criado por meio de IA generativa, com conteúdo totalmente novo e sem manipulação de vídeo preexistente, devem ser considerados dois caminhos:

a) Havendo desinformação nesses vídeos ou clara intenção de turbar o pleito a partir de clonagem de voz ou imagem por IA generativa em contextos inexistentes, deve‑se aplicar o caput do art. 9‑C, determinando a retirada do conteúdo e a imposição de multa nos termos do art. 9‑H.

b) Não havendo intenção de desinformar, mas sim de reduzir custos de campanha e ampliar o alcance das mensagens, tais peças devem ser permitidas, desde que haja plena transparência, sem serem classificadas como deepfakes.

Isso se justifica pela ausência da tecnologia clássica de manipulação e pela inexistência de finalidade pejorativa. Reconhece‑se, contudo, que mesmo avatares ou melhorias de voz e imagem podem exercer influência no eleitorado — tal como já ocorria com fotos editadas em materiais de campanha —, mas essa influência é inevitável e deve ser controlada apenas pelo requisito de transparência.

Essa interpretação equilibra proteção e inovação, permitindo que candidatos utilizem clones de voz e imagem em rádio, televisão e internet para reduzir custos e alcançar mais eleitores, desde que observem regras claras de transparência. Para os próximos pleitos, pode‑se inclusive estabelecer que o uso de IA generativa não poderá ser empregado para prejudicar adversários ou produzir propaganda negativa, obrigando que críticas contundentes sejam feitas pessoalmente pelo candidato. Tal medida evitaria que o poder tecnológico e os recursos financeiros de alguns se sobreponham aos demais, preservando a isonomia entre competidores. 

Art. 10 da Res. TSE 23.610/2019  - Outro ponto de debate sobre uso de tecnologia para desinformar.

Além dessas duas hipóteses, permanecem ainda as situações em que não há o uso de inteligência artificial, mas há desinformação divulgada por meios tecnológicos que não se confundam com uso de IA.

Nesses casos, deve-se aplicar cumulativamente o art. 9º‑C, caput, e o art. 10, §1‑A, da Resolução nº 23.610/2019, que tratam da vedação ao uso de meios publicitários para criar artificialmente estados emocionais ou passionais e da proibição de adulterar ou fabricar mídias com fatos falsos ou descontextualizados.

 

Art. 10. A propaganda, qualquer que seja sua forma ou modalidade, mencionará sempre a legenda partidária e só poderá ser feita em língua nacional, não devendo empregar meios publicitários destinados a criar, artificialmente, na opinião pública, estados mentais, emocionais ou passionais (Código Eleitoral, art. 242 , e Lei nº 10.436/2002, arts. 1º e 2º) .

§ 1º-A. A vedação prevista no caput deste artigo incide sobre o uso de ferramentas tecnológicas para adulterar ou fabricar áudios, imagens, vídeos, representações ou outras mídias destinadas a difundir fato falso ou gravemente descontextualizado sobre candidatas, candidatos ou sobre o processo eleitoral. (Incluído pela Resolução nº 23.732/2024)

 

Além das análises realizadas sobre os artigos 9‑B e 9‑C, é imprescindível observar que o sistema normativo da Resolução nº 23.610/2019, alterada pela Resolução nº 23.732/2024, ainda prevê, no art. 10, caput e § 1º‑A, um importante complemento no combate à desinformação.

O caput do art. 10 dispõe que a propaganda, em qualquer forma ou modalidade, deve mencionar sempre a legenda partidária e ser feita em língua nacional, não podendo empregar meios publicitários destinados a criar, artificialmente, na opinião pública, estados mentais, emocionais ou passionais.

Trata‑se de uma cláusula geral de proteção, que transcende a mera análise de verdade ou falsidade do conteúdo e alcança também as técnicas de persuasão artificial que podem manipular emoções do eleitorado.

O §1º‑A do art. 10 reforça essa proteção ao estabelecer que a vedação do caput incide sobre o uso de ferramentas tecnológicas para adulterar ou fabricar áudios, imagens, vídeos, representações ou outras mídias destinadas a difundir fato falso ou gravemente descontextualizado sobre candidatos ou sobre o processo eleitoral. Aqui, não há distinção entre tecnologias específicas — como deepfakes ou IAs generativas —, mas sim um enfoque amplo no uso de qualquer tecnologia que produza ou altere conteúdos com potencial de criar estados emocionais ou passionais baseados em desinformação.

Integração das normas e dificuldades práticas:

Combinando‑se o art. 9‑B (que permite o uso de IA generativa com transparência), o art. 9‑C (que veda conteúdos manipulados ou fabricados com potencial desinformativo e proíbe deepfakes em qualquer hipótese) e o art. 10, §1º‑A (que sanciona o uso de qualquer tecnologia que crie ou difunda fatos falsos ou gravemente descontextualizados, capazes de gerar estados emocionais ou passionais), evidencia‑se um panorama normativo abrangente, porém repleto de sobreposições e ambiguidades.

O desafio atual está em distinguir, com segurança jurídica, quando a IA generativa permitida pelo art. 9‑B (acompanhada de transparência) não conflita com a vedação absoluta do art. 9‑C, §1º (relativa às deepfakes), sobretudo porque, na prática, ambas podem ser produzidas por técnicas semelhantes. Soma‑se a isso a previsão do art. 10, §1º‑A, que amplia o controle ao punir o emprego de qualquer tecnologia — mesmo além das definições de deepfake — quando utilizada para criar estados mentais, emocionais ou passionais artificiais baseados em falsidades.

Como sugestão de texto para melhoraria deste cenário, apresentamos redações mais atualizadas para os dispositivos questionados, os quais seriam assim empregadas:

Art. 9º‑B – Da utilização transparente de Inteligência Artificial

Art. 9º‑B – Da utilização transparente da Inteligência Artificial

É permitida a utilização, na propaganda política, em qualquer das suas modalidades, de conteúdo sintético multimídia gerado por meio de inteligência artificial, para criar imagens, vídeos ou sons, desde que:

I – contenha informação de forma explícita, destacada e acessível de que o conteúdo foi criado ou editado com o uso de inteligência artificial; (recomendável que a Justiça Eleitoral crie um padrão de selo de IA, conhecido por toda a população para identificação de conteúdos sintéticos usados nas campanhas)

II – contenha, de modo igualmente acessível, a tecnologia ou software utilizado na criação ou edição;

III – no caso dos vídeos ou áudios, não tenha sido empregado pelo usuário material pré‑existente de pessoa identificável (viva ou falecida) com o objetivo de simular sua identidade ou voz, nem mesmo quando se tratar do próprio candidato ou de terceiros, ainda que com autorização expressa e divulgação transparente dessa condição. (Vedação total à deepfake clássica, de forma que a criação de vídeos baseada em vídeo-preexistente, torna-se proibida em qualquer hipótese.)

§1º. A informação de transparência referida nos incisos I e II deverá estar presente em todas as mídias ou formatos de divulgação, inclusive em propaganda em rádio, tv, redes sociais e meios digitais.

I – Nos casos de áudios ou vídeos, nos cinco primeiros segundos deve ser dito se tratar de narração criada por inteligência artificial.

§2º. A utilização de inteligência artificial na forma deste artigo não poderá ter finalidade de desinformação, nos termos do art. 9‑C, caput e art. 10 desta Resolução.

§3º. A ausência de transparência no uso de inteligência artificial torna irregular a propaganda, cabendo sua remoção imediata, pelos interessados ou pelas plataformas digitais, na forma do art. 9-E, inciso V desta Resolução.

§ 4º Verificada a gravidade dos fatos e o preenchimento dos demais requisitos, o descumprimento do previsto inciso III do Caput deste artigo configura abuso do poder político e uso indevido dos meios de comunicação social, acarretando a cassação do registro ou do mandato, e impõe apuração das responsabilidades nos termos do § 1º do art. 323 do Código Eleitoral, sem prejuízo de aplicação de outras medidas cabíveis quanto à irregularidade da propaganda e à ilicitude do conteúdo. (Incluído pela Resolução nº 23.732/2024)

 

---

Art. 9º‑C – Da vedação ao uso desinformativo ou enganoso de tecnologias digitais

Caput

É vedada, na propaganda política, a divulgação de conteúdos criados ou editados por qualquer tecnologia digital que sejam falsos ou gravemente descontextualizados, com potencial de causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral.

§1º. É vedada, em qualquer hipótese, a criação ou utilização de conteúdo sintético que, mediante manipulação de material pré‑existente, simule ou altere imagem ou voz de pessoa viva ou falecida, sem autorização expressa, com potencial de beneficiar ou prejudicar candidatura.
(Esta definição abrange os chamados deepfakes clássicos, fundados em material real manipulado.)

§2º. A violação ao disposto neste artigo sujeitará o responsável às sanções previstas em lei e nesta Resolução, inclusive multa, retirada imediata do conteúdo e, quando caracterizado abuso de meios de comunicação, a cassação do registro ou do mandato, conforme a gravidade do caso.

---

Art. 10, §1º‑A – Da proteção contra manipulação emocional desinformativa

Caput do art. 10 (mantido): A propaganda, qualquer que seja sua forma ou modalidade, mencionará sempre a legenda partidária e só poderá ser feita em língua nacional, não devendo empregar meios publicitários destinados a criar, artificialmente, na opinião pública, estados mentais, emocionais ou passionais.

Nova redação do §1º‑A:

A vedação prevista no caput deste artigo aplica‑se também ao uso de qualquer tecnologia digital — inclusive, mas não se limitando a inteligência artificial — empregada para adulterar ou fabricar áudios, imagens, vídeos, representações ou outras mídias, quando destinados a difundir fato falso ou gravemente descontextualizado sobre candidatas, candidatos ou sobre o processo eleitoral, com potencial de manipular emocionalmente o eleitorado com o objetivo de modificar sua intenção de voto.

---

Considerações sobre a nova redação:

✅ Clareza técnica: separa explicitamente o uso legítimo de IA generativa (art. 9‑B) do uso desinformativo (art. 9‑C).

✅ Permissão com transparência: autoriza IA generativa para criar e substituir imagens/sons desde que haja aviso e autorização clara.

✅ Proibição de deepfakes clássicas: veda manipulações de material pré‑existente sem autorização.

✅ Proteção emocional: articula o art. 10, §1º‑A, para alcançar qualquer tecnologia que crie estados emocionais ou passionais baseados em falsidades.

✅ Harmonia com a defesa feita: preserva inovação e redução de custos, mas impõe salvaguardas à integridade do pleito e à confiança do eleitorado.

 

O exame sistemático dos artigos 9‑B, 9‑C e 10, §1º‑A evidencia que a regulamentação eleitoral atual, embora bem‑intencionada na proteção do processo democrático, padece de uma imprecisão conceitual que gera insegurança jurídica e efeitos colaterais indesejados. Ao utilizar os mesmos termos — como “fabricado” e “manipulado” — para designar tanto conteúdos desinformativos quanto criações legítimas com transparência, a norma incorre em um verdadeiro duplipensar normativo, dando nomes iguais a coisas diferentes.

Essa ambiguidade compromete a clareza que deve nortear o Direito Eleitoral. Sem distinções técnicas bem definidas, candidatos e equipes temem adotar tecnologias legítimas — como avatares e clones digitais autorizados — sob o risco de punições desproporcionais, o que tolhe o debate democrático, encarece as campanhas e alimenta um ambiente de medo e autocensura na liberdade de expressão política.

É imperioso, portanto, que as regras eleitorais sejam claras e objetivas, distinguindo o uso transparente e inovador de inteligência artificial generativa daquele que se enquadra como deepfake clássico ou manipulação desinformativa. Somente assim será possível assegurar o equilíbrio entre integridade do pleito e inovação tecnológica, garantindo que a proteção ao eleitorado não se transforme em barreira ao avanço do debate público e ao exercício pleno da cidadania.

---