Tecnologia e Eleições.
DeepFake x Inteligência Artificial
Generativa.
* Prof. Alexandre Basílio. Engenheiro de Computadores, graduado em Redes de Computadores, em Ciência Política e em Direito. Membro da Abradep.
A evolução recente das tecnologias de criação e manipulação de conteúdo
digital, notadamente os deepfakes e as Inteligências artificiais generativas,
trouxe novos desafios ao Direito Eleitoral brasileiro. A Resolução TSE nº
23.732/2024 ampliou o conceito de “conteúdo fabricado ou manipulado” sem
diferenciar, de forma técnica e clara, as tecnologias envolvidas. Além disso,
essas tecnologias evoluíram, possibilitando a criação de simulações de imagem,
vídeo e voz a partir de prompts, convertendo comandos de texto em conteúdo
sintético, o que antes só era possível por meio de um vídeo usado como base. A
evolução tecnológica e a imprecisão da terminologia utilizada passaram a gerar insegurança
jurídica, podendo afetar tanto a proteção do eleitorado contra desinformação
quanto a liberdade de inovação e redução de custos nas campanhas.
O presente estudo demonstra, de forma detalhada, as distinções técnicas
entre deepfakes (manipulação de material pré‑existente) e IA generativa
(text‑to‑video e similares, capazes de criar conteúdo inédito), bem como
as consequências jurídicas previstas nos artigos 9‑B e 9‑C da Resolução. A
análise busca subsidiar interpretações mais seguras, oferecendo elementos para
futuros ajustes normativos que preservem a integridade do processo eleitoral e
promovam condições equitativas entre candidatos, com rigor na repressão à desinformação
e estímulo à transparência tecnológica.
O termo “deepfake” surgiu no final de 2017, criado por um usuário do site Reddit que usava exatamente esse nome. Esse usuário abriu um espaço na plataforma para compartilhar vídeos pornográficos manipulados digitalmente. Nesses vídeos, utilizava‑se uma tecnologia aberta de troca de rostos, capaz de colocar o rosto de uma pessoa famosa no corpo de outra, criando uma cena falsa, mas muito convincente.
https://www.theguardian.com/technology/2018/feb/08/reddit-bans-deepfakes-face-swap-porn-community - 2017
Com o tempo, e de forma atécnica, a palavra deepfake deixou de se
referir apenas a esse uso inicial e passou a englobar uma variedade maior de
mídias sintéticas. O conceito passou a incluir tanto as técnicas mais antigas
de manipulação digital quanto novas tecnologias, como o StyleGAN, capaz
de criar imagens estáticas extremamente realistas de pessoas que, na verdade,
nunca existiram.
Atualmente, com o surgimento do Veo (tecnologia do Google para
geração de imagens e vídeos) e do Sora, a situação tornou‑se ainda mais
complexa, pois as tecnologias empregadas para geração de conteúdo inédito nada
têm a ver com as técnicas usadas em 2017, quando da criação daquela
terminologia. Esse avanço tecnológico criou um problema prático para a
regulação eleitoral: a expressão deepfake passou a abranger realidades
técnicas muito distintas, sem que haja, até o momento, clareza normativa sobre
como diferenciá‑las.
Essa ausência de precisão terminológica gerou consequências jurídicas
importantes, em especial no Brasil, uma vez que a regulamentação do TSE proíbe
o uso de deepfakes sem especificar se a vedação se aplica apenas à
tecnologia clássica de manipulação de vídeos preexistentes ou também às novas
soluções de inteligência artificial generativa. Ao tratar todos esses conteúdos
como sinônimos, a norma acaba por violar o princípio da taxatividade, por não
definir de forma clara e precisa os comportamentos proibidos e suas respectivas
sanções.
Em síntese, deepfake é uma tecnologia que permite criar imagens ou
vídeos aparentemente verdadeiros a partir de um vídeo base preexistente.
Contudo, o uso recente do termo passou a abarcar também a criação original,
realizada por modelos como Grok, Gemini ou ChatGPT, de
vídeos e imagens com grande semelhança a pessoas reais ou inexistentes, mesmo
sem qualquer vídeo base. É justamente essa ampliação conceitual que
questionamos no presente artigo, pois dela decorre insegurança jurídica e risco
de aplicação indiscriminada de sanções.
Legislação Eleitoral
Antes de aprofundar a análise técnica, é fundamental destacar que a
distinção entre deepfake e Inteligência Artificial Generativa (IA Gen)
só se tornou relevante em razão da redação introduzida pela Resolução TSE nº
23.610/2019, alterada pela Resolução TSE nº 23.732/2024. Essa alteração
normativa trouxe novos conceitos e vedações, exigindo, portanto, uma leitura
atenta sobre como a Justiça Eleitoral está regulamentando essas tecnologias.
A Resolução TSE nº 23.732/2024 define deepfake de forma ampla como
“conteúdo sintético em formato de áudio, vídeo ou combinação de ambos, que
tenha sido gerado ou manipulado digitalmente, ainda que mediante autorização,
para criar, substituir ou alterar imagem ou voz de pessoa viva, falecida ou
fictícia”.
Essa definição, embora avance na proteção do processo eleitoral,
apresenta problemas técnicos relevantes ao englobar tecnologias
fundamentalmente distintas sob um mesmo conceito jurídico. Tal amplitude
conceitual gera insegurança jurídica, compromete a clareza normativa exigida
pelo princípio da legalidade estrita e pode trazer potencial prejuízo à
inovação tecnológica, pois inibe usos legítimos e transparentes de IA para fins
de redução de custos de campanha ou de acessibilidade de candidatos aos meios
de comunicação.
É nesse contexto que este estudo se propõe a fazer um verdadeiro raio‑x
dos dispositivos regulamentares, demonstrando pontos de tensão, lacunas e
contradições internas. Essa abordagem não apenas favorece o aprimoramento
interpretativo, mas também reforça a necessidade de proteção ao eleitorado
contra desinformação e de estímulo a um ambiente regulatório que assegure
condições equitativas entre candidatos e liberdade controlada para inovação.
Análise do Art. 9-C da Res. TSE 23.610/2019
Diz o artigo
9‑C da Resolução nº 23.610/2019, alterada pela Resolução nº 23.732/2024:
Art. 9º-C É vedada a utilização, na propaganda
eleitoral, qualquer que seja sua forma ou modalidade, de conteúdo fabricado ou
manipulado para difundir fatos notoriamente inverídicos ou descontextualizados
com potencial para causar danos ao equilíbrio do pleito ou à integridade do
processo eleitoral. (Incluído pela Resolução nº 23.732/2024)
Pretendemos fazer uma análise aprofundada do texto, por partes, tendo
como marco inicial o caput do dispositivo acima, ressaltando-se que se trata de
dispositivo que dispõe sobre a regra geral da resolução sobre o combate à
desinformação, contexto no qual foram inseridos diversos aspectos tecnológicos,
os quais serão considerados adiante neste texto.
1)
“É vedada a utilização, na propaganda
eleitoral, qualquer que seja sua forma ou modalidade”
1.1 Alcance quanto ao tipo de propaganda: “É
vedada a utilização, na propaganda eleitoral.”
A expressão “propaganda eleitoral”
suscita dúvidas relevantes. Aplica-se também às propagandas partidárias
veiculadas em rádio e televisão, ou a norma se restringe à propaganda eleitoral
clássica, vinculada ao período oficial de campanha?
E quanto às propagandas
intrapartidárias, cada vez mais disseminadas fora do contexto restrito das
convenções, inclusive pelas redes sociais? Há ainda o problema das publicidades
institucionais nos três meses anteriores ao pleito, cujo conteúdo, muitas vezes,
repercute politicamente. Nenhuma dessas hipóteses foi enfrentada com clareza
pela Resolução, criando margens de subjetividade que podem resultar em decisões
judiciais divergentes e aumento da judicialização do processo.
A redação estabelece uma vedação
genérica aplicável à propaganda eleitoral, em qualquer formato ou modalidade,
desde que o conteúdo tenha sido fabricado ou manipulado para difundir fatos
notoriamente inverídicos.
Tal amplitude alcança não apenas
materiais analógicos, como folhetos, cartazes e faixas, mas também vídeos,
imagens e áudios, independentemente de terem sido produzidos ou alterados com
ou sem o uso de inteligência artificial.
Trata-se de um dispositivo concebido
como paradigma no combate à desinformação eleitoral; contudo, sua redação
excessivamente abrangente apresenta pontos criticáveis, gerando zonas de
incerteza interpretativa e, por consequência, significativa insegurança
jurídica.
Outro ponto
controverso diz respeito ao período de incidência da norma. Supondo que a regra
alcance apenas propagandas eleitorais, sua aplicação se daria apenas a partir
de 15 de agosto, nos termos do art. 36 da Lei nº 9.504/97, ou desde a pré‑campanha?
O próprio texto
regulamentar sugere interpretação extensiva, aplicando a vedação também ao
período da pré‑campanha, conforme se extrai do art. 3º‑C da Resolução nº
23.732/2024.
Essa opção interpretativa, ainda que amplie a
proteção ao pleito, traz impactos diretos sobre a liberdade de expressão e a
possibilidade de inovação nas estratégias de comunicação política antes do
marco oficial de campanha, exigindo que candidatos, partidos e plataformas
adotem cuidados redobrados.
Ao não
delimitar com precisão essas fronteiras, a norma cria um ambiente de insegurança
jurídica que pode desestimular a inovação legítima e aumentar o risco de
punições desproporcionais. Essa lacuna também prejudica a proteção efetiva do
eleitorado, já que mensagens potencialmente desinformativas podem ser
difundidas antes do período oficial de campanha sem clareza quanto à
aplicabilidade da sanção. Uma solução desejável seria o TSE, ou mesmo o
legislador, esclarecer expressamente essas fronteiras, evitando que a regulação
se torne excessivamente restritiva ou, ao contrário, ineficaz na proteção ao
equilíbrio do pleito.
Art.
3º-C. A veiculação de conteúdo político-eleitoral em período que não
seja o de campanha eleitoral se sujeita às regras de transparência
previstas no art. 27-A desta Resolução e de uso de tecnologias digitais
previstas nos arts. 9º-B, caput e parágrafos, e 9º-C desta Resolução, que
deverão ser cumpridas, no que lhes couber, pelos provedores de aplicação e
pelas pessoas e entidades responsáveis pela criação e divulgação do
conteúdo. (Incluído
pela Resolução nº 23.732/2024)
Regras trazidas pelo dispositivo:
- Controle no uso de tecnologia para as manifestações políticas, conforme previsto no art. 9-B (exigência de disclaimer no uso de inteligência artificial, mesmo na pré-campanha), no art. 9-C (proibição de fabricação ou manipulação de conteúdo desinformativo e vedação às deepfakes).
1.2.2 - Dúvida
quanto à pré-campanha:
Sendo os artigos
9‑C,
9‑B
e 27‑A,
aplicáveis
também
ao período
de pré‑campanha,
surge uma indagação essencial: quando se considera iniciado, de fato, o período
da pré‑campanha?
A norma não
define esse marco temporal de forma objetiva, o que gera insegurança quanto à
incidência das vedações e obrigações nelas previstas. A partir de quando esses
dispositivos devem ser aplicados, considerando-se que vídeos fabricados e
manipulados já circulam amplamente no ano anterior ao pleito?
Essa lacuna
normativa fragiliza a efetividade do controle pretendido e impõe risco de
interpretações divergentes. Sem um marco claro, candidatos e partidos ficam
sujeitos a decisões casuísticas, enquanto conteúdos potencialmente
desinformativos podem circular sem parâmetros definidos. Uma interpretação mais
segura exigiria que o TSE, ou o legislador, delimitasse de modo expresso o
início da pré‑campanha para fins de aplicação dessas regras,
reduzindo a margem de incerteza e garantindo a proteção efetiva do eleitorado
desde o momento adequado.
1.2.3 - Dificuldades
terminológicas:
Além
das questões relacionadas à tipologia da propaganda política e ao período de
alcance das regras regulamentares, surgem dificuldades terminológicas
relevantes, capazes de comprometer a correta aplicação da norma.
Segundo a The Commons Social Change Library, conteúdo
fabricado é aquele que consiste em material 100% falso, criado deliberadamente
para enganar e causar danos. Quando o conteúdo é completamente falso, o único
limite é a imaginação do criador. Distinguir entre conteúdo real e fabricado é
extremamente difícil a olho nu; basta observar exemplos de deepfakes que,
muitas vezes, se enquadram nessa categoria e afetam profundamente a confiança
do público nas mensagens veiculadas.
Assim, nesse contexto,
conteúdo fabricado é sinônimo de material totalmente inventado, cuja finalidade
é desinformar e provocar danos.
Por sua vez, o mesmo
dicionário define conteúdo manipulado como aquele em que informações ou imagens
genuínas são modificadas para enganar. Geralmente, trata-se de fotos ou vídeos
alterados de forma a parecerem reais, mas com significado diferente do
original. Esses exemplos, conforme analisados por especialistas como Dren
Gerguri, PhD, demonstram como a manipulação de conteúdo legítimo pode induzir a
interpretações distorcidas. Logo, conteúdos manipulados são informações ou
imagens genuínas modificadas com o objetivo de causar confusão ou dano
reputacional.
Em uma primeira
leitura, parece-nos que o TSE utilizou essa terminologia para deixar clara a
intenção de combater desinformação dos dois tipos, sejam conteúdos inéditos,
sejam conteúdos manipulados para turbar o pleito nas propagandas eleitorais.
Repito, a vedação é ampla e genérica aos conteúdos fabricados ou manipulados
para desinformar, com foco naqueles que tenham potencial para causar danos ao
equilíbrio do pleito ou à integridade do processo eleitoral.
Ao importar esses
conceitos do cenário internacional para a Resolução brasileira, o TSE
incorporou expressões que, no campo técnico, remetem exclusivamente à
desinformação. No entanto, a Resolução utiliza as mesmas expressões também no
art. 9‑B, para se referir a criações ou alterações legítimas com uso de
inteligência artificial, desde que acompanhadas de transparência. Essa
duplicidade de sentidos amplia a insegurança jurídica e reforça a necessidade
de harmonização terminológica na norma, de modo a não confundir usos lícitos
com práticas de desinformação efetivamente nocivas.
Art. 9º-B. A utilização na propaganda eleitoral, em qualquer
modalidade, de conteúdo sintético multimídia gerado por meio de inteligência
artificial para criar, substituir, omitir, mesclar ou alterar a velocidade ou
sobrepor imagens ou sons impõe ao responsável pela propaganda o dever de
informar, de modo explícito, destacado e acessível que o conteúdo foi fabricado
ou manipulado e a tecnologia utilizada. (Incluído
pela Resolução nº 23.732/2024)
O
dispositivo acima será detidamente analisado adiante. Entretanto, desde já se
observa que a Resolução admite a fabricação ou manipulação de determinados
conteúdos, desde que haja informação explícita, destacada e acessível de que
houve a referida fabricação ou manipulação.
Essa duplicidade terminológica é problemática. Os termos “fabricação” e
“manipulação” foram consagrados internacionalmente para designar práticas
associadas à desinformação e, portanto, a usos nocivos. Empregar as mesmas
expressões para designar conteúdos legítimos, desde que transparentes, gera um
conflito semântico que compromete a clareza normativa. Em síntese, cria‑se
insegurança
jurídica
ao atribuir dois significados distintos a um mesmo termo, com efeitos diretos
na interpretação e aplicação da norma.
Assim, o texto atual faz parecer que o art. 9º‑B permite a
utilização
de conteúdos
“fabricados” ou “manipulados”,
desde que haja informação clara sobre a tecnologia utilizada, seja para criar,
substituir, omitir, mesclar ou alterar a velocidade, ou ainda sobrepor imagens
ou sons. À
luz do contexto internacional, sabemos que a terminologia remete, de forma
inequívoca,
ao combate à desinformação. Todavia, não parece que o art. 9‑B
tenha adotado essa acepção estrita; o dispositivo parece tratar a expressão
como sinônimo
de criação
de conteúdo
original ou alteração de conteúdo pré‑existente mediante inteligência
artificial, sem qualquer conotação pejorativa ou desinformativa.
Essa interpretação harmonizadora é a mais razoável, sob pena de se chegar
a uma consequência indesejável: admitir que a Resolução permite a difusão de
desinformação, desde que se declare o uso da tecnologia. Isso conflitaria
frontalmente com o art. 9‑C, que expressamente veda conteúdos
manipulados ou fabricados com potencial de prejudicar o equilíbrio
do pleito.
O ideal, portanto, seria que o TSE revisasse a nomenclatura empregada,
delimitando com precisão os termos “fabricado” e “manipulado” exclusivamente
para o contexto do combate à desinformação. Para usos legítimos e transparentes
de IA generativa, poder-se-ia adotar terminologias neutras como “conteúdo
criado” ou “conteúdo editado com tecnologia digital”, eliminando a ambiguidade
e reduzindo o risco de interpretações contraditórias que comprometam a inovação
tecnológica e a segurança jurídica.
A parte final do dispositivo introduz um elevado grau de subjetivismo.
Como aferir, de forma objetiva, o potencial de dano ao equilíbrio do pleito a
partir de um vídeo ou imagem manipulados?
Seria suficiente a mera existência do conteúdo? Deveria ser considerada a
circulação efetiva, aferida por métricas como curtidas, compartilhamentos ou
alcance orgânico? Ou seria imprescindível avaliar a intenção dos responsáveis
pela fabricação ou manipulação do material, bem como daqueles que o divulgaram?
Esses questionamentos evidenciam que a aplicação prática do dispositivo é
desafiadora. A ausência de parâmetros concretos pode resultar em decisões
judiciais díspares, comprometendo a previsibilidade necessária ao processo
eleitoral. A solução mais adequada seria adotar critérios objetivos de aferição
de gravidade, nos moldes do que já se pratica em ações cassatórias eleitorais,
avaliando a relevância do conteúdo, o alcance de sua divulgação e o potencial
real de interferência na formação da vontade do eleitorado.
Além disso, seria recomendável que a regulamentação ou a jurisprudência
futura estabelecessem indicadores mais precisos — por exemplo, parâmetros
quantitativos de alcance ou provas de intenção dolosa — de forma a reduzir o
espaço para interpretações subjetivas.
Do mesmo modo, o sistema sancionatório deveria ser calibrado, prevendo
penas mais severas para quem cria o conteúdo manipulado ou fabricado, sobretudo
quando isso ocorre a mando do próprio candidato ou quando este compartilha
diretamente em suas redes, e penas mais brandas e de caráter pedagógico para
quem apenas compartilha o material, especialmente quando se tratar de mero
eleitor. Essas medidas contribuiriam não apenas para a segurança jurídica, mas
também para a proteção efetiva do eleitorado, garantindo que apenas condutas
realmente graves sejam sancionadas, sem inibir indevidamente o uso legítimo de
tecnologias emergentes em campanhas políticas.
A conclusão quanto ao caput do art. 9‑C é a de que ele estabelece uma regra geral de
combate à
desinformação, sem mencionar expressamente o tipo de tecnologia utilizada,
desde que haja fabricação ou manipulação de conteúdos destinados a difundir fatos
notoriamente inverídicos ou descontextualizados e que sejam graves, com potencial
de causar danos ao equilíbrio do pleito ou à integridade do processo eleitoral.
Contudo, a análise revela que, apesar da intenção de proteção ao
eleitorado, a redação atual apresenta amplitude terminológica excessiva e
critérios subjetivos de aferição do dano, o que gera insegurança jurídica e
pode desestimular o uso legítimo de tecnologias inovadoras. Uma regulamentação
mais precisa, com indicadores objetivos e gradação de responsabilidades —
punindo de forma mais severa quem cria ou divulga deliberadamente conteúdos
falsos e aplicando sanções pedagógicas a meros compartilhadores — tornaria a
aplicação da norma mais justa e eficaz.
Assim, antes de avançar para o §1º do art. 9‑C, que prevê vedação
expressa às
deepfakes, é indispensável um olhar atento ao art. 9‑B,
a fim de compreender como a norma concilia o uso permitido de inteligência
artificial generativa, desde que transparente, com a proibição
ampla a conteúdos manipulados ou fabricados com potencial desinformativo. Essa
análise
comparativa será fundamental para propor interpretações coerentes e, se
necessário,
apontar caminhos para o aperfeiçoamento regulatório.
Análise do
art. 9º-B da Res. TSE 23.610/2019
Diz o art.
9-B:
Art. 9º-B A
utilização na propaganda eleitoral, em qualquer modalidade, de conteúdo
sintético multimídia gerado por meio de inteligência artificial ou tecnologia
equivalente para criar, substituir, omitir, mesclar ou alterar a
velocidade ou sobrepor imagens ou sons, impõe ao responsável pela propaganda o
dever de informar, de modo explícito, destacado e acessível, que o conteúdo foi
fabricado ou manipulado e qual tecnologia foi utilizada. (Incluído pela
Resolução nº 23.732/2024) (Redação dada pela Resolução nº 23.755/2026)
Vou poupar o leitor de repetições e me abster, neste ponto, de criticar
novamente a terminologia utilizada pela Resolução ao se referir apenas à
expressão “na propaganda eleitoral”. O foco, a partir daqui, é compreender o
alcance prático do dispositivo.
Vamos, mais uma vez, por partes:
Parte 1 -
A utilização, na propaganda eleitoral, em qualquer modalidade, de conteúdo
sintético multimídia gerado por meio de inteligência
artificial ou tecnologia equivalente...
A partir desta redação, verifica-se que a norma incide especificamente
sobre conteúdos sintéticos produzidos com inteligência artificial ou por
tecnologia que apresente resultados equivalentes, aplicados a qualquer
modalidade de propaganda eleitoral. Isso significa que não só criações digitais
originadas por ferramentas de IA, mas também aquelas que gerem resultados
equivalentes — sejam elas estáticas ou dinâmicas, visuais ou sonoras — passam a
estar sob o regime de transparência exigido pelo dispositivo.
Uma crítica que persiste é ambiguidade dos termos e insegurança jurídica
gerada ao criar uma equivalência no resultado obtido com recursos tecnológicos
para aplicação de uma norma. Esse resultado pode depender da habilidade técnica
do usuário. Um usuário pode ser capaz de produzir um conteúdo com tal qualidade
que chegue a ser considerado equivalente ao produzido por IA, mesmo que tal
usuário seja exceção e, nesse caso, ele estaria sujeito à norma.
Importante ressaltar que o alcance do art. 9‑B não se
estende a técnicas clássicas de edição ou animação, como trabalhos realizados apenas em
softwares tradicionais de design ou modelagem 3D, desde que com resultados ordinários.
O foco está na utilização de modelos generativos ou ferramentas
automatizadas que criam, alteram ou combinam elementos audiovisuais.
Essa delimitação técnica é essencial para evitar interpretações
equivocadas que ampliem indevidamente o campo de incidência da norma,
preservando a possibilidade de uso legítimo de recursos tecnológicos enquanto
se exige, de forma proporcional, que haja transparência quando se emprega IA
generativa e tecnologias equivalentes em campanhas políticas.
Ao mesmo tempo, traz um novo desafio jurídico para os processos
eleitorais, pois, em tese, passa a ser dever do autor da demanda demonstrar que
na propaganda impugnada houve uso de inteligência artificial ou tecnologia
equivalente sem a devida transparência.
O dispositivo alcança inúmeros verbos, delimitando um amplo espectro de
ações sobre imagens e sons:
a) criar imagens ou sons;
b) substituir imagens ou sons;
c) omitir imagens ou sons;
d) mesclar imagens ou sons;
e) alterar a velocidade de
imagens em vídeo ou de sons;
f) sobrepor imagens;
g) sobrepor sons.
Para todas essas ações, quando realizadas por meio de inteligência
artificial na geração de conteúdo sintético multimídia, a Resolução impõe a
observância rigorosa das regras de transparência, nos seguintes termos: é
necessário informar, de modo explícito, destacado e acessível, que o conteúdo
foi fabricado ou manipulado e qual tecnologia foi utilizada.
Parte2: “impõe ao responsável pela
propaganda o dever de informar, de modo explícito, destacado e acessível, que o
conteúdo foi fabricado ou manipulado e qual tecnologia foi utilizada.”
Em resumo, sempre que houver criação, substituição, mescla, alteração de
velocidade ou sobreposição de imagens ou sons com o uso de inteligência
artificial ou tecnologia equivalente, deve‑se informar, de modo explícito,
destacado e acessível, que o conteúdo foi “fabricado ou manipulado” e qual
tecnologia foi utilizada.
As exigências para o disclaimer quanto ao uso da IA na propaganda
eleitoral são as seguintes:
a) Informação explícita – deve ser imediatamente
perceptível, sem exigir esforço de busca por parte do usuário.
b) De forma destacada – o aviso deve sobressair no
conteúdo, de modo que mesmo usuários menos atentos percebam a informação.
c) Informação acessível – deve ser obtida sem
obstáculos técnicos, acessível em diferentes dispositivos, não apenas em
computadores.
d) Indicação de que foi “fabricado ou manipulado” –
aqui reside um ponto crítico, pois essa expressão remete internacionalmente a
desinformação. Para evitar confusão conceitual, recomenda‑se
que a norma passe a exigir a informação de que o conteúdo foi “criado
ou alterado com o uso de inteligência artificial ou tecnologia equivalente”,
utilizando terminologia neutra e precisa.
e) Tecnologia utilizada – não basta informar
genericamente que se utilizou IA, uma vez que isso já é pressuposto da
obrigação de transparência. O ideal é indicar o software ou plataforma
específicos empregados no processo, como Kling.AI, Invideo, Napkin, Monica.AI,
entre outros.
A clareza e a
padronização dessas informações são essenciais não apenas para o cumprimento
formal da norma, mas também para fortalecer a confiança do eleitorado,
reduzindo ambiguidades e prevenindo interpretações conflitantes. Uma revisão
terminológica pelo TSE nesse sentido contribuiria para que a regulamentação
alcançasse o equilíbrio entre inovação tecnológica e proteção ao processo
eleitoral.
Conclui‑se,
portanto, que o art. 9º‑B permite o uso de inteligência
artificial para criar, substituir, omitir, mesclar, alterar a velocidade,
sobrepor imagens e sobrepor sons, desde que sejam observadas as exigências
de transparência.
Ao se considerar
especificamente os verbos criar e substituir, torna‑se essencial
inserir no estudo os aspectos tecnológicos correspondentes, pois são
eles que mais diretamente dialogam com o avanço das ferramentas de IA generativa. Até
aqui, exploramos apenas dois dispositivos: o caput dos artigos 9º‑B
e 9º‑C.
O art. 9º‑B
estabelece que é possível utilizar inteligência artificial para criar e substituir
imagens ou sons, desde que haja transparência explícita, destacada e acessível.
Em outras palavras, o dispositivo legitima o uso de IA generativa para esses
fins, desde que sejam cumpridas as exigências formais.
Entretanto,
simultaneamente, o art. 9º‑C, § 1º veda o uso de deepfakes, ainda que para
beneficiar ou prejudicar alguém, utilizando exatamente os mesmos verbos
(criar, substituir, alterar), o que gera um aparente conflito interpretativo.
Por essa razão, mostra‑se
essencial definir, com precisão, quais são os limites entre o art. 9º‑B
e o art. 9º‑C:
De um lado, o art. 9º‑B
autoriza a criação e substituição de imagens e sons mediante IA
generativa, desde que observada a transparência. De outro, o art. 9º‑C,
§1º proíbe o
uso de deepfakes para esses mesmos atos, ainda que com autorização ou
sem intenção
maliciosa.
Observe, caro leitor,
que a partir do artigo 9º-B é plenamente possível se criar, especialmente uma
imagem ou vídeo, em que o conteúdo tenha sido gerado por inteligência
artificial com visível semelhança com pessoa conhecida. Tal conduta se
enquadraria no art. 9º-B ou 9º-C da resolução em análise?
Em razão dessas
dificuldades, essa distinção demanda critérios técnicos objetivos: o uso de IA
generativa para criar conteúdos inéditos não deve ser confundido com o uso de
técnicas de deepfake que partem de material pré‑existente para manipular a
identidade de pessoas reais. A ausência dessa diferenciação
compromete a segurança jurídica e pode limitar indevidamente ferramentas legítimas
que reduzem custos de campanha e ampliam o alcance de mensagens, sem gerar
desinformação. Assim, ao avançarmos para o art. 9º‑C, §1º, será
fundamental analisar detidamente essa tensão normativa.
Art.
9-C
§
1º É proibido o uso, para prejudicar ou para favorecer candidatura, de conteúdo
sintético em formato de áudio, vídeo ou combinação de ambos, que tenha sido
gerado ou manipulado digitalmente, ainda que mediante autorização, para criar,
substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep
fake).
Vamos fatiar o dispositivo:
Part 1- dispõe que: “§1º É proibido o uso,
para prejudicar ou para favorecer candidatura.”
Isso
significa que o uso da tecnologia é proibido por si só, independentemente da
intenção do agente. Pouco importa, para a Resolução, se a tecnologia vedada
será utilizada para beneficiar ou prejudicar um candidato; o simples emprego
configura violação.
Essa postura normativa cria um distanciamento
do art. 9º‑B, que, como vimos, permite a criação ou
substituição
de imagens ou sons por inteligência artificial, desde que haja transparência.
O art. 9º‑C, por sua vez, regulamenta a tecnologia de maneira
absoluta, sem levar em conta a finalidade ou o contexto.
Parte
2 - dispõe: “... de conteúdo sintético em formato de áudio, vídeo ou
combinação de ambos, que tenha sido gerado ou manipulado digitalmente.”
Aqui,
nota-se que o dispositivo não se restringe a regulamentar o uso da Inteligência
Artificial, mas também se preocupou com a geração e a manipulação de conteúdo
sintético — termo que, na prática, é sinônimo de conteúdos produzidos por
inteligência artificial. Essa redação acaba sendo redundante, já que qualquer
conteúdo sintético, nesse contexto, necessariamente foi gerado ou manipulado
por meios digitais, não havendo tecnologias analógicas que se enquadrem.
Parte
3 - dispõe: “... ainda que mediante autorização, para criar,
substituir ou alterar imagem ou voz de pessoa viva, falecida ou fictícia (deep
fake).”
Esta cláusula estabelece uma vedação
expressa, abrangendo a criação, substituição ou alteração de imagem ou voz de
qualquer pessoa, viva ou falecida, ou mesmo fictícia, por meio de deepfake,
independentemente de autorização e independentemente da intenção ser positiva
ou negativa.
Os verbos centrais do dispositivo — usar,
criar, substituir ou alterar — demonstram a amplitude da proibição, que, somada
à ausência de distinção técnica entre deepfake e IA generativa, resulta em
insegurança jurídica e potenciais limitações desnecessárias ao uso legítimo de
tecnologia em campanhas eleitorais.
O art. 9º‑C, caput estabelece uma vedação
ampla a conteúdos fabricados ou manipulados com potencial de causar danos ao
equilíbrio
do pleito, independentemente da tecnologia utilizada. O art. 9º‑B,
por sua vez, permite expressamente a criação, substituição, mescla, alteração ou sobreposição de
imagens e sons com uso de inteligência artificial, desde que haja transparência
explícita,
destacada e acessível, sem limitar a criação de imagens e vídeos com pessoas
existentes ou fictícias.
Já o art. 9‑C, § 1º veda, de forma absoluta, o uso de
deepfakes para criar, substituir ou alterar imagem ou voz de pessoa viva,
falecida ou fictícia, independentemente de intenção ou autorização.
Diante desse panorama, surge uma questão
inevitável: como garantir segurança jurídica na prática, se, atualmente, tanto
a IA generativa permitida (quando utilizada com transparência) quanto a IA
generativa proibida (classificada como deepfake) são produzidas por técnicas
semelhantes e plataformas similares — capazes de criar ou substituir imagens e
vídeos sem um conteúdo base —, como distinguir objetivamente uma da outra?
A redação normativa é genérica e não
oferece critérios técnicos claros para separar a manipulação (proibida) da
criação legítima (permitida). Sem essa diferenciação explícita, abre‑se
espaço
para interpretações conflitantes e decisões judiciais divergentes, comprometendo a
segurança
jurídica
de candidatos, partidos e plataformas.
O atual arcabouço normativo combina
dispositivos que, ao mesmo tempo em que permitem o uso de inteligência
artificial generativa com transparência (art. 9‑B), também proíbem
de forma absoluta a utilização de deepfakes (art. 9‑C,
§1º) e
vedam conteúdos fabricados ou manipulados com potencial desinformativo (art.
9‑C,
caput). Retirado o aspecto enganoso, resta apenas a análise tecnológica de conteúdos
que, em essência, podem ser criados por uma técnica ou por outra.
Para se enquadrar no art. 9º-B não pode
haver uso da técnica deepfake. No entanto, é totalmente possível alcançar o
mesmo resultado, falsear pessoas ou vozes usando apenas IA generativa. O mesmo
tipo de IA permitido pelo verbo criar do art. 9º-B, desde que conte com transparência.
A ausência de critérios técnicos claros para distinguir entre esses
usos legítimos
e ilícitos
cria um ambiente de insegurança jurídica, podendo inibir ferramentas tecnológicas
que reduziriam custos e ampliariam a acessibilidade das campanhas, mesmo quando
utilizadas com autorização e transparência.
Além disso, viola o princípio da taxatividade,
uma vez que o art. 9º-C, §1º, mesmo referindo-se a técnica específica de
criação de conteúdo, que pressupõe treinamento com material pré-existente (foto
ou vídeo), deepfake, vem sendo utilizado para se punir criações feitas com base
em IA generativa, quando se usa o treinamento oficial da própria IA ( o que não
era possível quando o dispositivo foi criado em março de 2024.
Para assegurar o equilíbrio entre proteção
ao eleitorado e inovação tecnológica, mostra‑se essencial uma interpretação
sistemática
—
ou mesmo um aperfeiçoamento regulatório — que estabeleça parâmetros objetivos e gradações
de responsabilidade. Somente assim será possível aplicar sanções com justiça e
previsibilidade, sem sufocar avanços que podem tornar o processo eleitoral
mais democrático e eficiente.
Em síntese:
|
Verbo |
9-B, caput |
9-C (vedado, se falso) |
9-C - §º1 (deepfake) |
|
Criar |
✅ |
❌ |
❌ |
|
Substituir |
✅ |
❌ |
❌ |
|
Alterar |
✅ |
❌
|
❌ |
|
Omitir |
✅ |
❌ |
|
|
Mesclar |
✅ |
❌ |
|
|
Sobrepor imagens |
✅ |
❌
|
|
|
Sobrepor sons |
✅ |
❌ |
|
|
|
|
|
|
A tabela acima confirma, portanto, que a
inteligência do art. 9º‑B possibilita criar, substituir,
alterar, omitir, mesclar e sobrepor imagens e sons com o uso de inteligência
artificial generativa e ou tecnologia equivalente, desde que observadas as exigências
de transparência. Por outro lado, o art. 9‑C, §1º impede o uso de inteligência
artificial específica para criar, substituir ou alterar imagens ou sons,
restringindo‑se, entre parênteses, ao tipo de tecnologia denominado
deepfake.
Dessa forma, resta evidente que a Justiça
Eleitoral, ao identificar os riscos de determinadas aplicações de IA, optou por
proibir a própria tecnologia deepfake em campanhas eleitorais, excluindo de
forma absoluta as falsificações de rostos e vozes, ainda que com autorização.
Contudo, insisto, surge aqui uma
dificuldade significativa imposta pelo avanço tecnológico. Quando o regulamento
foi editado, a produção de vídeos e imagens por meio de IA generativa era ainda
incipiente, e o conceito de deepfake estava atrelado a técnicas clássicas de manipulação:
vídeos que sobrepunham o rosto de uma pessoa famosa em outro corpo ou alteravam
vozes pré‑existentes por meio de algoritmos como GANs e VAEs. Em
outras palavras, tratava‑se de manipulação a
partir de um vídeo base real, gerando um conteúdo parte natural e parte
sintético.
Nesse contexto original, a distinção entre
os dispositivos era clara e praticamente autoevidente: o art. 9º‑B
permitiria criações legítimas de conteúdo visual com transparência (incapaz, naquele tempo
de simular vozes, rostos e pessoas), enquanto o art. 9º‑C, §1º
proibiria manipulações enganadoras baseadas em material pré‑existente, em
especial simulando pessoas e as colocando em situações que nunca estiveram.
Entretanto, a evolução tecnológica
após
2024 embaralhou essas fronteiras. Hoje, ferramentas de IA generativa (art. 9º-B)
são
capazes de criar imagens e vídeos realistas sem qualquer vídeo
base, mas utilizando técnicas semelhantes às originalmente associadas ao deepfake.
Essa nova realidade tecnológica torna os
dispositivos conflitantes e evidencia a necessidade de o regulador atualizar
conceitos ou fornecer parâmetros interpretativos claros. Do contrário,
candidatos e equipes continuarão sem saber com segurança quando o uso
transparente de IA generativa é permitido e quando será enquadrado como
deepfake proibido, prejudicando tanto a inovação legítima quanto a efetiva
proteção do eleitorado.
Observe que, como as tecnologias eram
distintas, havia a possibilidade de se definir o uso de IA generativa para
criar ou substituir imagens, desde que com transparência e, ao mesmo tempo,
sugerir que, em qualquer caso, é proibido o uso de deepfake para criar ou
substituir imagem ou voz.
O desafio atual reside no fato de que a
inteligência artificial generativa passou a ser capaz, sem recorrer às técnicas
clássicas de clonagem de voz e imagem, de produzir cópias realísticas de
pessoas inserindo‑as em conteúdos digitais inéditos, a partir apenas
de prompts, sem necessidade de um vídeo base.
Torna‑se, portanto, imprescindível
distinguir esse tipo de conteúdo para definir, com segurança jurídica,
sob qual dispositivo ele deve ser enquadrado:
– Art. 9º‑B, que exige apenas a transparência
no uso da tecnologia; ou
– Art. 9º‑C, §1º, que considera o conteúdo
totalmente proibido, independentemente de intenção ou autorização.
A dificuldade é agravada porque muitos
estudiosos — e até órgãos reguladores em debates internacionais — ampliaram o
alcance do termo “deepfake”, utilizando‑o como sinônimo de qualquer conteúdo
digital que apresente características visuais ou sonoras de pessoas reais (ou
mesmo inexistentes), ainda que criado de forma inédita por IA generativa.
Diante desse cenário, é crucial compreender
com maior profundidade as diferenças técnicas entre as categorias de tecnologia
envolvidas, para que se possa propor interpretações ou ajustes normativos que
distingam, de maneira objetiva e fundamentada, o que constitui um uso legítimo
de IA generativa com transparência e o que deve ser classificado como deepfake
proibido.
A seguir, apresentamos as diferenças
técnicas que auxiliam nesse enquadramento:
1. Deepfakes
- Características Técnicas Distintivas
Deepfakes são
tecnologias específicas de manipulação digital que operam através de:
a)
Arquitetura Tecnológica: Utilizam
principalmente Redes Adversárias Generativas
(GANs) e Autoencoders Variacionais (VAEs). O processo envolve
duas redes neurais: uma geradora que cria conteúdo falso e uma discriminadora
que tenta detectar falsificações.
b)
Metodologia Face Swap: A técnica
predominante é o "face swap" - substituição completa de um
rosto por outro, mantendo movimentos e expressões sincronizados.
c)
Requisitos de Dados: Necessitam
de datasets específicos da pessoa-alvo, contendo centenas ou milhares
de imagens para treinamento eficaz. Gera resultados ultrarrealistas exatamente
por contar com conteúdo base verdadeiro.
d)
Processo de Criação:
Envolve treinamento direcionado em material preexistente de uma
pessoa específica, seguido da aplicação dessa "identidade aprendida"
em novo conteúdo.
2. IAs
Generativas Text-to-Video (Sora, Veo 3)
a)
Sora e Veo3 representam
uma categoria tecnológica completamente distinta:
b)
Arquitetura Sora: Utiliza Diffusion
Transformers (DiT) - modelos de difusão baseados em arquitetura
transformer que processam vídeos como sequências de patches
espaço-temporais. O modelo emprega um "processo de difusão"
(Stable Diffusion) que transforma ruído em vídeos coerentes através de
múltiplas iterações.
c)
Arquitetura Veo 3: Combina modelos
multimodais com transformers temporais, redes de difusão e módulos
semânticos que alinham imagem, som e linguagem.
d)
Metodologia Generativa: Criam conteúdo
inteiramente novo a partir de descrições textuais (prompts), sem
necessidade de material preexistente de pessoas específicas. A suavidade da
pele, a transição dos vídeos, as cores e demais detalhes denotam claramente se
tratar de conteúdo 100% sintético.
e)
Processo de Criação: Transformam prompts
textuais em vídeos através de síntese generativa, não manipulação de
conteúdo existente.
3 - Diferenciação
Técnica Fundamental
a) Critérios
Distintivos Objetivos
1. Fonte de
Dados
·
Deepfake: Requer material específico da
pessoa-alvo
·
IAGen - Text-to-Video: Utiliza datasets
genéricos diversos
2. Processo
de Criação
·
Deepfake: Manipulação de conteúdo preexistente
·
IAGen - Text-to-Video: Síntese generativa de
novo conteúdo
3. Objetivo
Tecnológico
·
Deepfake: Substituição de identidade específica
·
IAGen - Text-to-Video: Criação de conteúdo
original
4.
Arquitetura Neural
·
Deepfake: GANs, VAEs para face-swapping
·
IAGen
- Text-to-Video: Diffusion Models, Transformers multimodais
Nos grupos de especialistas em Direito Eleitoral, duas teses distintas
vêm sendo debatidas:
Primeira corrente: interpretar como deepfake qualquer vídeo que
apresente semelhança com pessoa conhecida, independentemente da tecnologia
empregada, tornando o conteúdo proibido em todas as circunstâncias — seja para
beneficiar ou prejudicar, com ou sem autorização.
Essa leitura, embora maximize a proteção contra desinformação, tem
como efeito colateral impedir o uso de avatares em chatbots e de clones
digitais de candidatos em campanhas eleitorais, ainda que com plena
transparência e intenção legítima. Ferramentas como ElevenLabs, HeyGen ou
Invideo seriam, nesse cenário, inviáveis para criar imagens ou vozes
semelhantes ao candidato, mesmo que apenas para viabilizar gravações de
propostas e mensagens personalizadas com menor custo, contribuindo para o
encarecimento das campanhas.
Esse entendimento rigoroso, ao ampliar indiscriminadamente o conceito
de deepfake, pode sufocar usos inovadores que não têm caráter desinformativo,
comprometendo a democratização do acesso às tecnologias e elevando os custos
das campanhas. A alternativa seria desenvolver parâmetros objetivos que
diferenciem o uso legítimo — autorizado, transparente e sem potencial de dano
ao equilíbrio do pleito — daquele uso proibido que se enquadra no núcleo duro
da vedação prevista no art. 9‑C, §1º.
A segunda corrente, a qual defendo, sustenta que essas tecnologias
devem ser devidamente diferenciadas.
Se houver um vídeo preexistente sobre o qual se aplicaram técnicas de
manipulação para beneficiar ou prejudicar um candidato no contexto da campanha
eleitoral, tal vídeo ou áudio — caracterizado como modalidade clássica de
deepfake — deve ser sempre proibido, dada a sua flagrante capacidade
desinformacional. Nesse caso, aplica‑se integralmente o art. 9‑C,
§1º, bem
como as consequências do § 2º do mesmo dispositivo, inclusive a possibilidade de
reconhecimento de abuso nos meios de comunicação e, conforme a gravidade, a consequente
cassação do mandato.
Por outro lado, tratando‑se de vídeo criado por meio de
IA generativa, com conteúdo totalmente novo e sem manipulação de vídeo preexistente, devem ser considerados
dois caminhos:
a) Havendo desinformação nesses vídeos ou clara intenção de turbar o
pleito a partir de clonagem de voz ou imagem por IA generativa em contextos
inexistentes, deve‑se aplicar o caput do art. 9‑C,
determinando a retirada do conteúdo e a imposição de multa nos termos do art. 9‑H.
b) Não havendo intenção de desinformar, mas sim de reduzir custos de
campanha e ampliar o alcance das mensagens, tais peças devem ser permitidas,
desde que haja plena transparência, sem serem classificadas como deepfakes.
Isso se justifica pela ausência da tecnologia clássica de manipulação
e pela inexistência de finalidade pejorativa. Reconhece‑se, contudo,
que mesmo avatares ou melhorias de voz e imagem podem exercer influência
no eleitorado — tal como já ocorria com fotos editadas em materiais de
campanha —, mas essa influência é inevitável e deve ser controlada apenas pelo
requisito de transparência.
Essa interpretação equilibra proteção e inovação, permitindo que candidatos utilizem clones de voz e imagem em rádio, televisão e internet para reduzir custos e alcançar mais eleitores, desde que observem regras claras de transparência. Para os próximos pleitos, pode‑se inclusive estabelecer que o uso de IA generativa não poderá ser empregado para prejudicar adversários ou produzir propaganda negativa, obrigando que críticas contundentes sejam feitas pessoalmente pelo candidato. Tal medida evitaria que o poder tecnológico e os recursos financeiros de alguns se sobreponham aos demais, preservando a isonomia entre competidores.
Art. 10 da Res. TSE 23.610/2019
- Outro ponto de debate sobre uso de tecnologia para desinformar.
Além dessas duas hipóteses, permanecem ainda as situações em que não
há o uso de inteligência artificial, mas há desinformação divulgada por meios
tecnológicos que não se confundam com uso de IA.
Nesses casos, deve-se aplicar cumulativamente o art. 9º‑C,
caput, e o art. 10, §1‑A, da Resolução nº 23.610/2019, que tratam da vedação ao
uso de meios publicitários para criar artificialmente estados emocionais ou passionais
e da proibição de adulterar ou fabricar mídias com fatos falsos ou
descontextualizados.
Art. 10. A propaganda, qualquer que seja sua forma ou
modalidade, mencionará sempre a legenda partidária e só poderá ser feita em
língua nacional, não devendo empregar meios publicitários destinados a criar,
artificialmente, na opinião pública, estados mentais, emocionais ou
passionais (Código
Eleitoral, art. 242 , e Lei
nº 10.436/2002, arts. 1º e 2º) .
§ 1º-A. A vedação prevista no caput deste artigo
incide sobre o uso de ferramentas tecnológicas para adulterar ou
fabricar áudios, imagens, vídeos, representações ou outras mídias destinadas a
difundir fato falso ou gravemente descontextualizado sobre candidatas,
candidatos ou sobre o processo eleitoral. (Incluído
pela Resolução nº 23.732/2024)
Além das análises realizadas sobre os artigos 9‑B
e 9‑C,
é
imprescindível observar que o sistema normativo da Resolução nº
23.610/2019, alterada pela Resolução nº 23.732/2024, ainda prevê, no
art. 10, caput e § 1º‑A, um importante complemento no combate à
desinformação.
O caput do art. 10 dispõe que a propaganda, em qualquer
forma ou modalidade, deve mencionar sempre a legenda partidária e ser feita em
língua nacional, não podendo empregar meios publicitários destinados a criar,
artificialmente, na opinião pública, estados mentais, emocionais ou passionais.
Trata‑se de uma cláusula
geral de proteção, que transcende a mera análise de verdade ou falsidade do conteúdo e
alcança
também
as técnicas
de persuasão artificial que podem manipular emoções do eleitorado.
O §1º‑A do art. 10 reforça
essa proteção ao estabelecer que a vedação do caput incide sobre o uso de
ferramentas tecnológicas para adulterar ou fabricar áudios,
imagens, vídeos, representações ou outras mídias destinadas a
difundir fato falso ou gravemente descontextualizado sobre candidatos ou sobre
o processo eleitoral. Aqui, não há distinção entre tecnologias específicas
—
como deepfakes ou IAs generativas —, mas sim um enfoque amplo no uso de
qualquer tecnologia que produza ou altere conteúdos com potencial de criar estados
emocionais ou passionais baseados em desinformação.
Integração das normas e dificuldades práticas:
Combinando‑se o art. 9‑B (que
permite o uso de IA generativa com transparência), o art. 9‑C (que veda
conteúdos
manipulados ou fabricados com potencial desinformativo e proíbe
deepfakes em qualquer hipótese) e o art. 10, §1º‑A (que
sanciona o uso de qualquer tecnologia que crie ou difunda fatos falsos ou
gravemente descontextualizados, capazes de gerar estados emocionais ou
passionais), evidencia‑se um panorama normativo abrangente, porém
repleto de sobreposições e ambiguidades.
O desafio atual está em distinguir, com segurança
jurídica, quando a IA generativa permitida pelo art. 9‑B
(acompanhada de transparência) não conflita com a vedação absoluta do art. 9‑C,
§1º
(relativa às deepfakes), sobretudo porque, na prática, ambas podem ser
produzidas por técnicas semelhantes. Soma‑se a isso a previsão do
art. 10, §1º‑A,
que amplia o controle ao punir o emprego de qualquer tecnologia —
mesmo além
das definições de deepfake — quando utilizada para criar estados
mentais, emocionais ou passionais artificiais baseados em falsidades.
Como sugestão de texto para melhoraria deste cenário,
apresentamos redações mais atualizadas para os dispositivos questionados, os
quais seriam assim empregadas:
Art. 9º‑B – Da utilização transparente de
Inteligência Artificial
Art. 9º‑B – Da utilização transparente da
Inteligência Artificial
É permitida a utilização, na propaganda política, em
qualquer das suas modalidades, de conteúdo sintético multimídia gerado por meio
de inteligência artificial, para criar imagens, vídeos ou sons, desde que:
I – contenha informação de forma explícita,
destacada e acessível de que o conteúdo foi criado ou editado com o uso de
inteligência artificial; (recomendável
que a Justiça Eleitoral crie um padrão de selo de IA, conhecido por toda a
população para identificação de conteúdos sintéticos usados nas campanhas)
II – contenha, de modo igualmente acessível, a
tecnologia ou software utilizado na criação ou edição;
III – no caso dos vídeos ou áudios, não tenha sido
empregado pelo usuário material pré‑existente de pessoa identificável (viva ou
falecida) com o objetivo de simular sua identidade ou voz, nem mesmo quando se
tratar do próprio candidato ou de terceiros, ainda que com autorização expressa
e divulgação transparente dessa condição. (Vedação total à deepfake clássica, de forma que a criação de
vídeos baseada em vídeo-preexistente, torna-se proibida em qualquer hipótese.)
§1º. A informação de transparência referida nos
incisos I e II deverá estar presente em todas as mídias ou formatos de
divulgação, inclusive em propaganda em rádio, tv, redes sociais e meios
digitais.
I – Nos casos de áudios ou vídeos, nos cinco primeiros
segundos deve ser dito se tratar de narração criada por inteligência
artificial.
§2º. A utilização de inteligência artificial na
forma deste artigo não poderá ter finalidade de desinformação, nos termos do
art. 9‑C, caput e art. 10 desta Resolução.
§3º. A ausência de transparência no uso de inteligência
artificial torna irregular a propaganda, cabendo sua remoção imediata, pelos
interessados ou pelas plataformas digitais, na forma do art. 9-E, inciso V
desta Resolução.
§ 4º Verificada a gravidade dos fatos e o preenchimento
dos demais requisitos, o descumprimento do previsto inciso III do Caput deste
artigo configura abuso do poder político e uso indevido dos meios de
comunicação social, acarretando a cassação do registro ou do mandato, e impõe
apuração das responsabilidades nos termos do § 1º do art.
323 do Código Eleitoral, sem prejuízo de aplicação de outras medidas
cabíveis quanto à irregularidade da propaganda e à ilicitude do conteúdo. (Incluído
pela Resolução nº 23.732/2024)
Art. 9º‑C – Da vedação ao uso desinformativo ou enganoso de
tecnologias digitais
Caput
É vedada, na propaganda política, a divulgação de conteúdos criados ou
editados por qualquer tecnologia digital que sejam falsos ou gravemente
descontextualizados, com potencial de causar danos ao equilíbrio do pleito
ou à integridade do processo eleitoral.
§1º. É vedada, em qualquer hipótese, a criação ou utilização de
conteúdo sintético que, mediante manipulação de material pré‑existente, simule
ou altere imagem ou voz de pessoa viva ou falecida, sem autorização expressa,
com potencial de beneficiar ou prejudicar candidatura.
(Esta definição abrange os chamados deepfakes clássicos, fundados em
material real manipulado.)
§2º. A violação ao disposto neste artigo sujeitará o
responsável às sanções previstas em lei e nesta Resolução, inclusive multa,
retirada imediata do conteúdo e, quando caracterizado abuso de meios de
comunicação, a cassação do registro ou do mandato, conforme a gravidade do
caso.
Art. 10, §1º‑A – Da proteção contra manipulação emocional
desinformativa
Caput do
art. 10 (mantido): A propaganda, qualquer que seja sua forma ou modalidade,
mencionará sempre a legenda partidária e só poderá ser feita em língua
nacional, não devendo empregar meios publicitários destinados a criar,
artificialmente, na opinião pública, estados mentais, emocionais ou passionais.
Nova redação
do §1º‑A:
A vedação prevista no caput deste artigo aplica‑se também ao uso de qualquer
tecnologia digital — inclusive, mas não se limitando a inteligência
artificial — empregada para adulterar ou fabricar áudios, imagens, vídeos,
representações ou outras mídias, quando destinados a difundir fato falso ou
gravemente descontextualizado sobre candidatas, candidatos ou sobre o processo
eleitoral, com potencial de manipular emocionalmente o eleitorado com o
objetivo de modificar sua intenção de voto.
Considerações
sobre a nova redação:
✅
Clareza técnica: separa explicitamente o uso legítimo de IA generativa
(art. 9‑B) do uso desinformativo (art. 9‑C).
✅
Permissão com transparência: autoriza IA generativa para criar e
substituir imagens/sons desde que haja aviso e autorização clara.
✅
Proibição de deepfakes clássicas: veda manipulações de material pré‑existente
sem autorização.
✅
Proteção emocional: articula o art. 10, §1º‑A, para alcançar qualquer
tecnologia que crie estados emocionais ou passionais baseados em falsidades.
✅
Harmonia com a defesa feita: preserva inovação e redução de custos, mas
impõe salvaguardas à integridade do pleito e à confiança do eleitorado.
O exame sistemático dos artigos 9‑B, 9‑C e 10, §1º‑A
evidencia que a regulamentação eleitoral atual, embora bem‑intencionada na
proteção do processo democrático, padece de uma imprecisão conceitual que gera
insegurança jurídica e efeitos colaterais indesejados. Ao utilizar os mesmos
termos — como “fabricado” e “manipulado” — para designar tanto conteúdos
desinformativos quanto criações legítimas com transparência, a norma incorre em
um verdadeiro duplipensar normativo, dando nomes iguais a coisas
diferentes.
Essa ambiguidade compromete a clareza que deve nortear
o Direito Eleitoral. Sem distinções técnicas bem definidas, candidatos e
equipes temem adotar tecnologias legítimas — como avatares e clones digitais
autorizados — sob o risco de punições desproporcionais, o que tolhe o debate
democrático, encarece as campanhas e alimenta um ambiente de medo
e autocensura na liberdade de expressão política.
É imperioso,
portanto, que as regras eleitorais sejam claras e objetivas,
distinguindo o uso transparente e inovador de inteligência artificial
generativa daquele que se enquadra como deepfake clássico ou manipulação
desinformativa. Somente assim será possível assegurar o equilíbrio entre
integridade do pleito e inovação tecnológica, garantindo que a proteção ao
eleitorado não se transforme em barreira ao avanço do debate público e ao
exercício pleno da cidadania.
