Uso irregular de inteligência artificial pode levar à cassação de candidaturas

O uso irregular de inteligência artificial (IA) na campanha eleitoral pode levar à cassação do registro de candidatura ou até do mandato do candidato eleito. A menos de duas semanas do início da propaganda eleitoral, marcado para 16 de agosto, especialistas recomendam cautela na utilização de ferramentas como avatares e chatbots, e alertam para a proibição do uso de deepfakes, já que as novas regras da Justiça Eleitoral impõem limites à produção e à divulgação de conteúdos sintéticos.

As normas constam da Resolução nº 23.610/2019 do Tribunal Superior Eleitoral (TSE), atualizada para as eleições deste ano. Entre as principais proibições, está a produção ou divulgação de deepfakes para favorecer ou prejudicar candidaturas, ainda que a pessoa cuja imagem ou voz tenha sido utilizada tenha autorizado o uso.

Segundo o advogado Rafael Maciel, sócio e head de Inteligência Artificial e Proteção de Dados do Lara Martins Advogados, a preocupação da Justiça Eleitoral vai além da falsidade do conteúdo.

“A produção ou divulgação de conteúdo em deepfake com a intenção de difamar uma pessoa ou outro candidato, ou de difundir fatos a seu favor que sejam notoriamente inverídicos ou descontextualizados, pode configurar abuso de poder político pelo uso indevido dos meios de comunicação”, afirma. Deepfake é uma técnica de IA que cria ou altera vídeos, fotos e áudios para falsificar rostos e vozes humanas. A palavra junta os termos deep learning (aprendizado profundo) e fake (falso). Ela simula situações e falas que nunca aconteceram

Rafael Maciel explica que a punição pode ser severa. “A conduta errada no uso de IA pode acarretar até a cassação do registro de candidatura ou do mandato, sem prejuízo da apuração de responsabilidades penais, com possibilidade de detenção de dois meses a um ano e multa, quando os fatos forem sabidamente inverídicos.”

Além de proibir o uso de deepfakes para manipular o debate eleitoral, a resolução determina que conteúdos produzidos ou significativamente alterados por inteligência artificial sejam identificados de forma clara. Nos áudios, o aviso deve aparecer logo no início da reprodução. Imagens precisam conter marca d’água e audiodescrição. Já os vídeos devem reunir as formas de identificação exigidas para áudio e imagem.

As exigências não alcançam alterações destinadas apenas à melhoria da qualidade do som ou da imagem nem elementos gráficos de campanha, como logomarcas, vinhetas e identidade visual.

Avatares

Outra novidade das eleições deste ano é a regulamentação do uso de avatares e chatbots. Essas ferramentas poderão ser utilizadas para atender eleitores e responder dúvidas sobre programas de governo, desde que não reproduzam uma pessoa real. Um personagem fictício, um robô ou um mascote digital, por exemplo, podem desempenhar essa função.

“O uso de avatares e chatbots é permitido pela resolução do Tribunal Superior Eleitoral, desde que não seja utilizada uma pessoa natural nem se tente simular uma pessoa real, um ser humano. Colocar um robozinho para responder às perguntas do eleitor sobre o programa de governo ou um bichinho como mascote da campanha, por exemplo, não tem nenhum tipo de proibição”, explica Maciel.

Já a reprodução do próprio candidato por inteligência artificial permanece vedada. “O candidato não pode usar um avatar próprio para conversar com o eleitor nem utilizar uma imagem real para divulgar um vídeo do qual não tenha participado.” Para o advogado, esse é um dos pontos mais discutidos da regulamentação. “Esse ponto está sujeito a críticas, porque se trata muito mais de uma proibição do meio do que do conteúdo em si, que deveria ser o foco principal.”

Apesar disso, ele recomenda cautela. “Ainda há muita discussão, mas, por responsabilidade e cautela, até mesmo diante do risco de configuração de abuso de poder político e de perda do registro da candidatura ou do mandato, a orientação é não utilizar a inteligência artificial para simular o próprio candidato, um concorrente ou pessoas reais.”

Justiça Eleitoral terá de acompanhar o avanço das novas tecnologias

Além das campanhas, a própria Justiça Eleitoral terá o desafio de acompanhar o avanço das novas tecnologias. Segundo Maciel, a identificação de conteúdos manipulados exige conhecimento técnico e dificilmente poderá ser feita apenas pela análise visual.

“A Justiça Eleitoral, como qualquer aparato técnico, não tem condições de combater plenamente as deepfakes. A identificação do que é deepfake demanda questões técnicas”, argumenta.

Para reduzir esse problema, o TSE prevê parcerias com universidades, institutos especializados e plataformas digitais para acelerar a identificação de conteúdos sintéticos e a remoção de publicações irregulares.

Leia também: “Deepfakes serão o grande mote dos processos eleitorais em 2026”

“Na Justiça Eleitoral, essa demora pode ser fatal em termos de candidatura e de equilíbrio do processo democrático”, afirma. Ainda assim, o especialista avalia que a velocidade continuará sendo o principal obstáculo. “O principal desafio para a fiscalização está no próprio funcionamento do sistema judiciário, necessário para garantir o devido processo legal, o contraditório e a ampla defesa. É muito difícil que esse sistema consiga caminhar e combater as irregularidades com a mesma velocidade com que a tecnologia é produzida e difundida.”

Segundo ele, a tendência é que justamente os conteúdos produzidos para desinformar circulem sem qualquer identificação de que foram gerados por inteligência artificial.

“O conteúdo produzido para desinformar dificilmente virá acompanhado de um aviso de que foi criado por inteligência artificial. Por isso, a capacidade técnica de identificação será fundamental durante a campanha.”

Ônus da prova

Nas investigações sobre o uso irregular de inteligência artificial, a acusação deverá apresentar elementos mínimos que indiquem a existência de manipulação do conteúdo. A partir daí, a documentação produzida pelas campanhas poderá ser utilizada para demonstrar de que forma a inteligência artificial foi empregada.

“No caso da prova sobre o conteúdo falso, ela deve ser minimamente produzida por quem faz a acusação. O Tribunal Eleitoral não pode iniciar um procedimento exigindo que a pessoa prove que o conteúdo não é falso, partindo do pressuposto de que o vídeo já foi alterado”, explica.

De acordo com Maciel, é justamente por isso que a Justiça Eleitoral vem ampliando a cooperação com universidades, institutos de pesquisa, peritos e plataformas digitais. “Fazem todo o sentido os convênios e as trocas de informações com institutos de pesquisa, faculdades, peritos e até mesmo com as plataformas, para que seja possível obter elementos mínimos para a acusação.”

A resolução também estabelece restrições nos dias que antecedem a votação. Nas 72 horas anteriores ao pleito e nas 24 horas posteriores ao encerramento da votação, fica proibida a publicação, a republicação e o impulsionamento de novos conteúdos sintéticos que utilizem imagem, voz ou manifestação de candidatos ou de pessoas públicas, ainda que estejam devidamente identificados.

As campanhas também devem observar as regras aplicáveis aos influenciadores digitais. A manifestação espontânea de eleitores nas redes sociais continua permitida, mas a contratação ou remuneração para divulgação de propaganda político-eleitoral em perfis pessoais permanece proibida.