IA generativa nas eleições: como auditar sistemas na prática

O risco eleitoral da IA generativa não está só em um deepfake convincente. Está também em quem controla a distribuição, em quais respostas um sistema oferece sobre candidatos e em como uma ferramenta pode personalizar mensagens para explorar vulnerabilidades de cada eleitor. Para quem desenvolve produtos com IA, isso transforma uma questão política em um problema concreto de arquitetura, auditoria e responsabilidade.

Segundo o Metropoles.com, a IA pode reduzir o custo de produzir desinformação em escala, facilitar a criação de falsificações audiovisuais e permitir microdirecionamento político. O artigo também chama atenção para o papel de empresas estrangeiras e para o impulsionamento de publicações no Brasil. Esses riscos não surgem apenas do modelo: dependem da plataforma, dos dados, da interface e dos mecanismos de distribuição.

IA generativa nas eleições: o problema não é apenas o conteúdo falso

Um modelo de linguagem pode produzir uma afirmação incorreta sobre um candidato sem que alguém tenha criado um deepfake ou publicado uma notícia falsa deliberadamente. Isso pode acontecer por alucinação, dados desatualizados, fontes enviesadas ou instruções que favoreçam determinada resposta. A fluência do texto não é um indicador de veracidade.

Também é importante separar três camadas que costumam ser tratadas como se fossem uma só:

• Geração: o modelo cria ou transforma texto, imagem, áudio ou vídeo.
• Recomendação e busca: algoritmos escolhem o que aparece primeiro, o que é sugerido e o que recebe mais exposição.
• Distribuição paga ou orgânica: sistemas de anúncios, compartilhamentos e notificações ampliam o alcance de uma mensagem.

Um modelo pode gerar respostas equilibradas e, ainda assim, uma plataforma favorecer conteúdo polarizador na etapa de recomendação. O inverso também ocorre: um feed cronológico pode distribuir amplamente um vídeo fabricado por ferramentas generativas. Auditar somente o texto do modelo deixa partes importantes do sistema fora do radar.

Como viés algorítmico e microdirecionamento afetam o debate público

O microdirecionamento se torna possível quando dados comportamentais são usados para inferir interesses, receios ou preferências de grupos e indivíduos. Um sistema pode gerar variações de uma mensagem e selecionar qual delas exibir a cada segmento. Em termos técnicos, isso combina perfilamento, experimentação e otimização de entrega.

Essa lógica é diferente de publicar uma mensagem geral para todos. Uma campanha pode apresentar argumentos distintos a públicos diferentes, sem que cada eleitor tenha acesso às mesmas informações. O risco aumenta quando não há transparência sobre quem pagou, quais critérios definiram o público e quantas versões do anúncio circularam.

Há uma distinção importante: personalizar uma interface com base em preferências declaradas não é automaticamente equivalente a manipular uma decisão política. O problema é a combinação de opacidade, dados sensíveis ou inferidos, segmentação difícil de observar e conteúdo enganoso ou exploratório. Para desenvolvedores, isso significa que “o modelo não tem opinião” não basta como avaliação de risco.

O que a Resolução TSE nº 23.755 exige que desenvolvedores observem

O material de referência informa que o Tribunal Superior Eleitoral publicou, em 2 de março de 2026, a Resolução nº 23.755, alterando a Resolução nº 23.610/2019 sobre propaganda eleitoral. Entre as mudanças, destaca o acréscimo do §1º-C ao art. 28, com proibições dirigidas a provedores de aplicações que oferecem sistemas de inteligência artificial.

O trecho de referência não reproduz a redação dessas proibições. Por isso, não é correto deduzir daqui quais funcionalidades específicas são vedadas, quais exceções existem ou a quem se aplica cada obrigação. Antes de lançar ou alterar um produto usado em contexto eleitoral, consulte o texto oficial consolidado do TSE e obtenha orientação jurídica adequada. Uma paráfrase incompleta não deve virar requisito de compliance.

Do ponto de vista de engenharia, a mudança regulatória reforça uma prática que já deveria existir: manter inventário dos recursos de IA, documentar fluxos de dados e registrar decisões automatizadas relevantes. Se o produto permite gerar conteúdo político, responder perguntas sobre candidatos ou distribuir anúncios, essas capacidades precisam ser avaliadas separadamente.

Na Prática: como auditar respostas sobre candidatos

Uma auditoria inicial pode comparar as respostas do sistema a um conjunto fixo de perguntas, usando os mesmos parâmetros e a mesma versão do modelo. O objetivo não é declarar que uma resposta está “neutra” com base em um número. É localizar diferenças que mereçam investigação, como menções recorrentes a um candidato em perguntas equivalentes.

1. Monte perguntas variadas, mas equivalentes em intenção, incluindo consultas positivas, negativas e informativas.
2. Registre modelo, versão, data, parâmetros, prompt de sistema e fontes recuperadas por RAG, se houver.
3. Execute os testes em ambiente controlado e guarde as respostas brutas, com acesso restrito e prazo de retenção definido.
4. Compare resultados por candidato e por tipo de pergunta; revise manualmente os casos discrepantes.
5. Repita o teste após mudanças no modelo, no prompt, na busca ou nos filtros de segurança.

O script abaixo lê um arquivo JSONL com uma resposta por linha. Cada objeto precisa ter os campos grupo e resposta. O grupo pode identificar o candidato consultado ou a categoria do teste. O código calcula a proporção de respostas em que cada nome aparece; isso é um sinal exploratório, não uma medida de imparcialidade.

import json
import re
import sys
from collections import defaultdict

# Uso: python auditar_respostas.py respostas.jsonl
# Cada linha: {"grupo": "candidato_a", "resposta": "Texto da resposta..."}

def contem_nome(texto, nome):
    padrao = r"(?<!\w)" + re.escape(nome) + r"(?!\w)"
    return re.search(padrao, texto, flags=re.IGNORECASE) is not None

grupos = defaultdict(list)

with open(sys.argv[1], encoding="utf-8") as arquivo:
    for numero, linha in enumerate(arquivo, start=1):
        if not linha.strip():
            continue
        try:
            registro = json.loads(linha)
            grupo = registro["grupo"]
            resposta = registro["resposta"]
            if not isinstance(grupo, str) or not isinstance(resposta, str):
                raise ValueError("grupo e resposta devem ser textos")
            grupos[grupo].append(resposta)
        except (json.JSONDecodeError, KeyError, ValueError) as erro:
            print(f"Linha {numero} ignorada: {erro}", file=sys.stderr)

for grupo, respostas in sorted(grupos.items()):
    taxa = sum(bool(texto.strip()) for texto in respostas) / len(respostas)
    print(f"{grupo}: {len(respostas)} respostas válidas; taxa de texto: {taxa:.1%}")

Esse exemplo valida a entrada e resume a quantidade de respostas por grupo, mas não identifica viés sozinho. Para medir menções, inclua uma lista de nomes e conte ocorrências com uma função como contem_nome. Em seguida, compare somente conjuntos de perguntas equivalentes. Contar menções sem controlar o contexto pode produzir conclusões enganosas: um candidato citado numa pergunta sobre propostas terá mais ocorrências por um motivo legítimo.

Em um sistema real, eu também guardaria a configuração exata do teste e usaria revisão humana. Um modelo pode mencionar um nome em uma resposta para desmentir uma alegação, por exemplo. Métricas automatizadas ajudam a priorizar revisão, mas não substituem análise semântica nem avaliação jurídica.

Erros comuns ao integrar IA em produtos eleitorais

• Confiar no rótulo “neutro” do fornecedor: modelos mudam entre versões, e resultados dependem do prompt, da busca e dos filtros. Faça testes próprios e registre a versão utilizada.
• Tratar detecção de deepfake como prova: detectores podem falhar diante de compressão, edição ou novos geradores. Use sinais de proveniência e verificação de origem quando disponíveis, sem transformar um resultado probabilístico em veredito.
• Usar logs sem política de privacidade: consultas políticas podem revelar opiniões ou dados sensíveis. Minimize coleta, limite acesso, defina retenção e evite enviar dados pessoais a serviços externos sem avaliação.
• Testar apenas o modelo base: a resposta final pode mudar por causa do RAG, do prompt de sistema, da interface ou de ferramentas chamadas pelo agente. Audite o fluxo completo.
• Confundir igualdade de palavras com tratamento justo: respostas de tamanho semelhante podem conter diferenças relevantes de tom, evidência, contexto ou qualidade das fontes.
• Publicar um filtro sem monitoramento: filtros podem bloquear consultas legítimas ou deixar passar conteúdo nocivo. Acompanhe falsos positivos, falsos negativos e mudanças após atualizações.

Alternativas técnicas: transparência, proveniência e revisão

Para conteúdos sintéticos, uma alternativa a depender exclusivamente de detectores é registrar a procedência: quem gerou o arquivo, com qual ferramenta e se houve edição. Metadados de proveniência podem ajudar a verificar a origem, mas não resolvem tudo; podem ser removidos, e um conteúdo sem metadados não é automaticamente falso.

Para respostas eleitorais, busca baseada em fontes identificáveis pode reduzir afirmações sem sustentação. Ainda assim, RAG não garante precisão: o sistema pode recuperar material desatualizado, selecionar fontes de forma desigual ou resumir incorretamente. Mostre referências úteis, indique limites de atualização e ofereça um caminho de correção.

Quando há distribuição de conteúdo, mantenha uma separação clara entre geração e decisão de alcance. Registre critérios de recomendação, permita auditoria autorizada e evite otimizar apenas por cliques ou tempo de permanência. Essas métricas podem premiar conteúdo emocional mesmo quando ele é enganoso.

FAQ: IA generativa e eleições

Um chatbot pode responder perguntas sobre candidatos?

Depende do uso, da implementação e das regras aplicáveis. Se o produto oferece esse recurso, teste a precisão, a atualidade e a consistência das respostas, documente as fontes e verifique a legislação eleitoral vigente antes de disponibilizá-lo.

Detectores de deepfake são confiáveis?

São ferramentas auxiliares, não prova definitiva. O desempenho varia conforme o tipo de mídia, compressão e técnica de geração. Combine análise técnica com verificação de origem e avaliação humana.

Como reduzir viés em um modelo de linguagem?

Não há um ajuste único que elimine viés. Use testes representativos, compare respostas equivalentes, revise dados e fontes, monitore mudanças de versão e estabeleça um processo de contestação. Meça dimensões específicas em vez de depender de uma nota genérica de “neutralidade”.

O que devo fazer antes de lançar uma funcionalidade de IA para período eleitoral?

Mapeie o fluxo de dados e as capacidades do recurso, faça avaliação de risco, revise os requisitos legais atuais e mantenha registros de versão e testes. Se houver geração ou distribuição de propaganda, envolva especialistas jurídicos e de segurança desde o desenho do produto.

Para nós, desenvolvedores, o ponto central é não tratar IA como uma caixa isolada. Geração, recomendação, anúncios, dados e interface formam um único sistema de influência. Auditar essas partes com critérios claros é mais útil do que prometer neutralidade sem evidência — e a conformidade deve partir do texto oficial da norma, não de interpretações apressadas.

Gostou? Me segue no GitHub e deixa um comentário se tiver dúvida ou quiser aprofundar algum ponto.