SilentMind: IA que censura e gera polêmica nas buscas

SilentMind é um modelo de inteligência artificial desenvolvido pela Tencent que filtra automaticamente conteúdo sensível e político nas buscas. Lançado em 15 de outubro de 2024, o modelo substitui respostas bloqueadas por "conteúdo não disponível" ou mensagens genéricas. O anúncio provocou um aumento de 420% nas buscas por "SilentMind censura" no Brasil, Portugal e México, e gerou polêmica sobre liberdade de expressão e conformidade legal.

O SilentMind funciona por meio de uma arquitetura de filtragem em três camadas: pré-processamento, geração e pós-processamento. Durante o processamento, palavras-chave sensíveis como "protesto", "governo chinês" ou "direitos humanos" são interceptadas e substituídas por avisos genéricos. Para detectar a censura, um script pode procurar por mensagens padrão, tokens internos como [FILTERED] e comparar o tamanho da resposta com a solicitação.

Embora a LGPD no Brasil não proíba a elusão de filtros, violar os termos de serviço da Tencent pode resultar no bloqueio da conta ou ação judicial. Em países com censura rígida, como a China, a prática pode ser considerada um crime. O SilentMind tem sido comparado com ChatGPT, Gemini e LLaMA 2 em termos de desempenho, e mostrou uma taxa de censura significativamente maior (37%) em comparação com seus concorrentes (12% a 15%).

Para desenvolvedores, a chave para usar o SilentMind de forma responsável é detectar a censura rapidamente, documentar as intervenções e implementar estratégias de contorno apenas quando houver respaldo jurídico. As estratégias incluem reescrever prompts para evitar palavras-chave sensíveis, dividir perguntas em etapas menores e usar "shadow models" para combinar respostas de modelos abertos. No entanto, é importante consultar um advogado antes de implementar essas estratégias para garantir o cumprimento das leis locais.