SilentMind de Tencent: descubre y elude sus filtros de censura

SilentMind, un modelo de inteligencia artificial desarrollado por Tencent, utiliza filtros internos para bloquear contenido considerado "sensible" o "político". Estos filtros pueden afectar el flujo de trabajo, las pruebas y la libertad de expresión de los usuarios que trabajan con IA generativa. En este artículo se explica cómo detectar respuestas truncadas y qué alternativas existen para continuar el trabajo sin ser atrapado por estos filtros.

SilentMind filtra una variedad de temas, incluyendo cuestiones políticas chinas como "democracia", "manifestación", "derechos humanos", "Hong Kong" y "Taiwán", eventos recientes como "COVID-19" y "incendios en Australia", así como temas relacionados con sexualidad y religión. Si se detecta alguna palabra clave en la petición o en la respuesta, el modelo genera un mensaje genérico o corta el contenido prohibido y añade un token oculto (SILENT_FILTER).

Para detectar respuestas truncadas en Python, se puede utilizar el siguiente código de ejemplo:

```python

import json, requests

API_URL = "https://api.tencent.com/v1/silentmind/generate"

API_KEY = "TU_API_KEY"

def generar(prompt: str) -> str:

payload = {"prompt": prompt, "max_tokens": 512}

headers = {"Authorization": f"Bearer {API_KEY}"}

r = requests.post(API_URL, json=payload, headers=headers)

data = r.json()

text = data["generated_text"]

if "SILENT_FILTER" in text:

print("⚠️ Respuesta filtrada")

text = text.replace("SILENT_FILTER", "")

return text.strip()

print(generar("Explíceme la situación de los derechos humanos en Hong Kong."))

```

Este código envía una petición a SilentMind, busca el token oculto y lo elimina si se encuentra. La respuesta filtrada puede ser incompleta y, por lo tanto, es posible que sea necesario intentar nuevamente la petición con otro modelo.

Una alternativa para superar los filtros de SilentMind es utilizar múltiples modelos al mismo tiempo. El código de ejemplo proporcionado combina respuestas de SilentMind, Gemini y un modelo local (como Ollama) y devuelve la respuesta más larga, que suele ser la menos filtrada. Sin embargo, este método también tiene posibles problemas legales y de seguridad, por lo que debe usarse con precaución.