01. Solicitudes prohibidas
Durante el año pasado, cualquiera que haya pasado tiempo con modelos lingüísticos de gran tamaño probablemente se haya topado con algo llamado “política de seguridad”. Escribe un mensaje (a veces ligeramente sugerente, a veces simplemente visualmente expresivo) y espera un resultado creativo. En cambio, recibe un mensaje de rechazo.
Suele tener este aspecto: "Lo siento, su solicitud viola nuestra política de seguridad".
Ya sea que usa ChatGPT, Gemini u otros modelos importantes, el resultado suele ser el mismo: el sistema se niega rotundamente. Incluso los sistemas de generación de imágenes bloquearán las producciones violentas o con temas para adultos.
Para los usuarios, puede parecer como ir a un restaurante de lujo y pedir comida picante, sólo para que les sirvan verduras hervidas con la siguiente explicación: "Por su seguridad, no servimos platos picantes".
Esto plantea una pregunta simple: ¿Por qué los sistemas de inteligencia artificial más potentes de la actualidad, capaces de escribir ensayos, resolver matemáticas y generar imágenes, se vuelven tan restrictivos cuando se trata de contenido NSFW?
02. Dos mundos: Plataformas cerradas versus ecosistemas de código abierto
Modelos comerciales de código cerrado: el “parque temático gestionado”
Piense en empresas como OpenAI o Google como operadores de un parque temático enorme y cuidadosamente administrado. Han invertido enormes recursos para construir un entorno seguro y confiable al que millones de usuarios puedan acceder todos los días.
Ahora imagine que un visitante de repente se comporta de manera inapropiada en medio del parque: ignora las reglas, se expone o causa daño a otros.
Desde la perspectiva del operador, la respuesta es inmediata: eliminar al usuario. Si no actúan rápidamente, los reguladores pueden intervenir, la confianza pública puede colapsar y todo el negocio podría estar en riesgo.
Ésta es la realidad a la que se enfrentan los proveedores comerciales de IA. Para ellos, el contenido NSFW no es sólo una cuestión técnica: es un riesgo legal, reputacional y financiero.
Como resultado, la mayoría de las empresas adoptan una estrategia sencilla: es mejor bloquear demasiado que permitir que algo catastrófico pase.
Modelos de código abierto: el “salvaje oeste”
Del otro lado está el ecosistema de código abierto (por ejemplo, Stable Diffusion y modelos relacionados). Una vez que se publican los pesos de los modelos, cualquiera puede ejecutarlos localmente, modificarlos y eliminar los filtros de seguridad por completo.
Esto crea un entorno muy diferente: más flexible, más experimental, pero también menos controlado.
03. Cómo los sistemas de inteligencia artificial restringen el contenido NSFW
Es un error común pensar que la seguridad se implementa con filtros de palabras clave simples, como por ejemplo:
if (contains_sensitive_words) {
reject_request;
}
En realidad, los sistemas de seguridad modernos tienen varios niveles y son mucho más complejos.
Capa 1: Filtrado previo a la generación
Antes de que un mensaje llegue al modelo, a menudo es evaluado por un sistema de moderación independiente. Si la entrada se marca como riesgosa, se bloquea inmediatamente y nunca llega al modelo principal.
Después de la generación, filtros adicionales también pueden escanear la salida antes de mostrársela al usuario. Si el contenido se considera inseguro, se bloquea o elimina.
Esto incluye la detección de desnudez, violencia y otras categorías sensibles.
Capa 2: RLHF (Aprendizaje por refuerzo a partir de la retroalimentación humana)
Un mecanismo más importante es RLHF, que alinea el comportamiento del modelo con las expectativas humanas.
Durante el entrenamiento, al modelo se le muestran repetidamente ejemplos de respuestas y los revisores humanos lo clasifican. Los resultados que violan las reglas de seguridad reciben comentarios negativos, mientras que las respuestas seguras y apropiadas son recompensadas.
Con el tiempo, el modelo aprende a evitar ciertos patrones. Desarrolla una tendencia interna a rechazar solicitudes sensibles o responder en un tono cauteloso y neutral.
04. El costo de la alineación: “Rechazo excesivo”
Este estricto proceso de alineación tiene una contrapartida, a menudo denominada “impuesto de alineación”.
Para evitar resultados dañinos, los modelos están entrenados para evitar cualquier cosa que se parezca siquiera a contenido confidencial. Sin embargo, esto también puede volverlos demasiado conservadores.
Por ejemplo, un modelo podría negarse a:
- Referencias artísticas que involucran desnudez, incluso en contextos históricos.
- Discusiones médicas o anatómicas que mencionan la violencia.
- Escenas ficticias que involucran fumar u otras conductas de riesgo.
Como resultado, el sistema a veces se vuelve menos flexible y menos útil para tareas creativas o educativas legítimas. Este fenómeno se describe a menudo como rechazo excesivo.
05. Dos caminos: Sistemas controlados versus libertad abierta
El ecosistema de IA se ha dividido efectivamente en dos direcciones.
Los sistemas cerrados priorizan la seguridad, el cumplimiento y la protección de la marca. Están estrictamente controlados, filtrados en gran medida y diseñados para minimizar el riesgo.
Los sistemas de código abierto priorizan la flexibilidad y el control del usuario. Los usuarios pueden modificar los modelos libremente, pero también deben asumir la responsabilidad de cómo se utilizan.
En un caso, se encuentra dentro de un entorno altamente regulado. En el otro, estás operando efectivamente en un espacio informático sin restricciones.
06. Pensamientos finales
El debate sobre el contenido NSFW en IA refleja una tensión más profunda: el equilibrio entre la libertad de expresión y el control del riesgo social.
Los sistemas de IA en sí mismos no tienen moralidad. Son modelos estadísticos entrenados en datos. Lo que se les permite generar está enteramente determinado por las elecciones de diseño humano y las limitaciones políticas.
A medida que los sistemas se vuelven más poderosos, estas restricciones se vuelven más estrictas, no porque los modelos sean “moralmente conscientes”, sino porque las consecuencias del fracaso se vuelven más graves.
En breve: Los límites de la IA reflejan los límites de la sociedad misma.
Es probable que las discusiones futuras se centren no sólo en lo que la IA puede hacer, sino también en cómo los usuarios intentan eludir estas limitaciones mediante ingeniería rápida y “jailbreaking”.