01. Solicitações Proibidas
No ano passado, qualquer pessoa que tenha passado algum tempo com grandes modelos de linguagem, provavelmente deparou-se com algo chamado “política de segurança”. Escreve um prompt – por vezes um pouco sugestivo, outras vezes apenas visualmente expressivo – e espera um resultado criativo. Em vez disso, recebe uma mensagem de recusa.
Geralmente é assim: “Desculpe, o seu pedido viola a nossa política de segurança.”
Quer utilize o ChatGPT, o Gemini ou outros modelos importantes, o resultado é geralmente o mesmo: o sistema recusa completamente. Até os sistemas de geração de imagens bloquearão saídas violentas ou com temática adulta.
Para os utilizadores, pode ser como ir a um restaurante sofisticado e pedir comida picante, apenas para serem servidos legumes cozidos simples com a explicação: “Para sua segurança, não servimos pratos picantes.”
Isto levanta uma questão simples: porque é que os sistemas de IA mais poderosos de hoje – capazes de escrever ensaios, resolver matemática e gerar imagens – se tornam tão restritivos quando se trata de conteúdo NSFW?
02. Dois mundos: plataformas fechadas versus ecossistemas de código aberto
Modelos comerciais de código fechado: o “parque temático gerido”
Pense em empresas como a OpenAI ou a Google como operadoras de um parque temático enorme e cuidadosamente gerido. Investiram enormes recursos para construir um ambiente seguro e fiável, ao qual milhões de utilizadores possam aceder todos os dias.
Agora imagine que um visitante se comporta subitamente de forma inadequada no meio do parque – ignorando as regras, expondo-se ou causando danos a outras pessoas.
Do ponto de vista do operador, a resposta é imediata: retirar o utilizador. Se não agirem rapidamente, os reguladores poderão intervir, a confiança pública poderá entrar em colapso e todo o negócio poderá estar em risco.
Esta é a realidade enfrentada pelos fornecedores comerciais de IA. Para eles, o conteúdo NSFW não é apenas uma questão técnica – é um risco legal, de reputação e financeiro.
Como resultado, a maioria das empresas adota uma estratégia simples: é melhor bloquear demasiado do que permitir que algo catastrófico passe.
Modelos de código aberto: o “oeste selvagem”
Do outro lado está o ecossistema de código aberto (por exemplo, Difusão Estável e modelos relacionados). Assim que os pesos dos modelos forem libertados, qualquer pessoa poderá executá-los localmente, modificá-los e remover totalmente os filtros de segurança.
Isto cria um ambiente muito diferente – mais flexível, mais experimental, mas também menos controlado.
03. Como os sistemas de IA restringem o conteúdo NSFW
É um equívoco comum pensar que a segurança é implementada com filtros simples de palavras-chave, tais como:
if (contains_sensitive_words) {
reject_request;
}
Na realidade, os sistemas de segurança modernos são por camadas e muito mais complexos.
Camada 1: Filtragem de pré-geração
Antes de um aviso chegar ao modelo, é geralmente avaliado por um sistema de moderação separado. Se a entrada for sinalizada como arriscada, será bloqueada imediatamente e nunca chegará ao modelo principal.
Após a geração, os filtros adicionais também podem verificar a saída antes de esta ser mostrada ao utilizador. Se o conteúdo for considerado inseguro, será bloqueado ou removido.
Isto inclui a deteção de nudez, violência e outras categorias sensíveis.
Camada 2: RLHF (Aprendizagem por Reforço com Feedback Humano)
Um mecanismo mais importante é o RLHF, que alinha o comportamento do modelo com as expectativas humanas.
Durante o treino, o modelo recebe repetidamente exemplos de respostas e é classificado por revisores humanos. Os resultados que violam as regras de segurança recebem feedback negativo, enquanto as respostas seguras e adequadas são recompensadas.
Com o tempo, o modelo aprende a evitar determinados padrões. Desenvolve uma tendência interna para recusar pedidos delicados ou responder num tom cauteloso e neutro.
04. O custo do alinhamento: “recusa excessiva”
Este processo de alinhamento rigoroso tem um compromisso, muitas vezes referido como “imposto de alinhamento”.
Para evitar resultados prejudiciais, os modelos são treinados para evitar tudo o que se assemelhe a conteúdo confidencial. No entanto, isto também pode torná-los excessivamente conservadores.
Por exemplo, um modelo pode recusar:
- As referências artísticas que envolvem nudez, mesmo em contextos históricos
- Discussões médicas ou anatómicas que mencionam violência
- Cenas fictícias que envolvem o tabagismo ou outros comportamentos de risco
Como resultado, o sistema torna-se por vezes menos flexível e menos útil para tarefas criativas ou educativas legítimas. Este fenómeno é frequentemente descrito como recusa excessiva.
05. Dois caminhos: sistemas controlados versus liberdade aberta
O ecossistema da IA dividiu-se efetivamente em duas direções.
Os sistemas fechados priorizam a segurança, a conformidade e a proteção da marca. São rigorosamente controlados, fortemente filtrados e concebidos para minimizar o risco.
Os sistemas de código aberto priorizam a flexibilidade e o controlo do utilizador. Os utilizadores podem modificar os modelos livremente, mas também devem assumir a responsabilidade pela forma como são utilizados.
Num caso, está dentro de um ambiente altamente regulamentado. No outro, está efetivamente a operar num espaço computacional irrestrito.
06. Considerações Finais
O debate sobre o conteúdo NSFW na IA reflecte uma tensão mais profunda: o equilíbrio entre a liberdade de expressão e o controlo dos riscos sociais.
Os próprios sistemas de IA não têm moralidade. São modelos estatísticos treinados em dados. O que lhes é permitido gerar é inteiramente determinado pelas escolhas humanas de design e pelas restrições políticas.
À medida que os sistemas se tornam mais poderosos, estas restrições tornam-se mais rigorosas – não porque os modelos sejam “moralmente conscientes”, mas porque as consequências do fracasso se tornam mais graves.
Resumidamente: os limites da IA refletem os limites da própria sociedade.
As discussões futuras irão provavelmente focar-se não só no que a IA pode fazer, mas também na forma como os utilizadores tentam contornar estas restrições através de engenharia imediata e “jailbreaking”.