01. Richieste vietate
Nell’ultimo anno, chiunque abbia trascorso del tempo usando i modelli linguistici di grandi dimensioni si sarà probabilmente imbattuto in una cosiddetta «politica di sicurezza». Si inserisce un prompt, a volte appena allusivo, altre volte semplicemente molto espressivo sul piano visivo, aspettandosi un risultato creativo. Al suo posto, arriva un messaggio di rifiuto.
Di solito è formulato così: «Spiacenti, la tua richiesta viola la nostra politica di sicurezza».
Che si usi ChatGPT, Gemini o un altro modello importante, il risultato è spesso lo stesso: il sistema rifiuta categoricamente la richiesta. Anche i sistemi per la generazione di immagini bloccano contenuti violenti o per adulti.
Per gli utenti può essere come andare in un ristorante di alto livello e ordinare un piatto piccante, per poi vedersi servire delle semplici verdure bollite con questa spiegazione: «Per la tua sicurezza, non serviamo piatti piccanti».
Da qui nasce una domanda molto semplice: perché i sistemi di AI più potenti di oggi, capaci di scrivere saggi, risolvere problemi matematici e generare immagini, diventano così restrittivi quando si parla di contenuti NSFW?
02. Due mondi: piattaforme chiuse ed ecosistemi open source
Modelli commerciali closed source: il «parco a tema sorvegliato»
Immaginiamo aziende come OpenAI o Google nel ruolo di gestori di un enorme parco a tema, controllato con grande attenzione. Hanno investito ingenti risorse per costruire un ambiente sicuro e affidabile, accessibile ogni giorno a milioni di utenti.
Ora immaginiamo che un visitatore inizi improvvisamente a comportarsi in modo inappropriato nel bel mezzo del parco, ignorando le regole, denudandosi o facendo del male agli altri.
Dal punto di vista del gestore, la reazione è immediata: allontanare l’utente. Se non interviene in fretta, potrebbero agire le autorità di regolamentazione, la fiducia del pubblico potrebbe crollare e l’intera attività rischierebbe di subirne le conseguenze.
Questa è la realtà che devono affrontare i fornitori commerciali di AI. Per loro, i contenuti NSFW non sono soltanto un problema tecnico: rappresentano un rischio legale, reputazionale e finanziario.
Di conseguenza, la maggior parte delle aziende adotta una strategia semplice: meglio bloccare troppo che lasciar passare qualcosa dalle conseguenze catastrofiche.
Modelli open source: il «Far West»
Dall’altra parte c’è l’ecosistema open source, che comprende per esempio Stable Diffusion e i modelli affini. Una volta pubblicati i pesi di un modello, chiunque può eseguirlo in locale, modificarlo ed eliminare completamente i filtri di sicurezza.
Si crea così un ambiente molto diverso: più flessibile e più aperto alla sperimentazione, ma anche meno controllato.
03. Come i sistemi di AI limitano i contenuti NSFW
È opinione comune, ma errata, che la sicurezza venga gestita con semplici filtri basati su parole chiave, per esempio:
if (contains_sensitive_words) {
reject_request;
}
In realtà, i moderni sistemi di sicurezza sono articolati su più livelli e molto più complessi.
Livello 1: filtraggio prima della generazione
Prima che un prompt raggiunga il modello, spesso viene valutato da un sistema di moderazione separato. Se l’input viene segnalato come rischioso, è bloccato immediatamente e non arriva mai al modello principale.
Dopo la generazione, ulteriori filtri possono analizzare anche l’output prima che venga mostrato all’utente. Se il contenuto è considerato non sicuro, viene bloccato o rimosso.
Questo processo comprende il rilevamento di nudità, violenza e altre categorie sensibili.
Livello 2: RLHF (apprendimento per rinforzo dal feedback umano)
Un meccanismo ancora più importante è l’RLHF, che allinea il comportamento del modello alle aspettative umane.
Durante l’addestramento, al modello vengono mostrati ripetutamente esempi di risposte, che vengono poi classificati da valutatori umani. Gli output che violano le regole di sicurezza ricevono un feedback negativo, mentre le risposte sicure e appropriate vengono premiate.
Nel tempo, il modello impara a evitare determinati schemi. Sviluppa una tendenza interna a rifiutare le richieste sensibili oppure a rispondere con un tono cauto e neutro.
04. Il costo dell’allineamento: il «rifiuto eccessivo»
Questo rigoroso processo di allineamento comporta un compromesso, spesso definito «costo dell’allineamento».
Per prevenire output dannosi, i modelli vengono addestrati a evitare tutto ciò che abbia anche solo l’apparenza di un contenuto sensibile. Questo, però, può renderli fin troppo prudenti.
Per esempio, un modello potrebbe rifiutare:
- Riferimenti artistici che includono nudità, anche in contesti storici
- Discussioni mediche o anatomiche in cui si parla di violenza
- Scene di fantasia che includono il fumo o altri comportamenti rischiosi
Di conseguenza, a volte il sistema diventa meno flessibile e meno utile per attività creative o didattiche del tutto legittime. Questo fenomeno viene spesso definito rifiuto eccessivo.
05. Due percorsi: sistemi controllati e libertà aperta
L’ecosistema dell’AI si è di fatto diviso in due direzioni.
I sistemi chiusi danno priorità alla sicurezza, alla conformità normativa e alla tutela del marchio. Sono sottoposti a controlli e filtri rigorosi e progettati per ridurre al minimo i rischi.
I sistemi open source privilegiano la flessibilità e il controllo da parte dell’utente. Gli utenti possono modificare liberamente i modelli, ma devono anche assumersi la responsabilità del modo in cui vengono utilizzati.
Nel primo caso ci si trova all’interno di un ambiente fortemente regolamentato. Nel secondo, si opera di fatto in uno spazio informatico privo di restrizioni.
06. Considerazioni finali
Il dibattito sui contenuti NSFW nell’AI riflette una tensione più profonda: l’equilibrio tra libertà di espressione e controllo dei rischi per la società.
I sistemi di AI non hanno una morale. Sono modelli statistici addestrati su dati. Ciò che possono generare dipende interamente dalle scelte progettuali umane e dai vincoli imposti dalle politiche.
Man mano che i sistemi diventano più potenti, questi vincoli si fanno più rigidi. Non perché i modelli siano «consapevoli sul piano morale», ma perché le conseguenze di un errore diventano più gravi.
In breve: i limiti dell’AI riflettono i limiti della società stessa.
In futuro, il dibattito si concentrerà probabilmente non soltanto su ciò che l’AI può fare, ma anche sui modi in cui gli utenti cercano di aggirare questi vincoli attraverso il prompt engineering e il «jailbreaking».