01. בקשות אסורות
במהלך השנה האחרונה, כל מי שמבלה עם דגמי שפה גדולים כנראה נתקל במשהו שנקרא "מדיניות בטיחות". אתה מקליד הנחיה - לפעמים מעט מרמזת, לפעמים רק אקספרסיבית ויזואלית - ומצפה לפלט יצירתי. במקום זאת, אתה מקבל הודעת סירוב.
בדרך כלל זה נראה כך: "מצטערים, בקשתך מפרה את מדיניות הבטיחות שלנו."
בין אם אתה משתמש ב-ChatGPT, Gemini או בדגמים מרכזיים אחרים, התוצאה לרוב זהה: המערכת מסרבת על הסף. אפילו מערכות ליצירת תמונות יחסמו פלטים אלימים או מבוגרים.
למשתמשים, זה יכול להרגיש כמו ללכת למסעדה יוקרתית ולהזמין אוכל חריף, רק כדי שיגישו להם ירקות מבושלים רגילים עם ההסבר: "למען ביטחונכם, אנחנו לא מגישים מנות חריפות."
זה מעלה שאלה פשוטה: מדוע מערכות הבינה המלאכותית החזקות ביותר של ימינו - המסוגלות לכתוב מאמרים, לפתור מתמטיקה ולייצר תמונות - הופכות כל כך מגבילות כשזה מגיע לתוכן NSFW?
02. שני עולמות: פלטפורמות סגורות לעומת מערכות אקולוגיות בקוד פתוח
דגמים מסחריים במקור סגור: "פארק השעשועים המנוהל"
חשבו על חברות כמו OpenAI או גוגל כמפעילות של פארק שעשועים ענק ומנוהל בקפידה. הם השקיעו משאבים אדירים כדי לבנות סביבה בטוחה ואמינה שמיליוני משתמשים יכולים לגשת אליה מדי יום.
עכשיו דמיינו לעצמכם מבקר אחד פתאום מתנהג בצורה לא הולמת באמצע הפארק - מתעלם מכללים, חושף את עצמו או גורם נזק לאחרים.
מנקודת המבט של המפעיל, התגובה היא מיידית: הסר את המשתמש. אם הם לא יפעלו במהירות, הרגולטורים עלולים להתערב, אמון הציבור עלול לקרוס, והעסק כולו עלול להיות בסיכון.
זו המציאות איתה מתמודדים ספקי AI מסחריים. עבורם, תוכן NSFW הוא לא רק נושא טכני - הוא מהווה סיכון משפטי, מוניטין ופיננסי.
כתוצאה מכך, רוב החברות נוקטות אסטרטגיה פשוטה: עדיף לחסום יותר מדי מאשר לאפשר למשהו קטסטרופלי לעבור.
מודלים של קוד פתוח: "המערב הפרוע"
בצד השני נמצאת המערכת האקולוגית בקוד פתוח (לדוגמה, Stable Diffusion ומודלים נלווים). לאחר שחרור משקולות הדגם, כל אחד יכול להפעיל אותם באופן מקומי, לשנות אותם ולהסיר לחלוטין מסנני בטיחות.
זה יוצר סביבה שונה מאוד - גמישה יותר, יותר ניסיונית, אבל גם פחות מבוקרת.
03. כיצד מערכות AI מגבילות תוכן NSFW
זוהי טעות נפוצה שבטיחות מיושמת באמצעות מסנני מילות מפתח פשוטים, כגון:
if (מכיל_מילים_רגישות) {
reject_request;
}
במציאות, מערכות הבטיחות המודרניות הן מרובדות ומורכבות הרבה יותר.
שכבה 1: סינון טרום-דור
לפני שהנחיה מגיעה למודל, היא מוערכת לרוב על ידי מערכת ניהול נפרדת. אם הקלט מסומן כמסוכן, הוא נחסם מיד ולעולם לא מגיע לדגם הראשי.
לאחר היצירה, מסננים נוספים עשויים גם לסרוק את הפלט לפני שהוא מוצג למשתמש. אם התוכן נחשב לא בטוח, הוא נחסם או יוסר.
זה כולל זיהוי של עירום, אלימות וקטגוריות רגישות אחרות.
שכבה 2: RLHF (לימוד חיזוק ממשוב אנושי)
מנגנון חשוב יותר הוא RLHF, שמיישר את התנהגות המודל עם הציפיות האנושיות.
במהלך האימון, המודל מוצג שוב ושוב דוגמאות של תגובות ומדורג על ידי סוקרים אנושיים. פלטים שמפרים את כללי הבטיחות מקבלים משוב שלילי, בעוד שתגובות בטוחות ומתאימות מתוגמלות.
עם הזמן, המודל לומד להימנע מדפוסים מסוימים. הוא מפתח נטייה פנימית לסרב לבקשות רגישות או להגיב בנימה זהירה ונייטרלי.
04. עלות ההתאמה: "סירוב יתר"
לתהליך יישור קפדני זה יש פשרה, המכונה לעתים קרובות "מס יישור".
כדי למנוע תפוקות מזיקות, הדגמים מאומנים להימנע מכל דבר שדומה אפילו לתוכן רגיש. עם זאת, זה גם יכול להפוך אותם לשמרנים מדי.
לדוגמה, דוגמנית עשויה לסרב:
- התייחסויות לאמנות הכוללות עירום, אפילו בהקשרים היסטוריים
- דיונים רפואיים או אנטומיים המזכירים אלימות
- סצנות בדיוניות הכוללות עישון או התנהגויות מסוכנות אחרות
כתוצאה מכך, המערכת הופכת לפעמים פחות גמישה ופחות שימושית למשימות יצירתיות או חינוכיות לגיטימיות. תופעה זו מתוארת לעתים קרובות כ סירוב יתר.
05. שני נתיבים: מערכות מבוקרות מול חופש פתוח
המערכת האקולוגית של AI התפצלה למעשה לשני כיוונים.
מערכות סגורות נותנות עדיפות לבטיחות, תאימות והגנה על המותג. הם נשלטים בקפידה, מסוננים בכבדות ונועד למזער סיכונים.
מערכות קוד פתוח נותנות עדיפות לגמישות ושליטה על המשתמש. משתמשים יכולים לשנות מודלים באופן חופשי, אך חייבים גם לקחת אחריות על אופן השימוש בהם.
במקרה אחד, אתה נמצא בתוך סביבה מווסתת מאוד. באחר, אתה פועל למעשה במרחב מחשוב בלתי מוגבל.
06. מחשבות אחרונות
הוויכוח על תוכן NSFW ב-AI משקף מתח עמוק יותר: האיזון בין חופש הביטוי ובקרת סיכונים חברתית.
למערכות AI עצמן אין מוסר. הם מודלים סטטיסטיים מאומנים על נתונים. מה שהם רשאים לייצר נקבע לחלוטין על ידי בחירות עיצוב אנושיות ומגבלות מדיניות.
ככל שהמערכות הופכות חזקות יותר, האילוצים הללו נעשים מחמירים יותר - לא בגלל שהמודלים "מודעים מוסרית", אלא בגלל שההשלכות של הכישלון הופכות חמורות יותר.
בקיצור: גבולות הבינה המלאכותית משקפים את גבולות החברה עצמה.
דיונים עתידיים יתמקדו ככל הנראה לא רק במה שבינה מלאכותית יכולה לעשות, אלא גם כיצד המשתמשים מנסים לעקוף את האילוצים הללו באמצעות הנדסה מהירה ו"פריצת כלא".