01. الطلبات المحظورة
خلال العام الماضي، من المرجح أن أي شخص يقضي وقتًا مع نماذج لغوية كبيرة قد واجه ما يسمى "سياسة السلامة". تكتب مطالبة - أحيانًا تكون موحية قليلاً، وأحيانًا معبرة بصريًا فقط - وتتوقع الحصول على مخرجات إبداعية. بدلا من ذلك، تحصل على رسالة رفض.
عادة ما يبدو مثل هذا: "عذرًا، طلبك ينتهك سياسة السلامة لدينا."
سواء كنت تستخدم ChatGPT أو Gemini أو نماذج رئيسية أخرى، فإن النتيجة غالبًا ما تكون هي نفسها: يرفض النظام تمامًا. حتى أنظمة توليد الصور ستمنع المخرجات العنيفة أو ذات الطابع الخاص بالبالغين.
بالنسبة للمستخدمين، يمكن أن يشعروا وكأنهم يذهبون إلى مطعم راقي ويطلبون طعامًا حارًا، فقط ليتم تقديم الخضار المسلوقة مع الشرح: "من أجل سلامتك، لا نقدم الأطباق الحارة."
وهذا يثير سؤالًا بسيطًا: لماذا تصبح أقوى أنظمة الذكاء الاصطناعي اليوم - القادرة على كتابة المقالات وحل الرياضيات وإنشاء الصور - مقيدة للغاية عندما يتعلق الأمر بمحتوى NSFW؟
02. عالمان: منصات مغلقة مقابل أنظمة بيئية مفتوحة المصدر
النماذج التجارية مغلقة المصدر: "المنتزه الترفيهي المُدار"
فكر في شركات مثل OpenAI أو Google كمشغلين لمنتزه ترفيهي ضخم تتم إدارته بعناية. لقد استثمروا موارد هائلة لبناء بيئة آمنة وموثوقة يمكن لملايين المستخدمين الوصول إليها يوميًا.
الآن تخيل أن أحد الزائرين يتصرف فجأة بشكل غير لائق في وسط الحديقة، متجاهلاً القواعد، أو يعرض نفسه، أو يسبب الأذى للآخرين.
من وجهة نظر المشغل، الاستجابة فورية: قم بإزالة المستخدم. وإذا لم يتصرفوا بسرعة، فقد يتدخل المنظمون، وقد تنهار ثقة الجمهور، وقد تتعرض الشركة بأكملها للخطر.
هذا هو الواقع الذي يواجهه مقدمو خدمات الذكاء الاصطناعي التجاريون. بالنسبة لهم، لا يعد محتوى NSFW مجرد مشكلة فنية، بل يمثل خطرًا قانونيًا وماليًا يتعلق بالسمعة.
ونتيجة لذلك، تعتمد معظم الشركات استراتيجية بسيطة: فمن الأفضل منع الكثير من السماح لشيء كارثي بالمرور.
نماذج مفتوحة المصدر: "الغرب المتوحش"
على الجانب الآخر يوجد النظام البيئي مفتوح المصدر (على سبيل المثال، الانتشار المستقر والنماذج ذات الصلة). بمجرد إصدار أوزان النماذج، يمكن لأي شخص تشغيلها محليًا وتعديلها وإزالة مرشحات الأمان بالكامل.
وهذا يخلق بيئة مختلفة تمامًا، أكثر مرونة، وأكثر تجريبية، ولكنها أيضًا أقل تحكمًا.
03. كيف تقوم أنظمة الذكاء الاصطناعي بتقييد محتوى NSFW
من المفاهيم الخاطئة الشائعة أن الأمان يتم تنفيذه باستخدام مرشحات الكلمات الرئيسية البسيطة، مثل:
if (contains_sensitive_words) {
reject_request;
}
في الواقع، أنظمة السلامة الحديثة متعددة الطبقات وأكثر تعقيدًا.
طبقة 1: تصفية ما قبل الجيل
قبل أن تصل المطالبة إلى النموذج، غالبًا ما يتم تقييمها بواسطة نظام إشراف منفصل. إذا تم وضع علامة على الإدخال على أنه محفوف بالمخاطر، فسيتم حظره على الفور ولن يصل أبدًا إلى النموذج الرئيسي.
بعد الإنشاء، قد تقوم عوامل التصفية الإضافية أيضًا بفحص المخرجات قبل عرضها للمستخدم. إذا تم اعتبار المحتوى غير آمن، فسيتم حظره أو إزالته.
يتضمن ذلك الكشف عن العري والعنف والفئات الحساسة الأخرى.
طبقة 2: RLHF (التعلم المعزز من ردود الفعل البشرية)
هناك آلية أكثر أهمية وهي RLHF، والتي تعمل على مواءمة سلوك النموذج مع التوقعات البشرية.
أثناء التدريب، يُعرض على النموذج بشكل متكرر أمثلة على الاستجابات ويتم تصنيفه بواسطة المراجعين البشريين. تتلقى المخرجات التي تنتهك قواعد السلامة ردود فعل سلبية، في حين تتم مكافأة الاستجابات الآمنة والمناسبة.
وبمرور الوقت، يتعلم النموذج تجنب أنماط معينة. يطور ميلاً داخلياً لرفض الطلبات الحساسة أو الاستجابة بنبرة حذرة ومحايدة.
04. تكلفة المواءمة: "الإفراط في الرفض"
تنطوي عملية المواءمة الصارمة هذه على مقايضة، يشار إليها غالبًا باسم "ضريبة المواءمة".
ولمنع المخرجات الضارة، يتم تدريب النماذج على تجنب أي شيء يشبه المحتوى الحساس. ومع ذلك، فإن هذا يمكن أن يجعلهم محافظين بشكل مفرط.
على سبيل المثال، قد يرفض النموذج ما يلي:
- المراجع الفنية التي تتضمن العري، حتى في السياقات التاريخية
- - المناقشات الطبية أو التشريحية التي تذكر العنف
- مشاهد خيالية تتضمن التدخين أو سلوكيات أخرى محفوفة بالمخاطر
ونتيجة لذلك، يصبح النظام في بعض الأحيان أقل مرونة وأقل فائدة للمهام الإبداعية أو التعليمية المشروعة. غالبا ما توصف هذه الظاهرة بأنها الإفراط في الرفض.
05. مساران: الأنظمة الخاضعة للرقابة مقابل الحرية المفتوحة
لقد انقسم النظام البيئي للذكاء الاصطناعي بشكل فعال إلى اتجاهين.
تعطي الأنظمة المغلقة الأولوية للسلامة والامتثال وحماية العلامة التجارية. فهي تخضع لرقابة صارمة، وتصفيتها بشكل كبير، ومصممة لتقليل المخاطر.
تعطي الأنظمة مفتوحة المصدر الأولوية للمرونة والتحكم في المستخدم. يمكن للمستخدمين تعديل النماذج بحرية، ولكن يجب عليهم أيضًا تحمل مسؤولية كيفية استخدامها.
في إحدى الحالات، أنت داخل بيئة شديدة التنظيم. أما في الحالة الأخرى، فأنت تعمل بفعالية في مساحة حوسبة غير مقيدة.
06. الأفكار النهائية
يعكس الجدل الدائر حول محتوى NSFW في الذكاء الاصطناعي توتراً أعمق: التوازن بين حرية التعبير والسيطرة على المخاطر المجتمعية.
أنظمة الذكاء الاصطناعي نفسها ليس لديها أخلاق. وهي نماذج إحصائية مدربة على البيانات. وما يُسمح لهم بإنشائه يتحدد بالكامل من خلال خيارات التصميم البشري وقيود السياسة.
ومع ازدياد قوة الأنظمة، تصبح هذه القيود أكثر صرامة - ليس لأن النماذج "واعية أخلاقيا"، ولكن لأن عواقب الفشل تصبح أكثر خطورة.
باختصار: فحدود الذكاء الاصطناعي تعكس حدود المجتمع نفسه.
ومن المرجح أن تركز المناقشات المستقبلية ليس فقط على ما يمكن أن يفعله الذكاء الاصطناعي، بل وأيضاً على كيفية محاولة المستخدمين تجاوز هذه القيود من خلال الهندسة السريعة و"كسر الحماية".