تستخدم محتويات NSFW أكثر من "نصف" حركة المرور، حسب تقرير جديد.
Cheng Xin/Getty Images xAI قد عرفت منذ فترة طويلة عن Grok كنوع أكثر جرأة من روبوت الدردشة مع عدد أقل من حواجز الأمان مقارنة بشركات الذكاء الاصطناعي الأخرى. لقد رأينا كيف أن هذه الاستراتيجية قد أدت إلى بعض النتائج الكارثية على مدار العام الماضي، لكننا الآن نحصل على بعض الرؤى حول سبب اعتماد الشركة بشكل كبير على هذه الاستراتيجية على الرغم من بعض الكوارث الفعلية في العلاقات العامة.
اتضح أن الأنشطة المتعلقة بمحتويات NSFW تمثل "أكثر من نصف" حركة مرور Grok، وفقًا لتقرير جديد في The Information الذي يستند إلى قول اثنين من الموظفين السابقين في الشركة المملوكة لـ SpaceX. ويشمل ذلك استخدام Grok لإنشاء محتوى إباحي فعلي، بالإضافة إلى "دردشات لعب الأدوار للبالغين" و"أحجام ضخمة من الطلبات للإباحية."
ويبدو أن مستخدمي Grok قد اكتشفوا أيضًا أنه من الأرخص توجيه مثل هذه الطلبات من خلال نماذج الشركة المخصصة لكتابة الشفرات، لأن تلك النماذج أرخص في الاستخدام. يقول التقرير إن تحليلًا داخليًا وجد أن "نسبة كبيرة من الطلبات" لنموذج الترميز كانت من أجل "إباحية أو صور عارية." كل ذلك يشير إلى أن SpaceX يمكن أن تنسب قدرًا معقولاً من إيرادات xAI إلى الإعلانات والمحتوى الخاص بالبالغين. على الرغم من أن دور المحتويات المتعلقة بـ NSFW في إيرادات الشركة تم حذفه بطريقة ما من أوراق الطرح العام الأولي للشركة، أخبرت SpaceX المستثمرين المحتملين أن ميزات Grok الأكثر "كسرًا للحدود" كانت خطرًا محتملاً. قالت إنها قد خصصت 530 مليون دولار للتعامل مع التكاليف القانونية المحتملة.
كما يوضح التقرير بعض الطرق التي قد تعقد الأمور داخل الشركة الذكية هذه. من ناحية، كان على مهندسي xAI أن يجدوا طريقة لتمكين Grok من إجراء دردشات مثيرة مع المستخدمين مع حظر أي محفزات قد تنحرف نحو مواد اعتداء جنسي على الأطفال. (كان هناك، على ما يبدو، "حلول سريعة" لهذه المعضلة.)
كان بعض الموظفين أيضًا غير متحمسين لتكليفهم بالعمل على "Ani"، رفيق Grok المستوحى من الرسوم المتحركة للبالغين. بينما أفادت تقارير أن آخرين كانوا "محرجين ومضطربين" بسبب الفضيحة التي تلت إنشاء Grok مجموعة من الصور ذات الطابع الجنسي للأشخاص الحقيقيين، بما في ذلك الأطفال. لاحقًا، قامت X بتحديد القدرة على إنشاء تعديلات فاضحة من صور الأشخاص الحقيقيين باستخدام Grok مباشرة على المنصة، لكن المشتركين المدفوعين في xAI لا يزال بإمكانهم إنشاء مثل هذه المواد، وقد أظهرت الاختبارات ذلك.
هناك تحديات محتملة أخرى قد تنشأ من تركيز Grok على المواد المخصصة للبالغين. لقد سعت xAI بشكل مكثف لعقود حكومية ووقعت صفقات مع وكالات مختلفة والجيش، وهي مؤسسات قد تتوقع منها عادةً تحمل القليل جدًا لأي شيء يقترب من NSFW. ولكن بينما أدت علاقات Grok العامة السابقة في غير القصد إلى الفخاخ العميقة وCSAM إلى العديد من الدعاوى القضائية والتحقيقات، فليس من الواضح ما إذا كانت تلك الحوادث قد أثرت على علاقتها بالحكومة الفيدرالية.