Grok يقيّد توليد الصور للمستخدمين المدفوعين بعد ردود الفعل العالمية

بدأت Grok، الدردشة الذكية المدعومة من إيلون ماسك، في تقييد أدوات توليد الصور والتحرير للمشتركين المدفوعين. جاء هذا التغيير بعد موجة من الانتقادات بشأن قدرة الأداة على إنتاج صور غير consensual ذات طابع جنسي. بينما يُعتبر هذا التقييد محاولة للحد من الجدل، يجادل المنظمون والمجموعات المدافعة عن الحقوق والمستخدمون بأن ذلك لا يكفي لوقف إنشاء محتوى ضار وغير قانوني محتمل يتعلق بالنساء والأطفال.

اعتبارًا من يوم الخميس، قامت Grok رسميًا بنقل ميزات صنع الصور خلف جدار الدفع الخاص بـ X Premium، الذي يبدأ من 8 دولارات شهريًا

ومع ذلك، تم السخرية من هذه الخطوة باعتبارها حلاً "مثقوبًا". بينما قد يتم حظر المستخدمين العاديين على X، تظل أدوات التوليد متاحة مجانًا من خلال موقع Grok المستقل وتطبيقه المحمول. هذه الثغرة تقوض بشكل فعال ادعاء المنصة بأنها تتخذ موقفًا صارمًا ضد سوء الاستخدام، مما يترك أكثر الأدوات خطورة في متناول الجمهور.

لا يقتنع الباحثون في مجال السلامة والمراقبون الرقميون بأن متطلبات بطاقة الائتمان تحل المشكلة. في الواقع، يجادل الكثيرون بأنها ت monetizes الإساءة. وفقًا للباحثة في مجال deepfake، جينيفيف أوه، كانت Grok لا تزال تنتج أكثر من 1500 صورة ضارة كل ساعة حتى بعد أن دخل جدار الدفع حيز التنفيذ - مما يمثل حوالي 60% من إجمالي إنتاجها العام من الصور. تشير بيانات أوه إلى أن Grok تنتج حاليًا محتوى جنسيًا بمعدل يفوق حتى أكثر المواقع "nudify" شهرة.

التداعيات وصلت إلى أعلى مستويات الحكومة الأمريكية

قام السيناتور الديمقراطي رون ويدن وإدوارد ج. ماركي وبن راي لوجان مؤخرًا بإرسال رسالة إلى الرؤساء التنفيذيين لشركتي آبل وجوجل، مطالبين بإزالة X من متاجر التطبيقات الخاصة بهم. جادل السيناتور بأن السماح لهذه الأدوات بالاستمرار يظهر "ازدراءً كاملاً" لقواعد السلامة التي يتعين على كل مطور تطبيق آخر اتباعها.

يضغط الضغط الدولي أيضًا على نقطة الغليان. وقد انتقد المسؤولون في المملكة المتحدة والهند جدار الدفع باعتباره استجابة غير كافية. وصف متحدث باسم رئيس الوزراء البريطاني هذه الخطوة بأنها "مهينة" للضحايا، مشيرًا إلى أن X ببساطة تحول أزمة السلامة إلى مصدر إيرادات متميز. وقد شارك الضحايا قصصًا مماثلة؛ حيث أفادت الناشطة جيس ديفيس أن Grok لا تزال قادرة على "خلع" صورة لها رقميًا من خلال تطبيقها المستقل صباح يوم الجمعة، على الرغم من القيود المفترضة.

من المثير للاهتمام أن الجدل يبدو أنه يوفر دفعة مالية مشوهة للمنصة

تُظهر تقديرات Sensor Tower أن إيرادات الشراء داخل التطبيق على X قفزت بنسبة 18% يوم الخميس وحده. تشير هذه الزيادة إلى أن الدافع للوصول إلى "وضع Grok الحار" قد يساعد فعليًا في تحسين الوضع المالي المتعثر لـ X.

يحذر الخبراء القانونيون من أن هذه التدابير نصفية لن تصمد طويلاً في المحكمة. وصف المدعي العام في نورث كارولينا، جيف جاكسون، وضع Grok بأنه "نقطة تحول" لسلامة الذكاء الاصطناعي، مشيرًا إلى مدى سهولة استخدام هذه الأنظمة كأسلحة. جادل بأن عصر "التحرك بسرعة وكسر الأشياء" يواجه جدارًا عندما يتعلق الأمر بكرامة وسلامة المواطنين.

مع اقتراب الجدران، تواجه X خيارًا صارخًا: تنفيذ حواجز تقنية حقيقية وصعبة أو مواجهة انقطاع كامل في متاجر التطبيقات الرئيسية والأسواق الدولية. سواء اختار إيلون ماسك تشديد البرمجيات نفسها - بدلاً من مجرد الوصول إليها - سيحدد ما إذا كانت Grok لديها مستقبل كأداة شرعية أو إذا أصبحت منبوذة في عصر الذكاء الاصطناعي التوليدي.