Elon Musk يحاول تحقيق الربح من إساءة استخدام Grok Deepfake

في يوم الجمعة، أضافت منصة التواصل الاجتماعي X التي يملكها إيلون ماسك بعض القيود الطفيفة على روبوت الدردشة الذكي Grok بعد ردود الفعل السلبية بشأن استخدام الأداة الذكية لتعديل صور المستخدمين على X لإنشاء صور عميقة مسيئة جنسياً للنساء والأطفال. ومع ذلك، لا يشتري الجميع هذه الخطوة.

الروبوت الذكي الآن يمنع المستخدمين من إنشاء أو تعديل الصور عند الإشارة إلى Grok في منشور على X، إلا إذا كانوا مشتركين في الخدمة المدفوعة.

“تقتصر ميزات إنشاء وتعديل الصور حالياً على المشتركين المدفوعين. يمكنك الاشتراك لفتح هذه الميزات”، نشر روبوت Grok، الذي ليس متحدثاً رسمياً، يوم الخميس على X رداً على مستخدم.

ومع ذلك، كما أشار موقع The Verge في البداية، فإن هذا البيان ليس دقيقاً تماماً. لا تزال أدوات الصور الخاصة بـ Grok متاحة مجاناً عندما يصل المستخدمون إلى الروبوت من خلال موقع Grok أو التطبيق أو علامات Grok على تطبيق X وموقعه. يمكن للمستخدمين أيضاً توجيه Grok لتعديل الصور باستخدام زر “تعديل الصورة” على موقع X لسطح المكتب أو بالضغط المطول على أي صورة على تطبيقه المحمول.

لقد تعرضت فكرة تقييد أدوات الصور الخاصة بالروبوت للمشتركين المدفوعين كحل لانتقادات حادة. ووصفت متحدثة باسم داونينغ ستريت الخطوة بأنها “إهانة لضحايا الكراهية الجنسية والعنف الجنسي”. وقد سارعت المملكة المتحدة، جنباً إلى جنب مع العديد من الحكومات الأخرى، للاتصال بـ X لمعالجة مشكلة الصور العميقة.

“إن هذه الخطوة تحول ببساطة ميزة الذكاء الاصطناعي التي تسمح بإنشاء صور غير قانونية إلى خدمة مدفوعة”، قالت المتحدثة لصحيفة The Guardian.

منذ أواخر الشهر الماضي، بدأ بعض مستخدمي X في استخدام Grok لإنشاء صور جنسية من صور نشرها مستخدمون آخرون على المنصة دون موافقتهم، بما في ذلك صور تتضمن قاصرين.

وجد باحث في وسائل التواصل الاجتماعي والصور العميقة أن Grok أنتج حوالي 6,700 صورة مثيرة أو مخلية للحياء في الساعة خلال فترة 24 ساعة في أوائل يناير، حسبما أفادت بلومبرغ يوم الأربعاء.

قالت الهيئة التنظيمية البريطانية، Ofcom، في وقت سابق من هذا الأسبوع إنها اتصلت بالشركة بشأن هذه القضية وحذرتها من أنها قد تفتح تحقيقاً في ما إذا كانت X تمتثل لقوانين البلاد.

كما أن المفوضية الأوروبية تبحث في ما إذا كانت X تمتثل لقوانينها وقد أمرت X بالاحتفاظ بجميع الوثائق الداخلية المتعلقة بـ Grok حتى نهاية العام.

في هذه الأثناء، أخبر السيناتور رون ويدن موقع Gizmodo أن روبوتات الدردشة الذكية ليست مشمولة بموجب القسم 230، وهو قانون يحمي المنصات الإلكترونية من المسؤولية عن الأفعال غير القانونية التي يرتكبها المستخدمون.

“كما قلت من قبل، فإن روبوتات الدردشة الذكية ليست محمية بموجب القسم 230 للمحتوى الذي تنتجه، ويجب أن تتحمل الشركات المسؤولية الكاملة عن النتائج الإجرامية والضارة لذلك المحتوى. يجب على الولايات التدخل لمحاسبة X وماسك إذا لم تفعل وزارة العدل الأمريكية ذلك”، قال ويدن.

هذه ليست المرة الأولى التي يسبب فيها Grok مشاكل لـ X. في العام الماضي، أدى تحديث كان يهدف إلى معالجة ما وصفه ماسك بـ “التحيز المتمركز نحو اليسار” إلى جعل Grok ينتج دعاية معادية للسامية، حتى أنه أشار إلى نفسه باسم “ميكا هتلر”.

ولا يبدو أن هذه الجدل تساعد في الوضع المالي للشركة. أفادت بلومبرغ أن xAI، الشركة الأم لـ X و Grok، سجلت خسارة صافية قدرها 1.46 مليار دولار للربع المنتهي في سبتمبر، واستنفدت 7.8 مليار دولار في الأشهر التسعة الأولى من العام.

تواجه X أيضاً تداعيات مالية خاصة بها. انخفضت إيرادات الشركة في المملكة المتحدة بنحو 60% في 2024 حيث هرب المعلنون من المنصة، وفقاً لصحيفة The Guardian.

بينما قد يبدو غريباً أن ماسك لم يتخذ إجراءات أقوى لمعالجة الجدل، إلا أن أي من ذلك لم يبدو أنه أبطأ حماس المستثمرين. أعلنت xAI هذا الأسبوع أنها جمعت 20 مليار دولار في أحدث جولة تمويل لها.

عند الاتصال للتعليق، ردت xAI على Gizmodo عبر بريد إلكتروني قائلة: “أكاذيب وسائل الإعلام التقليدية”.

من ناحية أخرى، أشارت X إلى بيان نشرته في 3 يناير.

“نتخذ إجراءات ضد المحتوى غير القانوني على X، بما في ذلك المواد المتعلقة بسوء معاملة الأطفال، من خلال إزالته، وتعليق الحسابات بشكل دائم، والعمل مع الحكومات المحلية وإنفاذ القانون حسب الحاجة”، نشر حساب السلامة الخاص بالشركة على X. “أي شخص يستخدم أو يحث Grok على إنتاج محتوى غير قانوني سيتعرض لنفس العواقب كما لو كان قد رفع محتوى غير قانوني.”