إيلاف من بيروت: يستخدم الذكاء الاصطناعي اليوم لتحويل صور الأطفال من الإنترنت إلى صور تحريضية ومسيئة. وقد تم تحذير الآباء والأمهات من نشر صور أطفالهم عبر الإنترنت بعد أن اكتشفت صحيفة "تايمز" البريطانية أن بعض مستخدمي موقع Midjourney، وهو موقع لتوليد الصور بالذكاء الاصطناعي، يقومون بإنشاء صور تحريضية للنساء والأطفال والمشاهير.

يستخدم بعض المستخدمين صورًا حقيقية لإنشاء صور ملفقة. وقد أسهم Midjourney، الذي يستخدمه الملايين من الأشخاص لإنشاء صور من نص أو من صورة بسيطة، في إنشاء صور مزيفة فيروسية لدونالد ترمب وللبابا فرنسيس. كما تم استخدام البرنامج أيضًا لإنشاء صور ملفقة مثيرة وغير لائقة لبعض النجمات مثل جنيفر لورانس وكيت أبتون وكيم كارداشيان.

وبحسب "تايمز"، أنشأ أحد مستخدمي الموقع أكثر من 57 ألف صورة من هذا النوع لأبتون وحدها منذ أكتوبر الماضي.

صديق للعائلة

تزايدت شعبية هذا البرنامج في الأسابيع الأخيرة بعد إصدار نسخة جديدة منه زادت من واقعية الصور التي ينتجها. يقوم المستخدمون بالتسجيل في موقع Discord، وهو منصة اتصال تم استخدامها لمشاركة تسريبات البنتاغون الأخيرة. ثم يتم تحميل إبداعاتهم على موقع Midjourney في معرض عام.

ثمة أكثر من 14 مليون عضو في Midjourney على منصة Discord، وهو أكبر مجموعة واحدة على المنصة الاجتماعية. تقول الشركة إن المحتوى يجب أن يكون مصنفاً "PG-13 وصديق للعائلة"، لكنها تحذر أيضًا من أن التقنية جديدة "لا تعمل دائمًا كما هو متوقع"، مع عدم وجود ضمانات للعملاء.

تنتهك الصور التي اكتشفتها صحيفة "تايمز" شروط استخدام Midjourney و Discord ويمكن في بعض الحالات أن تكون غير قانونية في إنكلترا وويلز، حيث يحظر المحتوى من هذا النوع. ومقرر أيضًا تجريم الأفلام الإباحية (deepfake) في إنكلترا وويلز من خلال قانون السلامة عبر الإنترنت الذي متوقع أن يتم تطبيقه بشكل كامل في عام 2024.

غير قانونية وغير مقبولة

وقال ريتشارد كولارد، نائب رئيس سياسة سلامة الأطفال عبر الإنترنت: "من غير المقبول تمامًا أن يسهل موقعا Discord و Midjourney إنشاء واستضافة تصوير مهين ومسيء ومحرض على الجنس للأطفال. وفي بعض الحالات، تكون هذه المواد غير قانونية بموجب القانون البريطاني ومن طريق استضافة محتوى إساءة معاملة الأطفال، فإنهم يعرضون الأطفال لخطر حقيقي للأذى".

حاول Midjourney وقف تدفق المحتوى التحريضي بحظر مجموعة من الكلمات الدالة على الجنس. واعترف ديفيد هولز، مؤسس Midjourney ورئيسه التنفيذي، مؤخرًا بأن الشركة تعاني صعوبةً في سن قواعد للمحتوى "بسبب زيادة نسبة واقعية الصور وتزايد قوة الأدوات المستخدمة".

وفي استجابة لاستنتاجات الصحيفة البريطانية، قال موقع Midjourney إنه سيحظر كل مستخدم يخالف قواعده. أضاف هولز في رسالة إلكترونية: "في الأشهر القليلة الماضية، عملنا على إنشاء مراقب للذكاء الاصطناعي قابل للتوسع، بدأنا في اختباره مع قاعدة المستخدمين في الأسبوع الماضي".

تقترح بارونيس كيدرون، رئيسة مؤسسة 5Rights التي تدافع عن سلامة الأطفال عبر الإنترنت، بعد التعديلات على قانون السلامة عبر الإنترنت: "أشعر بالخوف من سرعة ما يحدث. يمكن أن يستغرق إنشاء صورة مسيئة للأطفال أقل من خمس ثوانٍ بكتابة إشارات إرشادية".

وقال المتحدث باسم منصة Discord: "تتمتع منصتنا بسياسة صفر تسامح مع الترويج والمشاركة في المواد الجنسية غير المتفق عليها، بما فيها المواد المسيئة للأطفال".

أعدت "إيلاف" هذا التقرير عن مقالة كتبها مارك سيلمان ونشرتها صحيفة "تايمز" البريطانية