يقول موفات أوكيني، البالغ من العمر 27 عاما، إن العمل في الذكاء الاصطناعي أصابه بصدمة
BBC
يقول موفات أوكيني، البالغ من العمر 27 عاما، إن العمل في الذكاء الاصطناعي أصابه بالصدمة

وصف الموظفون الكينيون الصدمات والأضرار النفسية التي عانوا منها من أجل ضمان أمان تكنولوجيا الذكاء الاصطناعي.

يجتاح الذكاء الاصطناعي (AI) العالم، ولجعل روبوتات الدردشة القوية مثل تشات جي بي تي آمنة، يتم استخدام اشخاص لضمان قدرة الذكاء الاصطناعي على التعرف على المحتوى المتطرف والتأكد من عدم عرضه للمستخدمين.

إنها صناعة سريعة النمو وتقدر بمليارات الدولارات وتوظف آلاف الأشخاص في المناطق ذات الدخل المنخفض مثل إفريقيا والهند والفلبين، بالإضافة إلى بلدان في طليعة الابتكارات التقنية مثل الصين والولايات المتحدة.

لكن عملية إنشاء مرشحات (فلاتر) الأمان هذه يمكن أن تؤثر سلباً على أولئك الذين يشاهدون المواد والصور العنيفة.

قال موفات: "أشعر أن حياتي كلها قد انتهت، ضاع أملي، وكأنني فقدت كل شيء".

ثمن الذكاء الاصطناعي

عمل الكيني كمصمم بيانات مهمته مراقبة المحتوى المتطرف والإبلاغ عنه
BBC
عمل الكيني مراقب بيانات مهمته مراقبة المحتوى المتطرف والإبلاغ عنه

يقول الشاب البالغ من العمر 27 عاما، إن الصدمة التي تعرض لها غيرته وكلفته زواجه وصداقاته وتركته يعاني من الاكتئاب. وقال زملاء آخرون له إنهم يعانون من اضطراب ما بعد الصدمة.

عمل موفات لصالح شركة "ساما" التي تعاقدت معها الشركة التي تقف وراء تقنية تشات جي بي تي.

كُلف هو وزملاؤه بفرز المواد المتطرفة لمنع روبوت المحادثة من الوصول إليها وبالتالي عرضها للمستخدمين - حيث كان دور موفات هو التحقق من جميع المواد المصنفة والتأكد من صحتها.

يقول إنه كان عليه أن يقرأ كل يوم مقاطع نصية تشير إلى العنف وخطابات كراهية وإيذاء النفس ومواد إباحية.

قال: "لقد كانت بالفعل نصوصا مروعة ومؤلمة". بعد التعامل مع هذه النصوص لمدة أربعة أشهر، تغيرت طريقة تفكيري".

"بسبب تغير سلوكي، خسرت عائلتي وزوجتي، وما زلت أشعر بالاكتئاب حتى الآن".

تقديم عريضة للبرلمان

انضم موفات إلى شركات أخرى لتصنيف البيانات في تقديم العريضة إلى البرلمان الكيني للتحقيق في ظروف التوظيف في شركات التكنولوجيا الكينية التي تستخدمها شركات التكنولوجيا الأجنبية الكبيرة لتحرير المحتوى وغيرها من أعمال الذكاء الاصطناعي.

ويقول إنهم لم يتلقوا تدريباً كافياً للتعامل مع المحتوى الكتابي المتطرف الذي تعاملوا معه ولم يقدموا لهم دعماً استشارياً مهنياً كافياً - وهي مزاعم تنكرها شركة سما بشدة.

أوضحت أخصائية علم النفس واضطراب ما بعد الصدمة، الدكتورة فيرونيكا نجيتشو، أن التعرض للمحتوى المتطرف عبر الإنترنت يُعرف بالصدمة الثانوية ويمكن أن يكون له تأثير مديد مثل الصدمة الأولية التي يعاني منها متلقي سوء المعاملة.

وقالت: "عندما تكون الصدمة الثانوية شديدة الضرر يكون ذلك بسبب الشعور بالعجزحيالهاا".

"نظراً لأنك تشاهد المحتوى، فلا توجد خطوة تالية، ولا أحد تقدم تقريراً إليه، ولا يمكنك فعل أي شيء حيال ذلك".

"ولأنه يتعلق بالإشراف على المحتوى، لا يمكن التنبؤ بما ستراه ولا تعلم كيف قد يتصاعد الأمر".

وقالت نجيتشو إن أعراض الصدمة الثانوية يمكن أن تشمل رؤية كوابيس في المنام وتجنب التواصل مع الناس ونقص التعاطف والقلق أو التوتر لدى مشاهدة أي شيء يعيد الى الذاكرة ما قرأؤه أوشاهدوه.

يقول رب العمل السابق لموفات إنه تم تقديم الدعم النفسي والاجتماعي طوال فترة العمل لديهم.
BBC
يقول رب العمل السابق لموفات إنه تم تقديم الدعم النفسي والاجتماعي طوال فترة العمل لديهم.

وقالت الدكتورة نيجيتشو إنه من الضروري أن تقدم الشركات الدعم اللازم "للتأكد من أنه لا يؤثر على أدائهم ورفاهية هؤلاء"

ادعاءات استغلال محرري المحتوى في كينيا ليست جديدة.

في مايو/أيار ، صوّت أكثر من 150 مشرف محتوى أفريقي يقدمون خدمات لأدوات الذكاء الاصطناعي التي يستخدمها عدد من شركات التكنولوجيا الكبرى لتأسيس أول اتحاد لمراقبي المحتوى.

وهذا النوع من الاعتراف والفهم هو ما يريده موفات من شركات التكنولوجيا الكبرى ومليارات المستخدمين.

"يجب أن يعرف الناس أن الأشخاص الذين جعلوا نظامهم الأساسي آمناً هم مشرفون على المحتوى، لأن الناس حتى لا يعرفون ما إذا هذه المجموعة من الأشخاص موجودة أم لا".

أنكرت شركة "سما" جميع الشكاوى وقالت إن جميع المتقدمين للوظائف خضعوا لاختبار "الصلابة العقلية" وعرضوا عليهم أمثلة عن المحتوى الذي سيتعاملون معه، فضلاً عن أنه قبل بدء المشروع، طُلب من الموظفين الاطلاع على نموذج الموافقة والتوقيع عليه قبل الانضمام للشركة، مما يعني أن الشركة سلطت الضوء على طبيعة المحتوى الذي قد يتضمن صوراً عنيفة.

وقال متحدث باسم الشركة: "بالنسبة للزملاء الناجحين الذين تم اختيارهم للمشروع، تم تقديم الدعم النفسي والاجتماعي لهم طوال فترة عملهم".

"توظف سما أخصائي صحة محترفين يقدمون خدمات إرشاد نفسي على مدار الساعة طوال أيام الأسبوع في الموقع أو من خلال خطة التأمين الصحي للشركة."

وفي الوقت الراهن، ينتظر موفات سماع ما إذا كان سيتم الاستماع إلى العريضة في البرلمان أم لا. وبينما يحاول العمل على صحته العقلية، فإنه يعزي نفسه بالعمل كمصنف للبيانات الأمر الذي يعتقد أنه سيساعده على التعافي.

ويقول: "أنا فخور جداً. أشعر كأنني جندي. الآن استخدام تشات جي بي تي آمن بالنسبة للجميع، لأننا نحن من نتلقى الرصاص نيابة عنهم".