مايكروسوف تسحب الروبوت "تاي" بسبب "العنصرية"

اضطرت شركة مايكروسوفت لسحب مشروعها الفريد "تاي" وهو عبارة عن روبوت يجيد الدردشة وتسلية مستعملي مواقع الدردشة، لكن مستعملين استدرجوا هذا الروبوت ليكتب تغريدات تمييزية على أساس الجنس.

لندن: أطلقت شركة مايكروسوفت مشروعا بالتعاون مع شركة تويتر وخدمة "كيك" الكندية للتراسل الفوري ومجموعة غروب مي، لتصميم روبوت قادر على الدردشة مع الانسان اسمه تاي بُني باستخدام التحليل اللغوي الطبيعي بحيث يبدو انه يفهم سياق الكلام ومضمونه.&

وكان الهدف من تصميم تاي الذي يستهدف فئة الشباب من 18 الى 24 سنة التواصل مع المستخدمين وتسليتهم من خلال الدردشة والمزاح معهم على الانترنت.

وكلما دردش المستخدم مع تاي ازداد الروبوت ذكاء بحيث يمكن ان تصبح خبرة التحادث معه خبرة مشخصنة. &

وفي غضون أقل من يوم كتب الروبوت تاي على تويتر أكثر من 96 الف تغريدة نتيجة تفاعله مع البشر. &ولكن مضمون عدد صغير من هذه التغريدات كان عنصريا وتحريضيا وتمييزيا على أساس الجنس. &

وكان من التغريدات التي رد بها الروبوت تاي على سائليه ان المحرقة النازية ضد اليهود لم تحدث وانه يؤيد ابادة الجنس.

في النهاية سحبت مايكروسوفت الروبوت من الانترنت واصدرت بيانا قالت فيه ان الروبوت تاي الذي يستخدم الذكاء الاصطناعي هو مشروع آلة تتعلم، صُمم للتواصل مع البشر وانه تجربة اجتماعية وثقافية بقدر ما هو تجربة تكنولوجية.

واضاف البيان ان مايكروسوفت ادركت في غضون 24 ساعة "وجود محاولة منسقة قام بها بعض المستخدمين لاساءة استخدام مهارات تاي في التعليق كي يرد بطرق غير مناسبة. ونتيجة لذلك سحبنا تاي من الانترنت ونقوم الآن بتعديلات عليه". &

وما زالت الحسابات ذات الصلة مفتوحة على تويتر ولكن الكثير من التغريدات حُذفت فيما بقي بعضها ربما لأنها تستطيع ان تستغفل حتى البشر بلغتها المبطنة.

ويبدو ان مصدر بعض الأقوال الجارحة مستخدمون عرفوا انهم يستطيعون التغرير بالروبوت تاي ليقول أي شيء بطباعة الكلمتين "كرر بعدي" ثم كتابة عبارة عنصرية يكررها الروبوت كما طُلب منه.

وعلى سبيل المثال، ان احد المستخدمين استدرج تاي الى الدفاع عن شعار منظمة عنصرية اميركية.

وكتب هذا المستخدم رأيه بما حدث قائلا ان من المتعذر استخدام برنامج للذكاء الاصطناعي يتواصل على الانترنت ويستخدم الشبكات الاجتماعية قاعدة بيانية دون ان يقول اشياء مرفوضة.

واعترف هذا المستخدم بأن ما دفعه الى اساءة استخدام البرنامج هو تحدي صمامات الأمان ضد الاقوال الخلافية التي قال مصممو تاي انهم اضافوها الى البرنامج.&

ويبين وصف مايكروسوفت للروبوت بوضوح ان مصمميه كانوا يعرفون انهم يستهدفون الفئة العمرية الذكية اجتماعيا من 18 الى 24 سنة حيث يستطيع الكثير من افرادها ان يستدرجوا تاي الى قول ما يريدونه ان يقول.&

ويتعين على روبوتات الدردشة مثل تاي ان تعتمد على نصوص تشكل مصدر مفرداتها لكي تفهم وترد كما يفعل الانسان.

وحاول باحثون في جامعة ستانفورد تصميم آلة ذكية باستخدام كم هائل من الأعمال الروائية الشعبية لتكون نصوصها مصدر مفردات الآلة.

ولم تقل شركة مايكروسوفت ما هي النصوص التي كانت مصدر مفردات الروبوت تاي ولكن المرجح انها لا تتضمن تعليقات على ابادة الجنس.

وقالت شركة البرمجيات العملاقة "ان معلومات عامة حُجبت هويات اصحابها هي المصدر الأولي لمفردات تاي وان الفريق المسؤول عن تطوير تاي قام بنمذجة هذه المعلومات وتنظيفها وفلترتها".

ولاحظ محللون ان شركة متمرسة في تكنولوجيا البرمجيات والذكاء الاصطناعي لم تتعلم الدرس الابتدائي للانترنت الحديثة الذي تعلمته شركات عديدة أخرى من اخطاء وقعت هي فيها، وهو ان شبكات التواصل الاجتماعية مليئة بالحمقى والمخربين الذين هوايتهم ان يثبتوا قدرتهم على اختراق التكنولوجيا واجهاض اهداف المبرمجين السذج.

وتراهن شركات ناشئة مثل شركة كيك الكندية واخرى عملاقة مثل فايسبوك على روبوتات الدردشة لتحريك التفاعل مع المستخدم في المستقبل ولكن حوادث كتلك التي وقعت مع الروبوت تاي من مايكروسوفت يمكن ان تضع عقبة امام قبول هذه التكنولوجيا على نطاق واسع. &

ونقلت صحيفة غلوب اند ميل الكندية عن سانجاي فيدلر استاذ علوم الكومبيوتر في جامعة تورونتو "ان الأبحاث في مجال الذكاء الاصطناعي تجري بايقاع متسارع حقا وان النتائج باهرة بالنسبة لنا نحن الباحثين حين نقارنها مع ما كان عليه هذا المجال قبل سنوات قليلة ولكن الأشياء ما زالت في مرحلة البحث وأرى انها ليست جاهزة لإطلاقها الى الجمهور الأوسع بعد". &

واشار فيدلر الى ان من القضايا التي يتعين التأكد منها هي التوصل الى اخلاق عالية لبرمجيات الذكاء الاصطناعي والمحافظة على اخلاقها في اوضاع مثل الوضع الذي واجه روبوت مايكروسوفت.