رفضت شركة مايكروسوفت بيع تقنية التعرف إلى الوجوه بناء على طلب من وكالة إنفاذ القانون في ولاية كاليفورنيا. وكانت الوكالة طلبت تثبيت التقنية في سيارات الضباط والكاميرات التي يعلقونها على ملابسهم. وجاء الرفض خوفا من إحداث انتهاك صريح لحقوق الإنسان.

وخلصت مايكروسوفت إلى أن ذلك سيؤدي إلى احتجاز نساء وأقليات بريئة بشكل غير متناسب للاستجواب؛ لأن الذكاء الاصطناعي قد دُرِّب على صور معظمها لأناس من البيض والذكور. كما أظهرت مشاريع بحثية متعددة أن الذكاء الاصطناعي لا يزال يخطئ في التعرف إلى هوية النساء والأقليات.

وقال رئيس الشركة براد سميث إن الشرطة لن تتردد في سحب أي شخص، ثم إجراء مسح للوجه، للبحث في قاعدة بيانات للمشتبه فيهم. وبعد التفكير في التأثير غير المتكافئ للأمر، قررت مايكروسوفت ألا توفر هذه التقنية لجهات إنفاذ القانون.

خلال حديثه في مؤتمر جامعة ستانفورد بشأن “الذكاء الاصطناعي المتمحور حول الإنسان”، قال سميث إن مايكروسوفت رفضت أيضًا صفقة لتثبيت تقنيات التعرف إلى الوجوه على الكاميرات التي تغطي عاصمة بلد لم يكشف عن اسمه. وقال سميث إن تلك الدولة كانت ستقمع حرية التجمع هناك.