اتهام "أمازون" بالتحايل على العملاء و"تزييف" معلومات

تصدرت شركة أمازون عناوين الأخبار، في وقت سابق من العام الجاري، بعد أن شككت تقارير في خدمات التسوق بتقنية أطلقت عليها الشركة اسم "Just Walk Out" كانت أدخلتها الشركة في العديد من متاجر البقالة التابعة لها، وهي تقنية لا تستدعي من المتسوق الوقوف في طابور الكاشير التقليدي لدفع قيمة مشترياته.

وتتيح التقنية المدعومة بالذكاء الاصطناعي لعملاء متاجر "أمازون فريش" و"أمازون غو" اختيار المنتجات التي يريدونها ثم المغادرة.

ويستخدم الذكاء الاصطناعي في هذه التقنية الكثير من أجهزة الاستشعار بالرفوف المدعومة بخوارزميات تسمح بمعرفة ما اختاره المتسوق من المتجر، وتحصيل القيمة بشكل تلقائي عند مغادرته.

وعلى الرغم من ذلك، أفادت أنباء، في نيسان (أبريل) الماضي، على نطاق واسع أنه بدلا من استخدام الذكاء الاصطناعي فقط، لجأت الشركة إلى تعيين نحو ألف عامل من الهند لإجراء عمليات تحقق بطريقة يدوية لنحو ثلاثة أرباع المعاملات التي تستخدم فيها تلك التقنية.

وسرعان ما وصفت أمازون تلك الادعاءات بأنها "خاطئة"، وقالت إن الموظفين الهنود لم يراجعوا لقطات الفيديو من جميع المتاجر.

وأضافت الشركة أن العمال كانوا يراجعون النظام فقط، وقالت إن "هذا لا يختلف عن أي نظام ذكاء اصطناعي آخر يولي أولوية لعنصر الدقة، مع وجود مراجعين من البشر، وهذا أمر شائع الاستخدام".

ومهما كانت التفاصيل الدقيقة لقضية أمازون، فهي مثال بارز لسؤال جديد ومتزايد عما إذا كانت الشركات تروج ادعاءات مبالغ فيها بشأن استخدامها للذكاء الاصطناعي، وهي ظاهرة أُطلق عليها اسم "التضليل المدعوم بالذكاء الاصطناعي أو (غسيل الذكاء الاصطناعي)"، على غرار مصطلح "الغسيل الأخضر" الذي تستخدمه مؤسسات في تضليل الناس بشأن حفاظها على البيئة، وتكون الحقيقة غير ذلك بالفعل.

بيد أنه يلزم في البداية التذكير بما يعنيه الذكاء الاصطناعي تحديدا، فعلى الرغم من عدم وجود تعريف دقيق حتى الآن، فإن الذكاء الاصطناعي يسمح لأجهزة الكمبيوتر بمعرفة البيانات والمشكلات ومعالجتها، كما أن الذكاء الاصطناعي قادر على القيام بذلك بعد تغذيته أولا بكميات هائلة من المعلومات.

جدير بالذكر أن النوع المحدد من الذكاء الاصطناعي الذي تصدر جميع العناوين الرئيسية للصحف على مدى السنوات الماضية يعرف باسم "الذكاء الاصطناعي التوليدي"، وهو نوع من الذكاء الاصطناعي متخصص في إنشاء محتوى جديد، سواء كان ذلك من خلال إجراء محادثات نصية أو إنتاج موسيقى أو صور.

وتُعد روبوتات الدردشة مثل "تشات جي بي تي" و"جيميني" التابع لغوغل و"كوبايلوت" التابع لمايكروسوفت أمثلة شائعة على الذكاء الاصطناعي التوليدي.

وعندما يتعلق الأمر بما يعرف بـ "التضليل المدعوم بالذكاء الاصطناعي"، فثمة عدة أنواع، إذ تدعي بعض الشركات أنها تستخدم الذكاء الاصطناعي في حين أنها تستخدم بالفعل نظم حوسبة أقل تطورا، وتبالغ شركات أخرى في تقدير فعالية الذكاء الاصطناعي الخاص بها مقارنة بالتقنيات الحالية، أو تروج أن حلول الذكاء الاصطناعي لديها تعمل بكامل طاقتها، على نحو مناقض للواقع.

في ذات الوقت تلجأ شركات أخرى إلى تثبيت برنامج دردشة آلي مدعوم بالذكاء الاصطناعي على برامج التشغيل الحالية التي لا تعتمد على الذكاء الاصطناعي.

وعلى الرغم من أن 10 في المئة فقط من الشركات الناشئة في مجال التكنولوجيا تحدثت عن استخدام الذكاء الاصطناعي في عروضها في عام 2022، فقد ارتفع هذا الرقم إلى أكثر من الرُبع في عام 2023، وفقا لمؤسسة "أوبن أوشن"، صندوق استثماري مقره المملكة المتحدة وفنلندا يضم شركات التكنولوجيا الجديدة، وتتوقع المؤسسة أن يصل هذا الرقم إلى ما يزيد على الثُلث هذا العام.

ويقول سري أيانجار، عضو في فريق عمل مؤسسة "أوبن أوشن"، إن المنافسة على التمويل والرغبة في تصدر المشهد دفعت بعض هذه الشركات إلى المبالغة في تقدير قدراتها في مجال الذكاء الاصطناعي.

ويضيف: "يبدو أن بعض الشركات تعتقد أنها إن لم تذكر الذكاء الاصطناعي في عروضها، فإن هذا قد يضعها في موقف سيء، بغض النظر عن الدور الذي يلعبه الذكاء الاصطناعي في حل مشاكلها".

ويقول أيانجار: "أظهرت دراساتنا وجود تفاوت كبير بين الشركات التي تدعي استعانتها بقدرات الذكاء الاصطناعي، وتلك التي تظهر نتائج ملموسة تعتمد على الذكاء الاصطناعي بالفعل".

وكشفت بيانات شركة "إم إم سي فينتورز"، وهي شركة استثمار تكنولوجي أخرى، أن المشكلة موجودة منذ عدة سنوات دون تسليط الضوء عليها. وخلصت دراسة أجريت عام 2019 إلى أن 40 في المئة من شركات التكنولوجيا الجديدة التي وصفت نفسها بأنها "شركات ناشئة في مجال الذكاء الاصطناعي" في واقع الأمر لم تستخدم أي ذكاء اصطناعي على الإطلاق.

ويقول سيمون ميناشي، الشريك العام في شركة "إم إم سي فينتورز"، إن "المشكلة هي نفسها اليوم، وأُضيف عليها مشاكل أخرى".

ويوضح أن "قدرات الذكاء الاصطناعي المتطورة" متاحة الآن لكل شركة للشراء بسعر البرامج القياسية، ولكن بدلا من بناء نظام ذكاء اصطناعي كامل، يقول إن العديد من الشركات تلجأ ببساطة إلى وضع واجهة روبوت دردشة فوق منتج لا علاقة له بالذكاء الاصطناعي.

ويقول دوغلاس ديك، رئيس قسم مخاطر التكنولوجيا الناشئة في المملكة المتحدة في شركة المحاسبة العملاقة "كيه بي إم جي"، إن مشكلة التضليل المدعوم بالذكاء الاصطناعي لا يمكن تحديدها بدقة في ظل عدم وجود تعريف واحد متفق عليه للذكاء الاصطناعي.

ويقول: "إذا سألت مجموعة من الأشخاص عن تعريف للذكاء الاصطناعي، فسيعطون جميعا إجابات مختلفة. إذ يُستخدم المصطلح على نطاق واسع جدا وفضفاض، دون أي مرجع واضح، وهذا الغموض هو ما يسمح بظاهرة التضليل المدعوم بالذكاء الاصطناعي".

ويضيف: "قد تفضي ظاهرة التضليل المدعوم بالذكاء الاصطناعي إلى آثار مقلقة على الشركات، بدءا من دفع مبالغ زائدة مقابل التكنولوجيا والخدمات إلى الإخفاق في تحقيق الأهداف التشغيلية التي كان من المتوقع أن يساعد الذكاء الاصطناعي في تحقيقها".

كما يسهم الأمر في وضع صعوبات أمام المستثمرين تجعلهم عاجزين عن تحديد الشركات المطورة بالفعل مقارنة بغيرها.

ويقول أيانجار: "في حالة عدم تلبية توقعات المستهلكين من المنتجات التي تدعي أنها تقدم حلولا متقدمة تعتمد على الذكاء الاصطناعي، فقد يفضي ذلك إلى تآكل الثقة في الشركات الناشئة التي تقوم بعمل رائد حقا".

بدأ المنظمون، في الولايات المتحدة على الأقل، في الانتباه إلى هذا الأمر، وفي وقت سابق من العام الجاري، قالت هيئة الأوراق المالية والبورصة الأمريكية إنها اتهمت شركتين استشاريتين استثماريتين بالإدلاء ببيانات كاذبة ومضللة حول استخدامهما للذكاء الاصطناعي.

ويقول نيك وايت، شريك في مكتب محاماة دولي: "إن الموقف الحازم الذي اتخذته هيئة الأوراق المالية والبورصة يوضح عدم وجود مجال للمناورة عندما يتعلق الأمر بالتضليل المدعوم بالذكاء الاصطناعي، مما يشير إلى أنه، على الأقل في الولايات المتحدة، يمكننا أن نتوقع المزيد من إجراءات فرض الغرامات والعقوبات في المستقبل على أولئك الذين ينتهكون اللوائح".

وفي المملكة المتحدة، توجد بالفعل لوائح وقوانين تتصدى للتضليل المدعوم بالذكاء الاصطناعي، بما في ذلك مدونة قواعد السلوك الخاصة بهيئة معايير الإعلان، والتي تنص على أن الرسائل التسويقية يجب ألا تكون مضللة ماديا، وألا تحتمل وجود محتوى مضلل للعميل.

ويقول مايكل كوردو، المشارك في الفريق التنظيمي في شركة "ووكر موريس" المتخصصة في قضايا الشركات في المملكة المتحدة، إن ادعاءات الذكاء الاصطناعي أصبحت سمة شائعة بشكل متزايد للإعلانات التي تخضع لتحقيقات هيئة معايير الإعلان.

ومن بين الأمثلة على تلك القضايا منشور مدفوع الأجر على إنستغرام يروج لتطبيق يحمل عنوان "تحسين صورك باستخدام الذكاء الاصطناعي"، وهو منشور اعتبرته هيئة معايير الإعلان مبالغ فيه، وبالتالي كان مضللا للمستخدمين.

ويقول كوردو: "الأمر الواضح هو أن ادعاءات الذكاء الاصطناعي أصبحت منتشرة بشكل متزايد، ومن المفترض أنها فعّالة في جذب اهتمام المستهلك".

وتقول ساندرا واتشر، أستاذة التكنولوجيا والتنظيم في جامعة أكسفورد، والخبيرة العالمية الرائدة في مجال الذكاء الاصطناعي: "أعتقد أننا في ذروة الصخب بشأن الذكاء الاصطناعي".

وتضيف: "على الرغم من ذلك، أشعر أننا نسينا أن نسأل عما إذا كان من المنطقي دائما استخدام الذكاء الاصطناعي في جميع أنواع المهام. أتذكر أنني رأيت إعلانات في مترو أنفاق لندن عن فرشاة أسنان كهربائية تعمل بالذكاء الاصطناعي. لمن هذه؟ ومن يساعد في هذا؟"

وتقول واتشر إن التأثير البيئي للذكاء الاصطناعي غالبا ما يتم التغاضي عنه.

وتضيف: "الذكاء الاصطناعي لا ينمو على الأشجار... فالتكنولوجيا تساهم بالفعل في تغير المناخ أكثر من الطيران. علينا أن نبتعد عن هذه المناقشات المبالغ فيها من جانب واحد، ونفكر بالفعل في مهام وقطاعات محددة يمكن أن يكون الذكاء الاصطناعي مفيدا فيها، وليس مجرد تنفيذها بشكل عشوائي في كل شيء".

وتقول أدفيكا غالات، رئيسة قسم الأبحاث في شركة "إم إم سي فينتورز" إن مشكلة التضليل المدعوم بالذكاء الاصطناعي قد تهدأ تلقائيا على المدى الطويل.

وتضيف: "أصبح الذكاء الاصطناعي منتشرا في كل مكان، حتى لو كان مجرد شكل خارجي لروبوت الدردشة تشات جي بي تي، فمن المرجح أن يتوقف استخدام العلامة التجارية "مدعوم بالذكاء الاصطناعي" عن كونها أداة لتمييز المنتج بعد مرور بعض الوقت".