الشرق اليوم اخباري تحليلي
مقالات مشابهة
By: Cathy O’Neil
الشرق اليوم – أوصلت الشهادة التي أدلت بها مقدمة البلاغ فرانسيس هوغان أمام الكونغرس الأميركي الأسبوع الماضي رسالة مهمة للوطن مفادها أن منصة التواصل الاجتماعي «فيسبوك» تضر بنشاط الملايين، وربما المليارات من المستخدمين في جميع أنحاء العالم، من خلال مجموعة من الخوارزميات المصممة لزيادة المشاركات وإيرادات الإعلانات.
من شأن هذا أن يطرح سؤالاً هو: ما الحل؟ إن حجم المهمة وتعقيدها يحولان دون طرح إجابة بسيطة. لكن بصفتي شخصاً يصنع خوارزميات تدقيق حية، ويسعى للحد من الضرر الذي قد ينجم عنها، فإن لدي بعض الأفكار:
عندما أقوم بعمل ما، فإنني أفكر أولاً فيمن تؤثر هذه الخوارزمية. قد تشمل خوارزمية تصحيح الامتحانات، على سبيل المثال، الطلاب والمعلمين والمدارس، بالإضافة إلى المجموعات الفرعية المحددة حسب العرق والجنس والدخل. وعادة ما يكون هناك عدد قابل للتتبع من الفئات، مثل 10 أو 12 عاماً، وأرقام أخرى تقوم عليها.
هناك اختبارات إحصائية لمعرفة ما إذا كانت الخوارزمية تتعامل أو من المحتمل أن تتعامل مع أي مجموعات بشكل غير عادل، مثل هل هي متحيزة ضد الطلاب السود أو الفقراء، أو ضد المدارس في أحياء معينة؟ وفي النهاية، أقترح طرقاً للتخفيف من هذه الأضرار أو القضاء عليها.
لسوء الحظ، يصعب تطبيق هذا النهج على خوارزمية نشر الأخبار عبر «فيسبوك»، أو في هذا السياق، على الخوارزميات الأساسية حول أي شبكة اجتماعية كبيرة أو محرك بحث مثل «غوغل» نظراً لأنها كبيرة جداً، إذ إن قائمة أصحاب المصلحة المحتملين لا حصر لها والتدقيق لن يكون مكتملاً أبداً وسيفتقد دائماً شيئاً مهماً.
لا أستطيع أن أتخيل، على سبيل المثال، أنه كان بإمكان المدقق أن يتوقع بشكل معقول في عام 2016 كيف سيصبح «فيسبوك» أداة للإبادة الجماعية في ميانمار، وكيف يمكنه استحداث طريقة لمنع انتشار المعلومات المضللة عن الأقلية المسلمة في البلاد. هذا هو السبب في أنني ذكرت منذ فترة طويلة أن إصلاح خوارزمية «فيسبوك» هو عمل لن أقوم به أبداً. ورغم ذلك، باستخدام النوع الصحيح من البيانات، يمكن للسلطات أن تسعى إلى معالجة أضرار محددة. لنفترض مثلاً أن «لجنة التجارة الفيدرالية» أعدت قائمة بالنتائج التي تريد منعها. قد تشمل هذه البيانات حوادث إيذاء النفس بين الفتيات المراهقات، والتطرف من النوع الذي أدى إلى أعمال الشغب في «الكونغرس»، وتقويض الثقة بالعمليات الانتخابية. ويمكن بعد ذلك أن تتلقى «فيسبوك» أمراً بتوفير البيانات اللازمة لاختبار ما إذا كانت خوارزمياته تسهم في هذه النتائج.
على سبيل المثال، من خلال البحث عن روابط سببية بين أنواع معينة من المنشورات ومخاوف المستخدمات الشابات بشأن صورة أجسادهن. ولتوفير تصور قوي، يجب أن تكون هناك مقاييس متعددة لكل ظاهرة، مع تحديثات يومية أو أسبوعية.
في ظل مثل هذا النظام، سيكون «فيسبوك» حراً في ممارسة أعماله على النحو الذي يراه مناسباً. لن تكون هناك حاجة لتعديل «البند 230» من قانون آداب الاتصالات لجعل الشركة تعدل أو تفرض الرقابة على ما يتم نشره على شبكتها، لكن «لجنة التجارة الفيدرالية» سيكون لديها الدليل الذي تحتاجه لتحميل شركة فيسبوك مسؤولية تأثيرات خوارزمياته، وعن عواقب جهودها لجعل الناس منشغلين ومستهلكين على الدوام. وهذا بدوره يمكن أن يساعد في إجبار «فيسبوك» نفسه على التصرف بمسؤولية أكبر.
حظي «فيسبوك» بفرصة كبيرة لتنظيم نفسه، لكنه لن يفعل ذلك من تلقاء نفسه، إذ إن المراقبة المحدودة التي اقترحتها بعيدة كل البعد عن الكمال، لكنها طريقة للتدخل والبدء على الأقل في مساءلة شركات التكنولوجيا الكبيرة.
ترجمة: الشرق الأوسط
