في الآونة الأخيرة انتشر مصطلح الذكاء الاصطناعي على نطاق واسع بين مختلف فئات البشر، وأصبح الذكاء الاصطناعي هو المستقبل المنتظر وأنه يمكن دمجه في جميع مجالات الحياة، ولكن ماذا لو قلت لكم أنه من الممكن أن يكون الذكاء الاصطناعي عنصري ومتحيز بشكل مخيف وقد يؤثر على أحداث وقرارات مهمة في حياتنا العملية!؟

قامت شركة Google بابتكار نظام التعرف على الأوجه, ونجح النظام في التعرف على أوجه الاشخاص ذوي البشرة البيضاء ومعرفة أنهم بشر دون عن باقي الكائنات الحية, ولكن عندما تم تزويد النظام بصورة لشخص أسود البشرة قام النظام بتصنيفه على أنه غوريلا !!! ماذا؟ العنصرية موجودة حتى في الذكاء الإصطناعي!!.

نعم و هذا جزءٌُُ بسيط منها قد لا يؤثر بشكل كبير في الوقت الحالي , دعونا نتعمق أكثر.في مجال التوظيف مثلًا تمت تجربة نظام ذكاء إصطناعي في إختبار القبول الوظيفي والمقابلات الشخصية, فوجدوا أنه ينحاز إلى قبول الرجال أكثر من النساء بشكل ملحوظ !!!.

لم نصل إلى عمق الجانب المظلم بعد, فعندما تم إستخدام الذكاء الاصطناعي في تصنيف المجرمين وجدوا أن النظام يصنف السود على أنهم مجرمين !!

هل يعقل أن الاَلة التي لاتملك العقل الذي نمتلكه أن تتعلم الإنحياز ؟

سوف أفسر لكم كيف تعلم الذكاء الاصطناعي العنصرية والتحيز, لنأخذ المثال الأول الذي طرحته لكم وهو نظام Google للتعرف على الأوجه وتصنيفه صاحب البشرة السوداء على أنه غوريلا, هذا النظام تمت تغذيته ببيانات لبشر ذوي بشرة بيضاء وبيانات أخرى لبقية الكائنات, ولم يتم تغذيته ببيانات لأصحاب البشرة السوداء فعند رؤيته لوجه أسود سيصنفه على أنه غوريلا لأن بيانات البشر التي لديه تصف البشر على أن لونهم أبيض, ولا يمكن أن ينطبق هذا على الشخص الأسود .

وكذلك الحال في بقية الأمثلة ففي مجال التوظيف يتم تغذية نظام الذكاء الاصطناعي على أن الموظفين الذين سيتم قبولهم غالبيتهم من الذكور, فأصبح ينحاز إلى قبول الذكور أكثر من الإناث, أما بالنسبة لتصنيف المجرمين فذلك لحصوله على بيانات أن غالبية المساجين في أمريكا ذوي بشرة سوداء, وهذا ليس لأن معظمهم مجرمين ولكن لأن العنصرية هذه موجودة في أمريكا, فمحاكمة المجرم  الأبيض ليست كمحاكمة المجرم الأسود لذلك ستجد أن غالبية المساجين هم من أصحاب البشرة السوداء, فعندما تغذي نظام الذكاء الإصطناعي بمثل هذه البيانات

بالتأكيد سوف يصنف ذوي البشرة السوداء عل أنهم مجرمين !.