الذكاء الاصطناعي يمكن ان يتحيز وبشكل خطير ولكن لنفهم هذا التحيز يجب ان نعرف بعض الأساسيات عن كيفية تحيزه. الذكاء الإصطناعي ليس واعيا وليس له عاطفة او مصلحة ليتحيز لفئة ضد فئة اخرى ولكن الذي يحدث في الغالب أن تحيزه له علاقة بالبيانات المستخدمة في تدريبه على التعلم.

أحد اسباب تحيز البشر هو تعميم النتائج من تجارب محدودة ونفس الشيء يمكن أن يحدث مع الذكاء الإصطناعي. تخيل معي دولة كلها أناس جيدون وفيها فقط ثلاثة اشخاص سيئيين وتخيل انك لم تصادف لمدة طويلة من حياتك سوى هؤلاء الثلاثة.  الطبيعي لدى معظم الناس ان يعمم ويتوسم السوء في كل الناس من تلك الدولة وعليه لو قابلت شخصا جديدا غير اولئك الثلاثة فستخمن انه سيء.

الذكاء الاصطناعي يتعلم من البيانات. إن كانت البيانات تحتوي على كمية كبيرة من الأفريقيين الأمريكيين الذين تقدموا على قروض ولم يسددوها مقارنة بغيرهم، فإنه سيتنبأ ان احتمالية عدم تسديد الأمريكي من اصل أفريقي كبيره ويجب عدم إقراضه. أحد الأمثلة التي عرضت لتحيز الذكاء الإصطناعي في قمة الذكاء الإصطناعي في الرياض كانت صورة لشخصين أبيض وأسود و كلاهما يحمل جهازا لقياس الحرارة. الذكاء الإصطناعي تنبأ بأن الرجل الأبيض يحمل جهازا تقنيا بينما تنبأ بأن الرجل الأسود يحمل مسدسا.