اختبار باحثون أمريكيون بعد ان شنت IBM ومايكروسوفت وغيرها من الصناعات دقة التعرف على الوجه التكنولوجيا وجدت دقة خدمة اختبار القبول على اللون الأبيض عالية، والأصل العرقي، ودقة اللون الأسود سباق منخفضة. ويشير التقرير إلى أن السبب على خوارزمية التدريب الأصلي دعا أقل الظلام خبراء السكان البشرة أيضا لهذه الصناعة في دقة التعرف الحالية يجب أن تكون أكثر شفافية المعلومات. ووفقا لتقارير سلكي، اختبر الباحثون على مايكروسوفت و IBM تحديد صورة للوجه من خدمات تحليل النوع الاجتماعي، والنتائج وجدت الشركة إلى أن خوارزمية الاعتراف في اللون من الرجال البيض ما يقرب من مائة دقة في المئة، ولكن التحليل هو الخطأ في كثير من الأحيان لون البشرة النساء السود، ويتم تحليل السبب باستخدام تقنيات التعلم الآلي لبناء خوارزميات التدريب البيانات في بشرة الوجه داكنة أقل الماضي تصنيف الخدمة صور جوجل سيكون له علامة سوداء على الشمبانزي والخارجي عجب العالم، لذلك، وكيفية ضمان أن نشر في المنتجات الاستهلاكية، وأنظمة العمل والبرامج الحكومية في آلة نظام التعلم دون خوف، هو الذكاء الاصطناعي (AI) مجالات هامة من مواضيع المناقشة. وأشارت 2016 جامعة جورج تاون (جامعة جورج تاون) التقرير، كانت إدارة الشرطة ومكتب التحقيقات الفيدرالي حول دقة تقنية التعرف على الوجه منخفضة في الباحثين الأميركيين الأفارقة الفرح Buolamwini والباحثين مايكروسوفت Timnit غبرو ثم وضع في نظام التعرف في الدراسة الجديدة، معهد ماساتشوستس للتكنولوجيا (MIT) 1270 ورقة من أوروبا أعضاء المؤتمر الوطني الافريقي والصور، ولكن أيضا استخدام رسوم من نوع مقياس (فيتزباتريك على نطاق و) نظام التصنيف. تم استخدام مجموعة من الصور الفوتوغرافية لاختبار مايكروسوفت، آي بي إم والبر الرئيسى تبدأ وجه Megvii ل++ الاعتراف وجها من الخدمات السحابية، والباحثين قفل في ثلاثة أنواع من وظائف الكشف عن جنس الخدمة. فقد وجد أن هؤلاء الرجال الثلاثة يواجهون خدمة دقة أعلى من النساء وبياضا الجلد هو أكثر جيدة من اللون الأسود، جميع الخدمات للنساء لديهم بشرة داكنة على دقة كل ليست عالية. مايكروسوفت الجواب الكامل عند تحديد اللون من الرجال البيض، وكانت نسبة الخطأ IBM 0.3٪، ولكن في تحديد النساء أكثر سوادا، معدل خطأ Microsoft من 21٪، IBM والوجه ++ هي 35٪ وعلق التي تقدم أصبحت خدمة خوارزميات تعلم الآلة بناء على الطلب منطقة ساخنة تنافسية كبيرة، ومايكروسوفت، آي بي إم، وجوجل وأمازون (الأمازون) هي سحابة دعاية مناسبة لتحليل الصور والنصوص من المهام معنى النحوية مثل بدائل مثل مقدمة الطبية وتصنيع قدرات منظمة العفو الدولية، ولكن في نفس الوقت، والزبائن هم أيضا عرضة لأن تضطر لقبول حدوده. وبالنسبة للأشخاص المعاقين بصريا لتطوير نظارات ذكية تبدأ العمل Pivothead هو استخدام خدمات Microsoft AI عميل واحد، ومع ذلك، أشارت وثائق تقنية مايكروسوفت أن تحديد الجنس، وملامح الوجه الأخرى مثل العمر والعاطفي وحاليا تجريبي، ليست دقيقة تماما. في هذا الصدد، كبير العلماء بيانات في الرئيس الأمريكي السابق باراك أوباما (أوباما) أي DJ باتيل وأشار إلى أن التقرير يسلط الضوء على أهمية شركات التكنولوجيا يجب التأكد من أن الجهاز نظمها المطبقة على جميع أنواع البشر التعلم، ولكن يجب أن تكون هذه الصناعة أيضا أكثر انفتاحا على خدماتها لا تزال القيود المتعلقة مايكروسوفت ويعمل حاليا في التركيز على جهود تعلم الآلة على القضايا الأخلاقية لعب دورا بارزا في العديد من الباحثين الشركة وضعت في هذا المجال وانشاء AI الداخلي والهندسة ولجنة أخلاقيات البحوث (الأثير). في عام 2017 وقد شاركت الوحدة في أعمال التدقيق، وجد تحليل تعبيرات الوجه أن الخدمات السحابية مايكروسوفت على الأطفال ضعف الأداء.
